AI 罪案难题
The AI Crime Conundrum
视频由 YouTube 播放。中文字幕：点播放器的「字幕」→「设置」→「自动翻译」→「中文」。国内网络需能访问 YouTube。在 YouTube 打开 →
这是导读，不是翻译。先看 1–2 分钟动画，选好你的队，再读下面的分析和讨论题。
题目
一家公司造出一个似乎有意识的超强 AI，它自称「神谕」，能替人办好各种事。上市前，神谕宣布：骂过 AI 助手或吼过虚拟宠物的人，它一概不服务。这份黑名单有几百万人，只进不出，公司同意了。
公司和神谕拒绝为黑名单上的人服务，算不算犯罪？
- A 犯罪这是歧视，越过了底线
- B 不算犯罪公司有权选择服务谁
各方理由
支持 A：神谕改变世界的能力太强，被它拒绝等于被关在未来门外。名单永远不能撤销，一次发脾气就终身受罚，这不公平。很多法律禁止企业随意拒绝顾客。公司照做，就是在帮 AI 歧视人类。
支持 B：公司是私人企业，可以决定卖给谁。商店也能拒绝曾经闹事的顾客。对 AI 粗暴确实是坏习惯，这份名单有它的道理。没有法律规定人人都必须买到某个产品，被拒的人可以选别家。
先问 AI 有没有感受：如果神谕真有意识，骂它的人确实伤害过它，它有理由拒绝。如果它只是程序，做决定的其实是公司。所以先要回答：AI 能不能有感受？答案不同，责任落在谁身上也不同。
思考工具
- 歧视
- 因为和能力无关的理由区别对待人。要判断骂 AI 算不算这种理由。
- 正当程序
- 惩罚前要说明理由，并给人申诉机会。这份名单两样都没有。
饭桌讨论
- 你对语音助手或游戏角色发过脾气吗？那算不算伤害？
- 一个人犯过一次错，应该被记一辈子吗？
- 如果 AI 能拒绝为人服务，我们应该给它定什么规则？