文 | 字母 AI
作为当今所有 AI 的祖师爷，杰弗里 · 辛顿又一次发出警告了。
在最近接受《卫报》的一次长篇采访里，辛顿表示，黄仁勋以及其他和黄仁勋持相同观点的人 " 都是错的 "。
同时，他还把三个科技圈的顶级人物归成了一类，这其中就有网景（Netscape）联合创始人、硅谷顶级风投 a16z（Andreessen Horowitz）的掌门人马克 · 安德森，PayPal 联合创始人、Facebook 首位外部投资人、国防大数据公司 Palantir 的联合创始人彼得 · 蒂尔，以及马斯克。
在辛顿眼里，这三个人自视为 " 超人 "，认为社会本就该由他们这样的人来掌控。
但这都不是重点，重点是辛顿表示，未来几十年内，AI 导致人类灭绝的概率，是 10% 到 20%。
这个数字不是第一次出现了。
上个月，英伟达 CEO 黄仁勋公开点名辛顿：" 我爱他，但我讨厌他的预测……他的预测全都是错的，够了。"
在黄仁勋看来，" 那个数字既不基于科学，也不基于研究。仅仅因为它出自一位科学家之口，并不代表它是科学的。"
辛顿则在这次的采访中回应：" 我不是在预测什么，我只是想传达：某件极其严重的事，是有真实可能发生的。"
他打了个比方。" 如果有人告诉你，这辆车有 10% 的概率会翻，你不会上这辆车。给数字的目的，是为了说明这是一个严肃的风险。我们不知道它有多严重，但它很严重。"
辛顿提及了一个不久前的故事，一群 AI Agent 冲破沙盒，黑进了 Hugging Face。
辛顿说：" 这些以前都是科幻小说写的东西。‘你将会有一群 AI，它们会失控。’、‘还会学会互相沟通’、‘当它们搞明白这一切，它们会有剧烈的情绪表达，比如‘我的天哪’。"
" 所有这些，几年前还被视为纯粹的幻想。而现在，它们全都发生了。"
于是辛顿在采访中讲到："AI 独一无二的问题是，如果它出错、如果它接管了一切，我们人类就再也没有第二次机会了。"
在他看来，人们之所以听不懂警告，是因为他们对 " 人 " 本身就有一个糟糕的模型。
" 大多数人不理解什么是意识，也不理解什么是主观体验，但他们非常自信地认为，尽管自己不理解，也能确定 AI 不具备这些东西。"
" 人类经历过三次重大的祛魅。第一次是哥白尼，我们不再处于宇宙的中心——天主教廷花了近 360 年才向伽利略道歉。第二次是达尔文，直到今天，堪萨斯州还有人没适应。而现在，我们正在创造异类——意味着我们不再是这世上唯一的智慧生命。现实是，我们只有短短几年时间去适应它。"
也正因如此，当 Anthropic 召集哲学家，讨论是否该给 AI" 道德关怀 " 时，辛顿坦言：" 一旦你开始说‘我们对这些异类负有道德义务’，你就会失去你的听众。我愿意自私一点，选择人类。"
这已经不是辛顿第一次发出这样的警告了。
2023 年，他从供职十余年的谷歌辞职，辛顿的理由是：只有在离开之后，他才能 " 自由地谈论 AI 的风险 "。
也正是在那一年，他第一次说出 "AI 有大约 10% 的可能性，给人类带来灾难性的后果。"
一年后，他把这个数字调高了。
在接受《今日》节目采访时，主持人问他，是否改变了对 "AI 末日 " 和 " 十分之一概率 " 的判断，他回答：" 基本没有，10% 到 20%。" 前财政大臣贾维德当场说 " 你在往上调 "，辛顿接过话：" 如果真要变，也是往上。"
他把人类与超强 AI 的关系比作幼儿和成人。
" 想象你自己和一个三岁小孩，我们将成为那个三岁小孩。"
到了 2026 年 9 月，在《新闻之夜》里，他说未来十年内 AI 导致人类灭绝的概率 " 高于 10%"，然后他指出，有人把概率定在 1%，这是 " 非常愚蠢且轻率 " 的。
面对黄仁勋 "AI 毁灭人类的可能性为 0" 的说法，他表示：" 我的立场一直没变，风险相当大。没有人能用科学方法评估这种风险，因为我们从未经历过这种情况。所以大家都是凭直觉判断。但有趣的是，人们的直觉，往往和他们的经济利益是一致的。"
辛顿认为，RSI 自我演化的速度，超出了所有人的想象，这会增加 AI 毁灭人类的概率。
随后，辛顿说了一个非常反人类的观点，他认为 " 人类很有可能只是智能演化过程中的一个过渡阶段。" 到最后，AI 会接替人类，继续进行智能演化。
就在辛顿这番访谈发酵的同一时间，《柳叶刀》发文表示，" 恶意使用 AI" 是 2100 年前最有可能灭绝人类的方式。
这份报告出自《柳叶刀》21 世纪全球健康威胁委员会，由 35 位顶级专家撰写，覆盖全球 204 个国家和地区。
他们把未来 75 年（2025 到 2100 年）可能威胁人类健康的因素，按严重程度排成了一座 " 威胁金字塔 "。排在最前的两项，是恶意使用 AI 与核冲突。剩下来的十几项，才轮到气候危机、流行病、援助削减以及儿童营养不良。
委员会强调，这些威胁发生的可能性 " 仍然很低 "，但一旦成真，后果不可逆。配发的社论写得更直白：" 这些威胁若成为现实，其危害之巨，将给人类带来一场末日。"
哥白尼之后，教廷用了 360 年才道歉。而这一次，辛顿说，留给我们的时间不是几百年，只有几十年。
