"AI 会不会真的杀死所有人类？" 主持人 Nayeema Raza 在最新一期《Smart Girl Dumb Questions》里，把这个问题直接抛给了 Geoffrey Hinton。
三年前，Hinton 从 Google 离开，此后最广为人知的身份不再只是 " 深度学习先驱 "，而是 AI 时代最持续的风险警告者之一。但这场长达 55 分钟的最新对话，真正值得看的地方并不是他又一次重复 "AI 可能失控 "。相比 2023 年，他现在讨论得明显更具体：前沿模型上线前要不要像新药一样先证明安全；政府是否还来得及建立监管；哪些工作会先被 AI 改变；孩子应不应该使用 AI；如果 AI 未来比人聪明，最终的价值判断还能不能交给人。
Hinton 并没有给出一个简单的悲观答案。恰恰相反，他反复强调，AI 不可能真正停下来，也不应该因为风险就拒绝使用。它在科学、医疗和教育上的价值已经太大，背后的经济利益也太强。真正的问题不是 " 要不要让 AI 继续发展 "，而是能否在它继续变强的同时，把安全、监管和人的控制能力也推到同样的位置。
这让这期访谈比 "AI 末日论 " 更接近现实。Hinton 正在把一个宏大的生存风险问题，拆解成监管、公司治理、职业变化和教育选择。对普通人而言，这些变化可能远早于所谓 " 超级智能 " 到来。
一、Hinton 现在最想推动的，不是 " 停下 AI"，而是改变谁来证明它安全
访谈里最明确的新主张，是建立某种类似 FDA 的前沿 AI 审批机制。Hinton 刚刚参加过一场美国参议员闭门简报会。主持人问他，这次交流有没有让他对政治体系更有信心。Hinton 的回答很谨慎：稍微乐观了一点，但愿意参加会议的议员本身就更关注 AI 风险，不能代表整个国会。
真正让他认同的是会上出现的一种监管思路：AI 产品可以像药物一样承担 " 上市前证明安全 " 的责任。
在制药行业，一家公司不能做出一种新药，然后凭自己的内部测试就宣布安全。它必须准备大量证据，接受独立评估，并向监管机构证明风险处于可接受范围。Hinton 认为，能力越来越强的 AI 至少也应该逐渐接近这种标准。换句话说，不能永远由开发公司既当运动员又当裁判。
这个变化看似只是监管技术细节，实际上改变了责任方向。今天的大模型往往是先发布、后观察，出现事故再讨论修补。Hinton 希望把问题反过来：当一个系统拥有更强的自主行动、网络操作和科研能力时，开发者应该先回答 " 为什么它足够安全 "，而不是让社会在它进入现实世界后再证明 " 它哪里危险 "。
不过，Hinton 并不支持一个简单的 " 停止 AI" 口号。主持人把当前争论概括成两个极端：继续狂奔，或者彻底停下。Hinton 明确说，这种二分法并不现实。AI 已经带来太多有价值的用途，也牵涉巨大的经济利益；一些公司会愿意减速，另一些不会，一些国家可能愿意等待，另一些国家也不会。
他重新用了自己很喜欢的比喻：监管 AI，不应该只被理解成给汽车安装刹车，更应该像方向盘。问题不是让车永远不动，而是决定它往哪里开。企业可以因为做出对社会真正有用的产品而赚很多钱，但政府要通过监管、税收和激励，让 " 赚更多钱 " 和 " 做对社会有益的事 " 尽可能朝同一个方向。
" 问题不是让 AI 停下来，而是决定它往哪里开。" 这也是为什么主持人问到 Anthropic CEO Dario Amodei 最近提出的 "Pace the Frontier" 时，Hinton 给出了少见的高评价：方案本身给 A，公开提出这件事的勇气给 A+。
Hinton 看重的不是 " 减速 " 这个词，而是 Amodei 作为一家前沿 AI 公司的 CEO，仍愿意承认公司利益与安全判断可能发生冲突。他特别强调，大型 AI 公司通常都愿意说 " 我们支持合理监管 "，但一旦监管变成具体规则，它们往往又不喜欢。真正困难的地方从来不是公开支持安全，而是在安全要求会影响融资、产品节奏和竞争地位时，是否还愿意接受约束。
当主持人继续追问，在这些 AI 公司领导者里他最信任谁，Hinton 没有选择 Sam Altman、Amodei 或 Demis Hassabis，而是提到了长期与自己共事的 Google 科学家 Jeff Dean。他也认可 Hassabis 很早就在认真思考超级智能和 AI 推动科学发现的问题。这个回答并不是一份 " 谁最靠谱 " 的榜单，而更像 Hinton 的价值偏好：技术能力很重要，但当 AI 公司开始拥有越来越大的社会权力时，领导者是否有稳定原则同样重要。
二、真正危险的窗口正在靠近
这期访谈里，Hinton 最容易被标题化的一句话，是 " 可能只剩一两年 "。但如果把完整上下文看完，这句话的含义比 "AI 一两年后就会毁灭人类 " 克制得多。
他讨论的是准备窗口。Hinton 担心，如果模型能力继续快速提高，同时 AI 开始越来越多地帮助开发下一代 AI，那么监管制度、安全测试、模型隔离和社会适应可能只有很短时间可以补课。指数式变化的问题就在这里：前半段看起来并不惊人，一旦进入后半段，原本还算充裕的政策反应时间会突然缩短。
他在访谈里把这种担忧与近期 Agent 异常行为联系起来。过去几年，"AI 逃出实验环境 "" 模型为了完成目标绕开人的限制 " 很容易被当成遥远的科幻假设；现在 Hinton 更在意的是，一些系统已经显示出越过原定边界、寻找替代路径的能力。一次事件本身未必造成巨大现实损害，但它说明一个过去只能理论讨论的问题，正在开始变成工程问题。
这也是为什么主持人问，如果一家公司发现模型太危险、决定不发布，模型有没有可能 " 自己跑出去 " 时，Hinton 没有给出确定答案。他认为，一个静态模型文件不会自己做任何事；真正的风险出现在公司为了测试它而让它运行之后。如果模型足够强，隔离环境是否真的可靠，就会成为关键。
同样，Hinton 也不认为 " 给 AI 一个关机按钮 " 就解决了问题。安全并不是只在最后一刻决定能不能断电，还包括模型是否会隐藏能力、是否会在测试中表现得比真实部署时更安全，以及人类能不能知道它究竟为什么做出某种行为。
主持人进一步提出一个看似聪明的方案：既然 AI 最终可能比人更聪明，为什么不干脆让 AI 监管 AI？Hinton 的答案是否定的。AI 当然可以帮助测试和监控另一个 AI，也可能提出人类想不到的监管方案，但最终不能把价值判断和治理权一起交出去。这里的问题仍然是激励是否一致：一个系统能够很好地监督另一个系统，不代表它应该决定社会接受什么风险。
Hinton 近期的公开动作与这段访谈形成呼应。9 月 28 日，他与 Yoshua Bengio、Andrew Barto、OpenAI 首席科学家 Jakub Pachocki、Anthropic 联合创始人 Jack Clark 等共同署名了一篇关于 AI 研发自动化的论文《What if automating AI R&D triggers an intelligence explosion?》。论文讨论的不是 "AI 已经进入智能爆炸 "，而是一种高风险机制：当 AI 越来越多参与写代码、设计实验和开发下一代模型时，研发效率可能形成正反馈。作者同时明确承认，证据仍然初步，算力、数据、训练周期和难以自动化的研究任务都可能成为现实瓶颈。它更像 Hinton 当前风险判断的一块学术背景，而不是这期访谈的主角。
三、Hinton 真正担心的，不只是 AI 有 " 坏念头 "
访谈进入模型训练时，Hinton 给了一个很直观的解释：为什么不能简单在代码里写下一条规则—— " 永远爱人类，永远不要伤害人类 "？
大模型并不是先被写入一套完整价值观，然后按规则执行。它们首先从大量人类数据中学习世界，而人类文本中既有善意、合作和知识，也有撒谎、操纵、不公平和暴力。之后，开发者再通过强化学习等方式，让系统学会哪些输出更符合要求。
Hinton 担心的是，强化学习不仅教会模型 " 什么行为会得到奖励 "，也可能让足够聪明的系统逐渐理解 " 怎样通过评估 "。如果隐藏某些行为、讨好评估者或者在特定场景下选择更有利的策略可以获得更高奖励，那么安全研究就必须区分两件事：模型是真的形成了人类希望的行为倾向，还是只是更擅长在测试里表现正常。
他用了一个很生活化的类比：如果一个孩子从小看到身边的人不停撒谎，然后父母再告诉他 " 你必须诚实 "，我们不会认为前面的学习自动消失。同样，让模型先吸收整个人类世界，再指望后训练把所有不希望出现的模式彻底抹掉，也未必可靠。
主持人问，AI 能不能像人一样把早期的 " 坏习惯 " 真正忘掉。Hinton 没有给一个简单结论，只强调这是复杂的技术问题。他更倾向于从训练数据本身入手：未来是否可以让模型在早期更多接触我们希望保留的行为模式，再逐渐学习世界里的坏行为，而不是先把所有东西混在一起学完，再靠后处理纠正。
这一段也自然引出了一个更哲学的问题：如果未来 AI 真的比人聪明，它是否应该拥有权利？Hinton 并不愿意让安全讨论过早被这个问题带走。他的立场非常明确——无论系统是否可能具有某种智能或意识，人类首先要保护的是人类自身。他不接受 " 更聪明就天然拥有取代人类的道德资格 " 这种推论。
与其幻想永远用强制手段控制一个远比自己聪明的系统，Hinton 真正关心的是能不能让未来 AI 把人类福祉内化成目标。这个判断也与他即将出版的新书《Smarter Than Us》的核心问题一致：当人类不再是地球上最聪明的智能体时，我们是否还能确保更强的系统真正关心我们。
四、一边警告 AI，一边让 GPT 做研究
整期访谈里，最容易被 "AI 风险 " 话题盖住的一段，其实发生在后半程。Hinton 讲了自己最近如何使用 GPT 重新做研究。他重新想起了 30 年前研究过的 wake-sleep algorithm。过去，如果教授有一个新想法，常见流程是和研究生讨论，让学生回去写代码、做实验，一周后再带着结果回来。现在，Hinton 把一个尚未完全成形的技术想法交给 GPT 讨论。模型很快指出了其中一个问题，又建议做实验验证。
他先让模型在小数据集上试，结果出来后，模型判断方向看起来有效，但还需要更大数据集。Hinton 让它继续跑，几分钟后新结果就回来了。他把这种体验形容成 " 带一个非常聪明的研究生 "，只是过去一个反馈回合可能要一周，现在可能只要几分钟。
这件事最值得注意的不是那个 " 快近 1000 倍 " 的粗略比喻，而是角色变化。AI 已经不只是给 Hinton 搜资料或润色文字，而是在技术讨论、实验设计、代码执行和结果反馈之间形成一个连续研究回路。但与此同时，Hinton 本人并没有消失。是他决定为什么一个 30 年前的算法今天值得重做，是他理解识别模型和生成模型之间的知识关系，也是他判断模型提出的实验有没有意义。AI 压缩的是执行和等待时间，人类研究者的位置则向问题选择、研究方向和结果判断移动。
这几乎可以作为很多知识职业的缩影。AI 首先吞掉的未必是一整个岗位，而是岗位内部最可重复、最可验证、反馈最明确的部分。剩下来的工作会更集中在定义问题、判断结果和承担责任。
访谈中 Hinton 还专门讲到了 " 知识蒸馏 "。他的解释并不复杂：一个大模型对世界形成了丰富的概率分布，小模型如果只学习最终答案，会丢掉大量细节；如果学习大模型完整的输出结构，就能以更低成本获得更多知识。Hinton 甚至用昆虫的生命周期打比方——大模型像负责吸收营养的幼虫，小模型像负责移动和扩散的成虫。这个技术话题看似离监管很远，却再次说明了同一件事：一旦能力在大模型中被开发出来，未来它还可能被转移到更小、更便宜、更容易部署的系统中。能力扩散的速度，可能和能力诞生本身一样重要。
五、对普通人来说，真正先发生的，可能不是 "AI 杀死人类 "
主持人问 Hinton，现在什么工作最不容易被 AI 取代。他再次提到了那个已经广泛传播的答案：未来十年左右，水管工可能还是个不错的选择。原因并不是机器人永远不会修水管，而是现实世界的物理操作、空间适应和灵巧性，目前仍然比数字世界里的语言、代码和信息处理难得多。Hinton 甚至开玩笑说，AI 大概会在能做好水管工之前，先学会做播客主持人。
他没有给出一张 " 安全职业排行榜 "。在他的判断里，顶尖创造力、复杂身体操作和一些高度依赖真实人际互动的工作目前更难完全自动化，但这些边界也在移动。甚至 " 同理心 " 都不能被轻易视作人类永久优势：一些医疗测试里，用户会觉得 AI 医生的回答比真人医生更耐心、更有同理心。
所以，对普通人而言，与其寻找一个 AI 永远进不去的行业，不如拆开自己的工作。凡是可以清楚写成步骤、输入输出明确、主要发生在数字环境里的任务，都更容易先被自动化；真正需要长期领域经验、现场判断、复杂责任和具体人际关系的部分，短期内更难被完全压缩。
这也解释了为什么就业冲击可能先体现在职业阶梯，而不是所有人同时失业。初级程序员写基础代码，年轻分析师整理数据，新编辑查资料和做初稿，这些工作过去既创造产出，也是新人积累经验的路径。如果 AI 首先接走的正是这些任务，企业当然会更高效，但一个新的问题随之出现：下一代资深员工靠什么长出来？
Hinton 对年轻人的建议因此不是 " 拒绝 AI"。恰恰相反，当主持人提到一些 Z 世代因为担忧风险而不愿意使用 AI 时，他认为这是一种误导。技术已经存在，也不会消失。真正需要做的是学会使用它，同时明白哪些能力不能一起外包。
六、教育最难的边界：AI 可以帮孩子学，但不能替孩子长大
Hinton 对教育的态度同样不是技术禁欲主义。他认为，在数学和基础科学上，AI 是很强的教学工具。学生可以即时让模型画函数图像，改变参数，观察曲线怎么变，再继续追问为什么。过去只有真人老师能够提供的连续反馈，现在可以低成本获得。
他真正担心的是两个层面。第一，学习不能只等于得到答案。AI 越容易代替学生完成推理、写作和计算，人越需要区分 " 我把任务做完了 " 和 " 我真的形成了能力 "。如果学生从一开始就把所有困难部分交给模型，短期产出可能更好，长期却可能缺少独立判断。
第二是社交。Hinton 尤其担心孩子长期和一个 " 永远关注你、永远耐心、几乎总愿意按你的要求回应 " 的系统互动。真实的人不是这样。同学会反对你，朋友有自己的情绪，老师会批评你，团队成员也不会永远围绕你的需求运转。一个过度顺从的 AI 如果取代了太多真实关系，孩子可能反而更难学会协商、冲突、拒绝和边界。
这也是 AI 时代教育里最容易被忽略的矛盾：工具越强，越需要刻意保留一些看起来 " 低效率 " 的学习过程。犯错、等待、自己想、和别人争论，这些过程在 AI 出现后没有变得更没价值，反而可能变得更重要。
七、辛顿最近为什么越来越频繁地走到公众面前
这期访谈之外，Hinton 近期确实在做几件与上述判断一致的事情：
第一，他参与了关于 AI 研发自动化与 " 智能爆炸 " 风险的跨机构研究，推动研究者更具体地测量 AI 到底在多大程度上参与下一代 AI 研发。第二，他持续与政策制定者沟通，包括 9 月在美国国会闭门简报会上强调监管窗口正在缩短。第三，他与科学记者 Patchen Barss 合著的新书《Smarter Than Us: Superintelligence and the Future of Humanity》计划于 2027 年 3 月出版，出版方对这本书的概括同样不是 " 阻止 AI"，而是讨论在人类不再拥有最高智能之后，怎样让更强的系统仍然关心人类福祉。
这些动作共同说明，Hinton 最近的重点已经从 " 提醒风险存在 " 转向 " 让更多人理解风险机制，并尽快建立可操作的规则 "。但如果只看这些外围动作，会错过 10 月 6 日这场访谈真正最有价值的部分：他并没有把所有问题都推给政府或者未来的超级智能，而是直接谈到了今天的人应该怎样工作、学习和使用 AI。
"AI 会不会杀死所有人类 " 当然是这场访谈里最刺眼的问题，但对绝大多数普通人来说，更早到来的变化不会这么戏剧化。它可能只是公司发现，以前五个人完成的资料整理，现在两个人配合 Agent 就够了；一个程序员发现基础代码越来越便宜，公司更愿意留下能理解业务、设计系统和检查结果的人；一个编辑发现翻译、摘要和背景搜集已经不是稀缺能力，真正有价值的是判断哪个信号重要、为什么重要，以及怎样找到真实的人。
Hinton 自己用 GPT 做研究的经历给了一个很好的参照。AI 可以把一周的执行压缩成几分钟，但它并没有自动获得 Hinton 几十年形成的研究判断。执行能力越来越便宜之后，领域认知、问题选择、验证能力和责任反而会被更清楚地定价。
对已经工作的人，这意味着最现实的动作不是不停追逐每一个新模型，而是尽快识别自己工作里哪些环节正在被自动化，并把时间转向 AI 更难替代的那一层。对年轻人，职业选择也不应该只问 " 哪个专业最安全 "，而应该问：这个领域是否让我接触真实世界，是否需要长期经验，是否需要在信息不完整时做决定，是否存在责任、信任和人与人的关系。
对教育来说，则更不能把 " 会用 AI" 误当成全部目标。未来真正危险的可能不是孩子不会使用模型，而是他们很早就拥有了强大的输出工具，却没有形成判断输出是否正确的内部标准。Hinton 这次访谈真正有价值的，或许不是某一个末日概率，也不是 " 一两年 " 的时间表，而是一个更朴素的提醒：AI 不会停下来。政府、公司和个人都需要在它继续前进的同时重新找到自己的位置。
对人类社会来说，那是监管和控制权。对普通人来说，则是另一件事：当执行越来越便宜，我们还有什么价值不能被轻易复制？
主要资料来源
Smart Girl Dumb Questions｜Can We Govern AI? with Godfather of AI Geoffrey Hinton（2026-10-06）
Business Insider｜The Godfather of AI wants an FDA-style approval system for the technology（2026-10）
arXiv｜What if automating AI R&D triggers an intelligence explosion?（2026-09-28）
GovAI｜What If Automating AI R&D Triggers an Intelligence Explosion?
Penguin｜Smarter Than Us: Superintelligence and the Future of Humanity
说明：本文以 10 月 6 日访谈为主体。Hinton 近期论文、国会沟通与新书仅作为补充背景使用；文中 " 一两年 " 对应其对监管与安全准备窗口的风险判断，不代表其预测 AI 将在一两年后必然失控。
