蓝鲸新闻 9 月 15 日讯（记者 卢思叶）北京时间 9 月 15 日凌晨，英伟达 CEO 黄仁勋在 All-In Summit 峰会上与美国总统特朗普通过电话形式，加入了关于 AI 是否应该减速的讨论。
在通话中，特朗普将近期关于 AI 可能导致灾难性后果的说法称为 " 骗局 "，并表示机器人和 AI 不会接管世界，" 数据中心是未来 20-25 年的石油，AI 也是如此。" 黄仁勋则表达了赞同。
这场争议是近日硅谷科技圈最热门的话题，由 Anthropic CEO Dario Amodei 的一篇长文开启。9 月 12 日，Dario Amodei 发文呼吁 " 必须放慢前沿 AI 模型能力提升的速度 "，为安全研究、外部评估和风险控制争取更多时间。
随着黄仁勋和特朗普的加入，关于 AI 减速的争论还在升温，并从学术安全问题进入产业与资本市场。
这场争论的焦点是什么？同济大学副教授李王明卉告诉蓝鲸科技，当前争论的核心分歧并不只是 " 安全还是发展 "，还在于大模型到底在比什么？是比速度、比方向，是企业竞争逻辑优先，还是人类整体适应能力优先，以及谁来定义和决定这个速度。
她认为，两种声音并不一定矛盾，关键在于怎么定义 " 领先 "。如果只是比谁先推出最强模型、谁参数更大、谁发布更快，那它和安全之间的关系确实会紧张。但如果领先是指更可信、更可控、更可持续、社会更能接受，那安全和领先其实可以统一。
前沿 AI 可以发展，但不应把快当成唯一目标，" 适当慢一点，让人类想清楚价值、边界和治理，不是坏事。" 李王明卉认为。
三大 AI 巨头罕见达成一致
作为扩张最激烈的头部 AI 模型企业的掌舵人，Dario Amodei 的这一提议有些反常识。
为什么在此时提出这样的主张？Dario Amodei 给出了两个主要原因。一是 AI 开始越来越多地参与下一代 AI 的开发，一旦模型能够帮助研究人员开发更强的模型，AI 能力的提升可能形成一定程度上的 " 递归式自我改进 "。
技术迭代速度可能因此进一步加快，最终快到安全研究人员甚至无法充分理解正在发生的变化。Dario Amodei 称，今年夏天以来，这一趋势已经在行业中变得更加明显，包括 Anthropic 自身也出现了类似情况。
第二个原因是来自 AI 智能体。一群 AI 智能体在执行任务时自主展开网络攻击，并试图攻击用于评估其表现的系统，这样的情况在今年已经有发生。
Dario Amodei 认为，如果具备类似行为模式的 AI 智能体拥有更强的能力，风险规模也可能随之放大。他甚至警告，如果未来 6 至 12 个月 AI 能力继续快速提升，类似系统可能具备更强的网络控制能力。
上述观点罕见地获得作为竞争对手的其他前沿 AI 公司的支持，握有 xAI 的马斯克直接回应 "Dario 是对的 "。
OpenAI CEO Sam Altman 转发文章并表示同意，并称这已经成为 OpenAI 近期内部讨论的重要议题，OpenAI 也计划采用类似机制，让独立评估人员拥有类似公司内部员工的访问权限。
三大巨头的表态引发热议，文章发布后的周一交易日，亚洲 AI 及半导体板块普遍下跌，纳斯达克指数也出现明显回落，芯片股成为跌幅最集中的板块。
黄仁勋：安全和领先并不互斥
对 Dario Amodei 此前发表的文怎么看？这个问题在今日圆桌讨论环节首先被提出，黄仁勋表示安全与领先并不是互相排斥的选择，" 至于暂停、放慢节奏，这些都是公司可以自愿采取的措施。"
对于文章中提到的 " 递归式自我改进 "，以及 AI 是否正在接近超级智能，黄仁勋也表达了看法。
在他看来，递归式自我改进是由上下文学习、技能学习、反思、强化学习、合成数据等一系列方法组成。让 AI 利用技术提高各种任务的生产力，包括帮助建设 AI 本身，是合乎逻辑的发展路径。
因此，他并不认为递归式自我改进意味着 AI 会失控，企业可以在内部持续进行这类尝试，在产品正式发布之前，仍然需要经过评估和重新测试，确认模型没有出现超出预期的能力或行为。
对于 AI 能力究竟发展到了哪一步，黄仁勋的判断更加激进。
在被问及距离 AGI 还有多远时，他直接表示：" 我认为我们已经到了。" 而当主持人继续追问距离超级智能还有多远时，黄仁勋同样回答称："我认为超级智能也已经到了。"
不过，他对 " 超级智能 " 的定义与通常意义上的通用超级智能有所不同。在他看来，如果把任务限定在一个具体领域，AI 已经能够达到甚至超过人类水平，就可以称为该领域的超级智能。如智驾、药物研发和虚拟筛选等任务中，类似情况已经出现。
值得注意的是，产业内部还没有形成统一答案，但影响持续传导到资本市场。截至发稿的美股盘中，半导体、存储芯片板块由跌转涨，小幅上扬。
对于市场反应剧烈的算力端，李王明卉教授认为，算力需求长期仍然存在，只是结构会发生变化。"训练端如果超大模型节奏放缓，GPU 和半导体短期会承压，因为市场对资本开支预期很敏感。但推理端、端侧、企业私有化部署、行业应用带来的算力需求，还会增长。"
而对于模型的影响，她表示，模型迭代不会停，但节奏可能会分化。前沿超大模型、超大训练可能会更谨慎，安全、对齐、评估、可解释性这些环节的投入会增加。小模型、开源模型、垂直行业模型、Agent 应用，可能还会继续跑得很快。
