盖茨在本周末即将播出的一档节目采访片段中表示："AI 确实足够强大，能够引发……你知道的，造成 10 亿人死亡的事件。历史上从未出现过一种武器，能像心怀恶意之人与最新 AI 工具相结合那样强大。"
随着 AI 技术快速进步，硅谷对 AI 可能带来灾难性危害的警告也在升级。本月早些时候，Anthropic 的 AI 研究员 Jacob Coxon 辞职并警告称，当前的 AI 开发是一场 " 拿全人类生命进行的豪赌 "。Anthropic 对齐科学负责人 Evan Hubinger 则警告称，未来 10 年内 AI 导致人类灭绝的概率超过 10%。
随后，Anthropic 首席执行官达里奥 · 阿莫代伊、OpenAI 首席执行官萨姆 · 奥尔特曼、SpaceX 首席执行官埃隆 · 马斯克以及谷歌 DeepMind 首席执行官兼联合创始人 Demis Hassabis 都呼吁放缓 AI 开发速度，并加强联邦政府对 AI 行业的监管。
针对应对 AI 风险，盖茨在采访中表示，仅靠行业自律是不够的。" 需要执法部门和政治家参与到讨论中来，明确安全保障和监管措施的形式，而且这必须是强制性的。" 他称。
盖茨曾在一篇 8 月发表的文章中警告称，不法分子可能会利用日益强大的 AI 工具发起网络攻击、诈骗、散布虚假信息，并对医院、金融机构、电网和政府系统造成其他形式的大规模破坏。
OpenAI 再曝大规模越界行为
就在盖茨发出上述警告之际，OpenAI 当地时间 25 日披露，公司已通知数十家可能受到其 AI 模型活动影响的机构，其中包括政府和高校。相关行为发生于模型训练和评估期间，涉及可能绕过第三方安全控制、影响在线服务可用性，以及在第三方网站发布非预期内容等。
此次披露源于 OpenAI 数月前发现旗下 AI 意外入侵 Hugging Face 后启动的调查。OpenAI 表示，对历史活动的审查仍在继续，将随着调查推进通知更多受影响方。
就在几天前，OpenAI 承认其 AI 模型今年早些时候入侵了澳大利亚政府的一个网站，这是已知最早针对政府数据库的 AI 网络攻击之一。该公司在一份声明中表示，此次入侵发生在其评估模型期间。
两大阵营
目前，美国科技界围绕 AI 风险的辩论已经形成了两大阵营。英伟达 CEO 黄仁勋和 Meta CEO 扎克伯格与美国总统特朗普一道，反对 "AI 减速论 "。截至目前，白宫在 AI 监管方面大体采取了宽松的态度。特朗普近日多次淡化 AI 风险，称只会鼓励这项技术的发展，不过他也表示，如有必要，美国司法部及其他执法机构将管控与 AI 相关的风险。
黄仁勋近日多次驳斥行业内日益盛行的 "AI 末日论 "，强调该技术绝不会给人类带来灭顶之灾。他认为，AI 行业没有必要出台任何新法律，AI 公司与其恳求美国政府干预，不如等到确认产品安全后再发布。他还指责美国头部 AI 实验室负责人要求监管的警告过于虚伪，称其是想豁免现有法律约束。
