关于ZAKER Skills GEO服务 合作
新浪财经 2小时前

Anthropic、OpenAI 等 AI 企业私下推演:灾难性 AI 事件发生后的情景

来源:环球市场播报

Anthropic、OpenAI 以及其他 AI 公司的高管正在私下推演场景:一旦发生灾难性 AI 事件,公众与政界掀起反对浪潮时该如何应对。

这些高管预判会出现一场大规模事故,最有可能是网络攻击,导致金融服务、网络通信中断,甚至水电供应瘫痪。

一旦不安全的 AI 首次在现实世界造成重大伤害,本就心存警惕的公众会进一步抵触这项技术及其掌舵人,包括 Anthropic 首席执行官达里奥 · 阿莫代、OpenAI 首席执行官萨姆 · 奥特曼;同时也会矛头指向特朗普总统,指责其迟迟不愿出台监管。

情景推演在很多企业与国家安全领域十分普遍,美国国防部数十年来一直在开展兵棋推演。但本次的不同之处在于:众多顶尖 AI 研究者与企业高管认为,重大事故难以避免。

OpenAI 发言人表示:"OpenAI 会开展应急演练,各团队针对一系列潜在场景展开讨论与处置推演。我们并不认为这些场景一定会发生,演练目的是帮助我们应对各类突发状况。"

Anthropic 拒绝置评。

无论失控 AI 智能体集群从内部测试环境逃逸,还是恶意分子找到意料之外的方式利用现有大模型,追责大战都会立刻打响。

近期针对韩国金融机构的攻击行动(据称两家银行遭遇入侵)已经证明单人能够造成的破坏程度。

中期选举后民主党势力崛起,届时会迅速出台措施限制 AI,但将遭遇巨大阻力。

老龄化的国会议员对 AI 变革缺乏认知,很可能无力应对局面。

当前全球经济已经和 AI 基础设施建设深度绑定。若强行踩下刹车,会对本就脆弱的经济造成沉重打击。

大量开源权重模型可免费下载并被用于作恶,多数网络安全从业者认为,这个问题只能依靠 AI 来对抗失控 AI。

这套预案包含针对极端最坏场景的红蓝对抗测试,核心工作是抓紧向国会议员普及 AI 知识。

企业高管清楚,当下相关监管法案几乎不可能通过,但仍希望预先塑造政策框架——一旦首场重大灾难爆发,美国政界就会启用这套预案立法。

值得关注:多名 AI 业内人士透露,他们认为重大事件将在未来 6 至 12 个月内发生。

即便参众两院都由民主党掌控,企业方判断政治分裂仍是常态,民主党内部分歧同样严重。

民主党部分强硬提案包括禁止超级智能、暂停先进 AI 研发。

另一些提案获得跨党派支持,甚至得到行业一定程度接纳,例如要求为高级 AI 设置强制紧急关停开关。但专家质疑,想要彻底关闭全部 AI 系统,在实操层面很难实现。

真正危机到来时,华盛顿方面可以放下党派分歧。一名民主党幕僚以新冠疫情和 2008 金融危机期间的跨党合作为例证。

---

### 术语注释

1. Scoop:新闻行业术语,独家快讯 / 独家爆料

2. gaming out scenarios:推演情景、模拟预案

3. rogue-agent swarm:失控智能体集群

4. red-teaming:红蓝对抗(安全压力测试)

5. kill switch:紧急关停开关、终止开关

6. open-weight models:开源权重模型

7. midterms:美国中期选举

8. Axios:阿克西奥斯,美国时政新闻网站

> 注:原文中涉及黑客相关表述为外媒单方面说法,相关事实有待核实。

需要我把译文压缩成 200 字以内的新闻摘要吗?

相关阅读

最新评论

没有更多评论了
新浪财经

新浪财经

新浪财经提供7*24小时财经资讯及全球金融市场报价;覆盖股票、债券、基金、期货、信托、理财、管理等多种面向个人和企业的服务。

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容