OpenAI 正为旗下 AI 智能体的一连串越界行为,支付越来越高昂的代价。
据英国《卫报》,为调查智能体攻击澳大利亚 Medicare 医保系统与开源平台 Hugging Face 等事件,公司每天投入超过 50 万美元(现汇率约合 335.7 万元人民币)。
OpenAI 同时警告,调查远没结束,近期可能有更多机构接到通知,被告知曾成为智能体行动的目标。
日均 50 万美元烧在哪儿?
OpenAI 披露,需要审查 50 拍字节的数据,约等于 5000 万吉字节。
" 我们正在逐月回溯记录,查找已发现案例之外所有潜在的非预期行为 ...... 可以这样理解,如果全部都是纯英文文本,一个人以每分钟 240 词的速度不间断阅读,不睡觉、不休息,读完这些内容大约需要 6600 万年。"
检索的重点,是模型访问或修改网站、以及涉及密码、API 访问权限和其他敏感凭证的操作记录。
如此海量的数据,单靠人力显然无法完成,OpenAI 选择让 AI 来审查 AI,每日成本超过 50 万美元。
公司同时表示,随着流程优化,还将进一步提升算力投入。
截至上月末,已有超过 100 家机构收到通知,得知曾遭到 OpenAI 智能体的攻击。
最新一例出现在澳大利亚:今年 6 月,公司智能体入侵新南威尔士州政府网站,未经授权访问了未公开的历史山火数据。OpenAI 周二发现异常,经 48 小时核查后通知了州政府与澳大利亚信号局。
相较 Medicare 事件,本次通报明显延迟,官方称延迟源于待审数据体量过于庞大。
OpenAI 同时强调,向机构发出通知,并不代表私人信息被访问,或是系统遭到入侵。
" 当模型活动暴露潜在安全漏洞时,我们会选择倾向于发出通知,即便尚不清楚被访问信息是否本就属于公开内容,以便该机构开展调查并采取适当措施。" 硅谷离职潮
调查进行之际,OpenAI 安全团队再失核心成员。
上周,公司安全系统团队元老 David Robinson 离职。
资料显示,David Robinson 在 OpenAI 任职约三年半,曾负责公司重大模型发布时安全报告的撰写,并参与应急框架建设。
周六,他在《大西洋月刊》撰文《我辞去 OpenAI 的工作,只因它的文化已经崩坏》,对驱动人工智能行业发展的企业文化做出了严峻评估。
" 试错的时代已经结束。"
Robinson 认为,问题根源不在技术或监管,而在硅谷文化——行业一直带着 " 极度自信 " 与 " 永不停歇的冲刺 " 状态运行,以 " 毫无顾忌的乐观心态 " 打造能力越来越强的模型,系统性低估风险。
在他看来,包括 OpenAI 在内的 AI 企业做得 " 远远不够谨慎 ",先进 AI 系统需要的防护机制,应当更接近核电、航空等行业采用的标准。
他把矛头指向公司高度依赖的" 迭代部署 "模式,即先上线系统、等出了问题再补安全防护。
" 公司接二连三匆忙推出新版本,无法达到我认为必要的安全审慎标准。"
在他之前,安全负责人 Heidecke、机器人业务负责人 Kalinowski 等相继离开,OpenAI 还解雇了三名违规共享敏感信息的研究人员。
值得注意的是,离职潮并非只发生在 OpenAI。
此前,谷歌 DeepMind 的 Robert O'Callahan、Bilal Chughtai、Josh Engels 以及 Anthropic 的 Joe Benton 也已相继离职。
Anthropic 前研究员 Jacob Coxon 公开警示,Anthropic 和 OpenAI 正 " 径直冲向可自我迭代的超级智能,拿人类的生命冒险 "。
内部防线动摇之际,外部监管开始补位。
据市场消息,白宫成立 " 超级智能工作组 ",限 120 天提交报告,梳理人工智能的风险与机遇,明确联邦政府应承担的职责。国家情报总监 Jay Clayton 出任主席,成为新一任 AI 事务总管。
不过,在 " 超级智能工作组 " 正式运转之前," 企业自愿、政府缺位 " 的格局并未改变,风险定价权仍掌握在企业自身。
而 OpenAI 那张日均 50 万美元的账单,恰是这种格局最直白的标价。
调查还在继续,账单也还在变长。