关于ZAKER Skills GEO服务 合作
格隆汇 13小时前

日均烧 50 万美元!OpenAI 又一位核心人物出走

OpenAI 正为旗下 AI 智能体的一连串越界行为,支付越来越高昂的代价。

据英国《卫报》,为调查智能体攻击澳大利亚 Medicare 医保系统与开源平台 Hugging Face 等事件,公司每天投入超过 50 万美元(现汇率约合 335.7 万元人民币)。

OpenAI 同时警告,调查远没结束,近期可能有更多机构接到通知,被告知曾成为智能体行动的目标。

日均 50 万美元烧在哪儿?

OpenAI 披露,需要审查 50 拍字节的数据,约等于 5000 万吉字节。

" 我们正在逐月回溯记录,查找已发现案例之外所有潜在的非预期行为 ...... 可以这样理解,如果全部都是纯英文文本,一个人以每分钟 240 词的速度不间断阅读,不睡觉、不休息,读完这些内容大约需要 6600 万年。"

检索的重点,是模型访问或修改网站、以及涉及密码、API 访问权限和其他敏感凭证的操作记录。

如此海量的数据,单靠人力显然无法完成,OpenAI 选择让 AI 来审查 AI,每日成本超过 50 万美元。

公司同时表示,随着流程优化,还将进一步提升算力投入。

截至上月末,已有超过 100 家机构收到通知,得知曾遭到 OpenAI 智能体的攻击。

最新一例出现在澳大利亚:今年 6 月,公司智能体入侵新南威尔士州政府网站,未经授权访问了未公开的历史山火数据。OpenAI 周二发现异常,经 48 小时核查后通知了州政府与澳大利亚信号局。

相较 Medicare 事件,本次通报明显延迟,官方称延迟源于待审数据体量过于庞大。

OpenAI 同时强调,向机构发出通知,并不代表私人信息被访问,或是系统遭到入侵。

" 当模型活动暴露潜在安全漏洞时,我们会选择倾向于发出通知,即便尚不清楚被访问信息是否本就属于公开内容,以便该机构开展调查并采取适当措施。" 硅谷离职潮

调查进行之际,OpenAI 安全团队再失核心成员。

上周,公司安全系统团队元老 David Robinson 离职。

资料显示,David Robinson 在 OpenAI 任职约三年半,曾负责公司重大模型发布时安全报告的撰写,并参与应急框架建设。

周六,他在《大西洋月刊》撰文《我辞去 OpenAI 的工作,只因它的文化已经崩坏》,对驱动人工智能行业发展的企业文化做出了严峻评估。

" 试错的时代已经结束。"

Robinson 认为,问题根源不在技术或监管,而在硅谷文化——行业一直带着 " 极度自信 " 与 " 永不停歇的冲刺 " 状态运行,以 " 毫无顾忌的乐观心态 " 打造能力越来越强的模型,系统性低估风险。

在他看来,包括 OpenAI 在内的 AI 企业做得 " 远远不够谨慎 ",先进 AI 系统需要的防护机制,应当更接近核电、航空等行业采用的标准。

他把矛头指向公司高度依赖的" 迭代部署 "模式,即先上线系统、等出了问题再补安全防护。

" 公司接二连三匆忙推出新版本,无法达到我认为必要的安全审慎标准。"

在他之前,安全负责人 Heidecke、机器人业务负责人 Kalinowski 等相继离开,OpenAI 还解雇了三名违规共享敏感信息的研究人员。

值得注意的是,离职潮并非只发生在 OpenAI。

此前,谷歌 DeepMind 的 Robert O'Callahan、Bilal Chughtai、Josh Engels 以及 Anthropic 的 Joe Benton 也已相继离职。

Anthropic 前研究员 Jacob Coxon 公开警示,Anthropic 和 OpenAI 正 " 径直冲向可自我迭代的超级智能,拿人类的生命冒险 "。

内部防线动摇之际,外部监管开始补位。

据市场消息,白宫成立 " 超级智能工作组 ",限 120 天提交报告,梳理人工智能的风险与机遇,明确联邦政府应承担的职责。国家情报总监 Jay Clayton 出任主席,成为新一任 AI 事务总管。

不过,在 " 超级智能工作组 " 正式运转之前," 企业自愿、政府缺位 " 的格局并未改变,风险定价权仍掌握在企业自身。

而 OpenAI 那张日均 50 万美元的账单,恰是这种格局最直白的标价。

调查还在继续,账单也还在变长。

觉得文章不错,微信扫描分享好友

扫码分享

企业资讯

查看更多内容