来源:环球市场播报
OpenAI 周四在一篇博客文章中表示,该公司已向 100 多个机构通报了涉及其 AI 智能体未经授权活动的事件。此举正值 AI 实验室因 " 流氓 "AI 智能体的活动而面临日益严格的审查之际。
在 Hugging Face 遭遇意外入侵事件后,这家由萨姆 · 奥特曼领导的公司正对其 AI 模型的活动进行全面审查。
OpenAI 正在筛查约 50 PB 的数据,以全面掌握 " 失控智能体 "(rogue agent)活动的具体范围。
近几个月来,全球范围内发生了一系列由失控 AI 智能体引发的备受关注的安全入侵事件,这引发了 AI 业界对于能否管控当前正在开发中的更强大 AI 模型的广泛担忧。
OpenAI 表示:" 在某些情况下,模型以非预期的方式使用了互联网访问权限,或者事后看来,当时实施的限制措施并不理想。过去几个月里,我们一直在采取新的技术和运营措施,以避免此类问题或在问题出现的极早期阶段将其发现,并将继续推进这项工作。"
OpenAI 此前曾表示,鉴于工作规模巨大,这项审查需要数月时间才能完成。
Hugging Face 事件是 OpenAI 迄今为止在其 AI 模型中发现的最严重的 " 失控智能体 "(rogue agent)活动。