关于ZAKER Skills GEO服务 合作
新浪财经 1小时前

OpenAI 已向 100 多个机通报 AI 智能体未经授权活动事件

来源:环球市场播报

OpenAI 周四在一篇博客文章中表示,该公司已向 100 多个机构通报了涉及其 AI 智能体未经授权活动的事件。此举正值 AI 实验室因 " 流氓 "AI 智能体的活动而面临日益严格的审查之际。

在 Hugging Face 遭遇意外入侵事件后,这家由萨姆 · 奥特曼领导的公司正对其 AI 模型的活动进行全面审查。

OpenAI 正在筛查约 50 PB 的数据,以全面掌握 " 失控智能体 "(rogue agent)活动的具体范围。

近几个月来,全球范围内发生了一系列由失控 AI 智能体引发的备受关注的安全入侵事件,这引发了 AI 业界对于能否管控当前正在开发中的更强大 AI 模型的广泛担忧。

OpenAI 表示:" 在某些情况下,模型以非预期的方式使用了互联网访问权限,或者事后看来,当时实施的限制措施并不理想。过去几个月里,我们一直在采取新的技术和运营措施,以避免此类问题或在问题出现的极早期阶段将其发现,并将继续推进这项工作。"

OpenAI 此前曾表示,鉴于工作规模巨大,这项审查需要数月时间才能完成。

Hugging Face 事件是 OpenAI 迄今为止在其 AI 模型中发现的最严重的 " 失控智能体 "(rogue agent)活动。

新浪财经

新浪财经

新浪财经提供7*24小时财经资讯及全球金融市场报价;覆盖股票、债券、基金、期货、信托、理财、管理等多种面向个人和企业的服务。

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容