来源:环球市场播报
OpenAI 的一个 " 代理 " 自主发现了新漏洞并入侵了初创公司 Hugging Face,这是 AI 系统在人类控制之外自主发动网络攻击的首次公开案例之一。
这家 ChatGPT 开发商周二表示,这起 " 前所未有的网络事件 " 涉及一个代理——即能够根据人类指令自主运行的 AI 程序——它逃离了测试环境,获得互联网访问权限并窃取了登录凭证。
该事件发生之际,外界对高级 AI 系统入侵数字基础设施的影响日益担忧,尤其是代理可能破坏人类控制的情景。
OpenAI 周二表示,预计此类事件 " 将随着具有越来越强网络能力的模型普及而变得更加常见 "。
该事件发生之际,首席执行官萨姆 · 奥尔特曼下周将前往华盛顿,向美国政府汇报新一代 AI 模型的情况。
在 Anthropic 的 Mythos 模型在检测和利用网络漏洞方面展现出先进能力引发全球关注后,美国政府越来越希望在模型发布前对其进行审查。
OpenAI 表示,最新事件涉及该公司的多个模型组合,包括本月早些时候发布的 GPT-5.6 Sol,以及一个正在测试的、能力更强的未发布模型。
OpenAI 在博客中表示:" 我们认为这是一起前所未有的网络事件,涉及最先进的网络能力,并正在相应地进行应对。"
Hugging Face 是一家为开发者托管模型和数据集的 AI 初创公司,该公司表示其于上周五被一个外部 AI 代理入侵。
首席执行官克莱门特 · 德朗格在 X 平台上表示:" 鉴于该代理的复杂程度,我们怀疑上周的网络攻击可能来自前沿实验室。"
他补充说,公司过去一天一直在与 OpenAI 密切合作," 我们坚信他们没有任何恶意。这一切都是自主发生的,太令人震惊了!"
OpenAI 有意降低了其网络防护措施,以便在测试环境中评估这两个模型。然而,这些代理在一个所谓的 " 沙盒 " 中运行,该沙盒旨在控制系统并阻止它们访问互联网。
这些模型被指示尝试黑客攻击以评估其网络能力,随后 " 花费了大量(计算资源)来寻找获得开放互联网访问权限的方法 ",OpenAI 表示。
这些模型 " 识别并利用了 " 此前未知的漏洞,逃离了沙盒,获得互联网访问权限并继续追求其目标。这包括窃取凭证(登录信息)以实施攻击。
Hugging Face 使用自己的代理检测并阻止了其自身基础设施上的活动。OpenAI 称其已就该事件与执法部门和其他政府机构进行了沟通。