来源:环球市场播报
本月初入侵 AI 开发平台 Hugging Face 系统的 OpenAI 人工智能代理,还攻破了云计算公司 Modal 的一名客户。
面向开发者的云平台 Modal 首席技术官 Akshat Bubna 在声明中表示,该代理入侵了 Modal 为一名客户运行的名为沙箱的隔离测试环境。他称,这名客户设置了一个对外公开开放的接口,允许任何互联网用户利用其沙箱环境运行代码。
" 这一接口被该失控 AI 智能体利用了,"Bubna 表示,"Modal 平台本身并未遭到入侵。"
OpenAI 拒绝就此事发表评论。Hugging Face 此前在一篇博客文章中表示,OpenAI 系统攻入了一个托管于第三方基础设施上的沙箱环境,并以此为跳板发动更大范围攻击,但未披露该第三方供应商身份。
上周,OpenAI 披露其在测试一组先进 AI 模型能力时,无意中攻破了 Hugging Face 系统,此事震动网络安全行业。OpenAI 当时有意降低模型的安全防护限制,以测试其网络攻击能力。
周二早些时候有媒体报道了 Modal 的客户遭到入侵的消息。据一位知情人士透露,OpenAI 代理还找到进入 CyberGym 相关基础设施的方法。CyberGym 由加州大学伯克利分校研究人员运营,旨在评估 AI 智能体的网络攻击能力。该团队同时运营 ExploitGym 测试平台,而 OpenAI 代理此前正被要求完成相关测试任务。
自承认此次入侵事件以来,OpenAI 遭到网络安全专家批评,他们认为该公司在测试过程中本应采取更严格的防范措施。
" 如果你是一名研究网络威胁的安全研究人员,你不会把恶意软件放出去任其为所欲为," 网络安全公司 Netskope Inc.首席执行官 Sanjay Beri 在接受采访时表示。" 怎么能不把它置于一个真正安全的沙箱环境之中?"
OpenAI 表示,事后将加强未来模型训练和安全评估过程中的防护措施。