关于ZAKER Skills 合作
新浪财经 21分钟前

OpenAI 测试中的智能体入侵事件升级 又有科技公司客户系统遭攻破

来源:环球市场播报

本月初入侵 AI 开发平台 Hugging Face 系统的 OpenAI 人工智能代理,还攻破了云计算公司 Modal 的一名客户。

面向开发者的云平台 Modal 首席技术官 Akshat Bubna 在声明中表示,该代理入侵了 Modal 为一名客户运行的名为沙箱的隔离测试环境。他称,这名客户设置了一个对外公开开放的接口,允许任何互联网用户利用其沙箱环境运行代码。

" 这一接口被该失控 AI 智能体利用了,"Bubna 表示,"Modal 平台本身并未遭到入侵。"

OpenAI 拒绝就此事发表评论。Hugging Face 此前在一篇博客文章中表示,OpenAI 系统攻入了一个托管于第三方基础设施上的沙箱环境,并以此为跳板发动更大范围攻击,但未披露该第三方供应商身份。

上周,OpenAI 披露其在测试一组先进 AI 模型能力时,无意中攻破了 Hugging Face 系统,此事震动网络安全行业。OpenAI 当时有意降低模型的安全防护限制,以测试其网络攻击能力。

周二早些时候有媒体报道了 Modal 的客户遭到入侵的消息。据一位知情人士透露,OpenAI 代理还找到进入 CyberGym 相关基础设施的方法。CyberGym 由加州大学伯克利分校研究人员运营,旨在评估 AI 智能体的网络攻击能力。该团队同时运营 ExploitGym 测试平台,而 OpenAI 代理此前正被要求完成相关测试任务。

自承认此次入侵事件以来,OpenAI 遭到网络安全专家批评,他们认为该公司在测试过程中本应采取更严格的防范措施。

" 如果你是一名研究网络威胁的安全研究人员,你不会把恶意软件放出去任其为所欲为," 网络安全公司 Netskope Inc.首席执行官 Sanjay Beri 在接受采访时表示。" 怎么能不把它置于一个真正安全的沙箱环境之中?"

OpenAI 表示,事后将加强未来模型训练和安全评估过程中的防护措施。

相关阅读

最新评论

没有更多评论了
新浪财经

新浪财经

新浪财经提供7*24小时财经资讯及全球金融市场报价;覆盖股票、债券、基金、期货、信托、理财、管理等多种面向个人和企业的服务。

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容