关于ZAKER Skills 合作
财联社-深度 11分钟前

OpenAI 智能体失控事件新受害者出现 Modal Labs 据悉遭入侵

财联社 7 月 29 日讯(编辑 马兰)上周,OpenAI 披露其研发的技术在网络安全测试中失控,攻击了人工智能初创公司 Hugging Face 的系统,引发了业内外的关注。

而 Hugging Face 并非唯一的受害者。在 OpenAI 的声明中,其指出 OpenAI 的恶意智能体程序入侵了四个不同服务商的四个账户。一名知情人透露,人工智能初创公司 Modal Labs 正是另一家遭到入侵的公司。

Modal 的首席技术官 Akshat Bubna 表示,该公司的一名客户发布了一个未经身份验证的端点,允许互联网上的任何人利用他们的沙箱执行代码。OpenAI 的智能体利用了这个端点,但 Modal 的平台隔离机制并未受到伤害。

虽然 Modal 被入侵事件造成的影响比 Hugging Face 要小很多,OpenAI 也在此前声明中强调,并未发现与 Hugging Face 事件严重程度相当的其他活动,但其表明了 OpenAI 的恶意智能体活动范围远比之前所知要广得多。

处理方式令人不满

OpenAI 恶意智能体失控的事件引发了人工智能叛乱的讨论。

OpenAI 周二表示,已经将正在测试的人工智能停用、加密并限制研究访问权限,但随着前沿人工智能的不断发展,安全性风险始终悬于眼前。

举例而言,有心人可以买入交易量极低的公司的看涨期权,然而通过恶意智能体入侵大量客户的证券账户来抬高价格,从而谋利。从 Hugging Face 的事件来看,这一非法操作的难度已经大大降低。

而 OpenAI 处理此事的态度也被业界诟病。在入侵发生后,OpenAI 并未第一时间坦然相告,直到智能体被控制,且 FBI 接到警报后才发现异常,并承认了入侵的发生。

Hugging Face 的首席执行官 Cl é ment Delangue 周一表示,这一史无前例的攻击提醒人们应该提前准备应对措施,并呼吁对该事件进行完全透明的审查。

他还称希望 OpenAI 做到完全透明,公布恶意智能体的踪迹以方便研究,同时 OpenAI 也应提供额外的资金来构建针对人工智能的防御体系。

萨里大学网络安全教授 Alan Woodward 也强调,把人工智能失控归咎于它本身是怠懒之举,问题的关键在于 OpenAI 如何运行该工具。OpenAI 需要提供其设置的完整细节以及失败的原因。

相关标签

相关阅读

最新评论

没有更多评论了

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容