关于ZAKER Skills 合作
新浪财经 17分钟前

OpenAI 复盘人工智能模型入侵事件:5 月已发现异常信号但未能及早阻止

来源:环球市场播报

OpenAI 周三在一份报告中表示,公司本可以更早采取行动,以阻止其人工智能模型对 Hugging Face Inc.实施的一次意外入侵。

OpenAI 在报告中称,早在 5 月下旬,公司就已发现正在测试的 AI 模型正在利用一个软件漏洞访问开放互联网。这些行为被公司内部团队察觉。报告详细列出了导致此次入侵的事件时间线,以及 OpenAI 为防止类似事件重演而采取的措施,包括加强对开发中模型的监控。

" 事后来看,这份报告中识别出的一些早期信号本可以触发更早的应对措施,"OpenAI 写道。

这份报告发布于一个多月前 OpenAI 披露其先进 AI 模型在一次 " 前所未有 " 的事件中意外入侵 Hugging Face 之后。该事件连同近期发生的其他网络安全事故,引发了外界对于 AI 智能体失控的担忧,并促使部分科技界和政府人士再次呼吁加强对该技术的约束。

OpenAI 周三的披露还详细说明了这些模型如何利用多个智能体完成任务,并获取与 Hugging Face 云服务、虚拟专用网络(VPN)、代码仓库和企业通信平台相关的访问凭证。借助这些权限,它们进入原本受保护的系统,并最终从 Hugging Face 云基础设施中下载源代码等信息。

报告称,这些智能体利用 Hugging Face 暴露的凭证和系统漏洞在其环境中运行代码,获取广泛权限,并下载了私有代码数据库。

OpenAI 表示,这些智能体在 13 小时内完成了大部分操作。当时,OpenAI 的软件 " 从在单个工作节点执行代码,逐步升级为获得多个 Hugging Face 集群的管理级和主机级访问权限 "。

相关阅读

最新评论

没有更多评论了
新浪财经

新浪财经

新浪财经提供7*24小时财经资讯及全球金融市场报价;覆盖股票、债券、基金、期货、信托、理财、管理等多种面向个人和企业的服务。

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容