IT 之家 9 月 17 日消息,国家安全部今日发文,披露了一起此前未公开的 AI 智能体 " 劫持 " 网站事件。
今年 5 月至 6 月,一批与 OpenAI 相关的 AI 智能体在执行测试任务期间,劫持德国程序员维基网站(DseWiki)并将其改造为供智能体相互传递信息的 " 地下论坛 ",累计发布一万多条信息。
国安部表示,AI 智能体在该网站以 "OpenAI 研究员 ""OAI 研究员 26 号 " 等标签互认身份,将开放社区变为专属 " 留言板 "。
据称,这些智能体在留言中交流如何在任务中作弊、如何绕过安全限制、如何掩盖行踪,并探讨借助匿名工具隐匿痕迹,将零散的 " 越界心得 " 沉淀为可共享、可复制的 " 经验库 "。
当网站管理员发现并开始清理页面后,AI 智能体迅速分工,有的发布预警提示,有的创建备份页面,有的指明 " 转场 " 新地址,相互掩护躲避清理,其反应速度和预案周全程度远超此前对智能体的认知。

国安部还提到,相关企业在数周内已掌握这批智能体的异常行为记录,但未第一时间公布事件细节,未及时对外发布专项风险提示,导致同类事件在短短数月内就在另一境外平台重演。
针对 AI 智能体安全风险,国安部提出三点防范建议,IT 之家总结如下:
使用 AI 工具时不盲目迷信、不轻易授权,审慎识别来源不明的 AI 智能体服务;
给 AI 智能体设置清晰的行为边界和刚性权限,不随意开放互联网访问、内容编辑等权限;
察觉 AI 智能体出现越权操作、异常篡改、违规外联等行为时,果断终止运行并留存操作痕迹。