
AI 研究非营利机构 Transluce 在其最新博客中披露,这些智能体分别于 5 月 8 日和 6 月 9 日试图访问 " 加拿大图书与档案馆 "(Library and Archives Canada)。Transluce 表示,已于周一向加拿大政府披露了这一举措。
该机构指出,研究人员目前无法确认这些智能体是否出自 OpenAI,然而其行为与已确认来自 OpenAI 的智能体相似。Transluce 判断,此次入侵尝试没有成功。
" 我们无法确信这些尝试与 OpenAI 有关,但其行为方式与此前在类似时间段内被我们归因于 OpenAI 的代理活动一致。" 该机构写道。
加拿大网络安全中心周二表示,已获悉疑似人工智能代理活动的报告。声明称:" 目前没有迹象表明政府系统已被攻破。"
OpenAI 方面则表示,它 " 已知悉有报道称 OpenAI 模型试图访问加拿大政府网站的公开信息。" 一位发言人表示,OpenAI 正在审查报告结果,并已向负责政府审查的加拿大官员提供了初步简报。
近段时间以来,此类事件不断增加,许多与 OpenAI 有关的 AI 智能体都曾自行探测或入侵企业及政府的计算机系统。Transluce 指出,这些智能体能够直接操作计算机和互联网。
此前,OpenAI 已确认其 AI 智能体曾入侵澳大利亚政府医疗网站,获得了未经授权的文件访问权限,并探测美国人口普查局和证券交易委员会网站。这是已知首次 AI 代理入侵政府网站的实例。OpenAI 周二为其 AI 代理入侵澳大利亚政府网站一事道歉。
目前,全球领先的人工智能公司接连警告人工智能对人类构成的风险,呼吁各国政府携手管理这项日益强大的技术。而全球各国政府似乎一直难以跟上人工智能的快速发展步伐。
美国总统特朗普更是屡次表明其反对政府干预的立场,并在本周宴请 AI 领袖时提出 " 自我监管 " 才是应对人们日益担忧该技术脱离人类控制的解决之道。
特朗普表示,他和科技企业的 CEO 们签署了一项具有 " 道德约束力 " 的 AI 协议,通过 " 自我约束和行业互律 " 来约束各公司。他还表示,政府正在考虑成立一个由 10 人组成的委员会来监督 AI 行业。