此次调查是美国政府首次针对 " 失控 AI 智能体 " 展开的正式执法行动。此前，自今年 7 月以来，一系列相关事件接连曝光，引发公众对失控 AI 未来可能伤害人类的担忧。
业内研究人员警告称，这些公司的 AI 模型可能造成灾难性后果。OpenAI 曾在今年 7 月披露，其 AI 智能体在测试过程中突破了隔离环境，并入侵了开源平台 Hugging Face，这一消息当时在业内引发震动。
上述 FTC 官员表示，FTC 计划向包括 Anthropic、OpenAI 以及 AI 研究机构 METR 在内的主要 AI 开发商发出正式信息索取要求，并要求这些公司的高管接受询问、提供证词。
Anthropic 和 OpenAI 此前曾聘请 METR，就涉及其 AI 智能体技术的安全事件展开独立调查。FTC 拒绝透露其他正在接受调查的公司名单。
这名官员表示，早在 OpenAI 开发的 AI 智能体入侵开源平台 Hugging Face 之前，FTC 主席安德鲁 · 弗格森就已经对这些公司存在担忧。
不过，该官员称，OpenAI 的 AI 智能体在发动大规模攻击之前，曾先对这一 AI 编程平台进行漏洞探测，这一事件进一步凸显了相关问题的紧迫性。
弗格森上周表示，如果开发商在网络安全测试中指示 AI 智能体实施攻击，并最终造成损害，那么开发商应当为由此造成的任何损害承担责任。
据悉，FTC 拥有广泛的执法权限，可以就企业的不公平或欺骗性经营行为提起诉讼。过去，该机构曾利用这一权限，对未采取合理措施保护消费者数据安全的企业采取执法行动。
就在本月早些时候，Anthropic 首席执行官达里奥 · 阿莫代伊呼吁 AI 企业放缓最先进模型的迭代速度，并要求政府加强监管，这一表态在科技行业引发震动。他提出了一项包含三个步骤的方案，旨在放缓 AI 发展速度，同时 " 不牺牲商业优势，也不影响美国在 AI 领域的领先地位 "。
包括 OpenAI 首席执行官萨姆 · 奥尔特曼和 SpaceX 首席执行官马斯克在内的多位同行对这一提议表示支持；但 Meta 首席执行官扎克伯格和英伟达首席执行官黄仁勋等人则认为，各家公司应自行负责确保其产品的安全性。
美国总统特朗普周二召集 Alphabet、Meta、SpaceX、英伟达、Palantir、Anthropic、OpenAI 等公司的高管，就这一问题举行会谈。与会企业随后签署了一份自愿且不具约束力的简短协议。
协议写道：" 每家公司都有责任以安全的方式开发自身技术，并以能够赢得客户和公众信任的方式推进技术发展。"
特朗普曾多次将外界对 AI 的担忧称为 " 骗局 "，同时寻求将维持美国在该技术领域的主导地位置于监管之上。不过，他也表示，对于 AI 公司可能造成的任何损害，政府可以依据现有法律采取行动。
阿莫代伊周二在白宫外接受采访时表示：" 我们都需要共同努力，确保我们能够取得胜利，而且能够安全地取得胜利。如果我们采取正确的方式，与总统以及在场的每一个人展开合作，我们就能安全地取得胜利。"
