来源:环球市场播报

苹果申报文件中的新风险因素显示了 AI 智能体的颠覆性潜力,这类智能体已迅速成为硅谷最重要公司高度关注的事项。
" 特别是,人工智能智能体和其他技术可以自主采取行动,包括与内部或外部系统交互——在某些情况下,它们可能无权访问这些系统——执行或修改代码、发送通信以及完成交易。" 苹果在文件中写道。
该公司补充说,智能体 " 可能以意外或不可预测的方式行事,包括采取未被指示、指令或授权的行动 "。
今年早些时候,OpenAI 发布了 Dots,Meta 推出了 Muse。这两款 AI 智能体都使用先进 AI 模型自主完成任务。它们甚至可以在新消息到达时给用户发邮件或提醒用户。
苹果作出这一披露之前,已发生多起失控 AI 智能体突破沙箱环境攻击第三方网站的事件,例如 Hugging Face 事件,该事件已重新引起华盛顿特区及全球政策制定者的关注。
另外,智能体能够以人类方式使用计算机,正迫使亚马逊和摩根大通等大公司出于战略或安全原因,围绕智能体访问服务制定政策。
上个月,苹果宣布对 Mac 的 " 完全磁盘访问权限 " 作出调整,以降低 PC 上安装的 AI 智能体 " 与此类访问权限相关的风险 "。
" 公司监督和控制第三方人工智能智能体及其他技术的能力可能有限。" 苹果在文件中警告称。
苹果目前没有智能体 AI。但当新任 CEO 约翰 · 特努斯在周一的财报电话会上被问及 AI 智能体时,他表示公司有 " 真正的空间 " 来扩展 Siri 的能力。
" 就智能体能力而言,我们认为这些对用户来说是有前景的工具," 特努斯说。" 我们只是希望确保用户清楚自己授予了什么访问权限。我们希望确保以保护安全性和隐私的方式来做这件事。"