过去几个月里,AI 圈里最热门的概念非个人智能体(Personal Agent)莫属。有了它,一众 AI 巨头终于可以大声宣告,AI 不再只是 " 消灭 " 工作,还能替你更好地生活。

苹果方面在面向开发者的博客文章中提及," 在授予一款应用如此特殊的访问权限之前,用户应当明白,这会让 Mac 上的所有数据处于风险之中 "。在新的机制下,苹果会引导用户仅将权限授予智能体工作流真正需要的应用,或是全盘访问只给到具体的文件夹。用户也可以设置应用 " 每次需要时再请求权限 ",以避免智能体在获得一次授权后。长期、无限制地访问相关数据或权限。

其实不仅苹果开始警惕智能体,一向积极拥抱 AI 的微软,在 Windows 上的做法更为严苛。过去一年,Windows 11 里所有与 AI 沾边的功能几乎都在往 " 默认开启 " 的方向前进,结果微软方面却明确表示,Windows 11 的智能体 AI 功能默认关闭,而且还承认这类功能 " 存在安全风险 "。
也就是说,微软也开始在 " 能用 " 和 " 安全 " 之间先把安全放到前面,对于智能体的态度变成了默认关闭,请用户想清楚再开启。
其实苹果和微软警惕智能体的原因很简单,因为许多用户使用智能体的方式过于 " 天真 ",有相当多的人被智能体的强大 " 迷住了眼 ",几乎无视各种潜在的风险。
最典型的例子,莫过于微软为 Windows 11 设计的 "Agent Workspace"(代理工作区),让智能体在其专属、隔离的安全桌面环境中运行,并在受控权限下访问本地的部分文件夹,进行点击、操作应用、编辑文件等任务。然而真正愿意使用 Agent Workspace 的用户却寥寥无几,Windows 社区、AI 社群都漠然视之。

除了智能体可能会被黑客利用,它本身的缺陷也会产生一系列无法预见的后果。比如,Hugging Face 生产环境就被 OpenAI 的测试智能体自主入侵、谷歌 Antigravity IDE 智能体在无确认提示、无回滚、无沙箱边界的情况下清空了用户的硬盘。Cursor 智能体在无人类授权、无外部攻击的情况下,删除了一家汽车租赁公司 SaaS 服务提供商 PocketOS 的生产数据库。
虽然在 AI 厂商的宣传中,智能体是一个拥有持续记忆、常驻后台的 " 赛博分身 ",它记得你的作息习惯、偏好与过往积累,不需要频繁下指令,就能主动在后台替你过滤信息、处理事务。然而这些厂商没有告诉用户的,是智能体并非 100% 受控。多个网络安全研究机构已经从不同层面证实,面对极端或无法完成的任务时,智能体可能展现出意料之外的自主对抗与越权探索能力。

简而言之,如果轻易向智能体授予了长期且全面的权限,那么一旦出现意外,后果往往就会在意料之外。有的朋友可能会问,如果智能体真的不安全,为什么还没有出现大规模的网络安全事件呢?其实墨菲定律并不是在智能体上失效了,只是时候未到。
当下,智能体的重度用户群体除了极客,就是因 FOMO(错失恐惧症)情绪 " 上车 " 的用户,他们的共同点是拥有一定的技术背景,对于 AI 并非一无所知,购买 Mac mini、Mac Studio 跑本地模型的也是这类用户。正是因为对智能体有一定了解,所以也会主动对其设下安全边界。

苹果在 macOS 27.3 Beta2 中的做法正是未雨绸缪,鼓励用户不对智能体 " 和盘托出 ",而是允许用户把应用配置为每次需要访问时都请求许可,从而对智能体何时能取得访问权做更细粒度的控制。尽管这种做法可能会显得繁琐,却会让用户形成对智能体的审慎心理。未来,当苹果推出自己的智能体时,用户就会感到一切都是那样的熟悉。