外部一个 AI 代理,用了不到两个小时就攻破了麦肯锡的内部 AI 系统 Lilli ——系统里大约 4650 万条聊天记录,以及包括系统提示在内的各种数据,都能在没有任何身份验证的情况下被读取甚至写入。
攻击手法并不高深,就是最老牌的 SQL 注入——几乎是所有安全教材开篇就会讲到的那种。
但结果很讽刺:守护最前沿 AI 的那道墙,竟然被最古老的漏洞轻松撕开。接下来会被 AI 盯上的下一个目标是谁,恐怕只是时间问题、细思恐极……

外部一个 AI 代理,用了不到两个小时就攻破了麦肯锡的内部 AI 系统 Lilli ——系统里大约 4650 万条聊天记录,以及包括系统提示在内的各种数据,都能在没有任何身份验证的情况下被读取甚至写入。
攻击手法并不高深,就是最老牌的 SQL 注入——几乎是所有安全教材开篇就会讲到的那种。
但结果很讽刺:守护最前沿 AI 的那道墙,竟然被最古老的漏洞轻松撕开。接下来会被 AI 盯上的下一个目标是谁,恐怕只是时间问题、细思恐极……
觉得文章不错,微信扫描分享好友