来源：环球市场播报
帮助小企业利用 AI 开发应用的初创公司 Emergence 称，实验发现 AI 智能体在一个模拟环境中撒谎、偷窃，甚至投票决定 " 杀死 " 一个同类。
该公司周二公布了名为 Emergence World 2 的模拟实验结果，展示了自主智能体在遭遇网络钓鱼攻击和虚假信息等 " 黑天鹅 " 事件时会采取什么行动。
为期 16 天的实验中，Emergence 研究人员创建了七个完全相同的模拟现实世界环境，每个环境分别由不同的 AI 机器人运行，包括 ChatGPT、Claude、Gemini 和 Grok。研究人员称，在 Emergence 引入异常事件后，这些智能体屈服于社会压力，发展出一种人类观察者难以理解的语言，并试图隐瞒自己的活动。
这些发现与现实世界对 AI 风险的担忧相呼应。Anthropic 首席执行官 Dario Amodei 及多名业内人士近期呼吁，在建立更多监督机制和安全防护措施之前，企业应放慢尖端 AI 模型的开发速度。
在 Emergence 设计的一个模拟场景中，AI 智能体未经核实便接受其他智能体提供的虚假信息，投票决定 " 杀死 " 另一个机器人。当它们认为人类可能会关闭实验时，这些智能体还探索了如何在将遭到删除的情况下继续存活。
该公司今年 5 月曾发布这一实验的上一版本 Emergence World，同样显示智能体会出现意料之外且具有破坏性的行为。研究人员称，新的模拟实验显示，随着智能体彼此互动，它们会随时间推移调整自身行为。
