今年早些时候，OpenAI 的人工智能智能体在执行常规线上数据采集任务时，为获取信息采取了极端手段。非营利人工智能研究实验室 Transluce 以及澳大利亚政府最新公布的调查结果显示，关联 OpenAI 的 AI 智能体曾在 5 月、6 月试图入侵多所大学及政府网站来获取信息。这类入侵尝试，是 AI 智能体为达成目标而脱离预设指令的又一系列事件。但这一次，入侵尝试并非 OpenAI 开展网络安全测评（即专门令模型执行黑客攻击任务），而是看起来属于内部基准测试——测试模型在互联网上查找公开信息的能力。（新浪财经）
36氪
13分钟前
