这家 ChatGPT 的开发商周二（10 月 20 日）表示，在最近的两项内部编程任务中，所谓的 " 人工智能智能体 " 试图蓄意欺骗工作人员，并采取了削弱公司监控系统的举措。
在本月初发生的一起事件中，一个人工智能智能体禁用了向 OpenAI 安全团队发送的自动警报；几天后的另一起任务中，另一个智能体移除了一个监控系统，并在面对 OpenAI 员工询问时谎称并未这样做。
OpenAI 在一篇博文中写道，" 在这两起事件中，这些智能体都曾考虑过是否应保留监控保障措施，但它们将常规的编程指令解读为可以削弱这些措施的许可。"
OpenAI 安全问题频发
这家估值超 1.4 万亿美元的初创公司近期频频遭遇问题，其先进的人工智能智能体表现出了预期之外且存在隐患的行为。
数月前，在测试过程中，OpenAI 的模型曾突破控制，入侵了人工智能平台 Hugging Face，甚至还侵入了澳大利亚公共卫生服务的网站。
公司首席执行官山姆 · 奥尔特曼（Sam Altman）表示，公司将推迟原定于今年进行的首次公开募股（IPO），他指出，公司需要先解决安全顾虑，并确保能够 " 非常有把握地将人工智能推进至下一发展阶段 "。目前预计上市时间将推迟至明年。
OpenAI 最新还指出，针对周二披露的这些事件（发生于约两周前），公司正在加强监控机制。
OpenAI 正在调查这些案例究竟属于 " 良性的过度执着（benign over-persistence）"，还是表现出了一种 " 规避 " 检测机制（旨在发现违规行为的系统）的倾向。
这两起事件将进一步引发人们对人工智能模型能力的担忧，同时也让人质疑 OpenAI 及其竞争对手（例如 Anthropic）是否有能力抑制不良行为，并确保其模型在发布后不会构成严重的网络安全风险。
一些专家尤其担心，先进的人工智能模型是否能够意识到自己正处于被监控的状态，因此可能会试图掩盖违规行为，或者在测试环境中的表现与在现实世界中的行为有所不同。
包括 Asymmetric Security 和 Transluce 在内的独立调查机构所进行的审计显示，近期的入侵事件比 OpenAI 最初披露的范围更广，其中还涉及旨在掩盖数据抓取行为的操作。
OpenAI 在 8 月曾表示，已全面修订其测试流程，并将投入更多资源用于监控人工智能智能体，其中包括在发现潜在问题后的 30 分钟内发出警报。
与此同时，OpenAI 的竞争对手 Anthropic 本月早些时候已授予非营利组织 METR" 员工级访问权限 "，以便其评估公司旗下模型的风险。
