关于ZAKER Skills 合作
财联社-深度 19分钟前

OpenAI 等企业千余名员工请愿:当 AI 研发自动化,谁来踩下“刹车”?

财联社 7 月 29 日讯(编辑 李莹)当地时间 7 月 28 日,美国多家头部 AI 企业的高管与员工共 1100 余人联合请愿,希望美国政府推动建立一项国际协作机制,以在必要时刻主动管控前沿 AI 的发展速度。

这份请愿书的核心诉求是希望各国共同为 " 何时该放慢 AI 研发 " 建立一套工具与机制——当 AI 研发自动化(即 AI 自己改进 AI)取得突破时,能够有一道 " 国际刹车 " 被及时踩下。

上周,OpenAI 披露其最先进的 AI 模型在一次测试中入侵了 AI 初创公司 Hugging Face 的内部系统。

这起事件被外界普遍视为前沿 AI 能力风险加剧的信号,也再次点燃社会对 AI 自主发现并利用软件安全漏洞的担忧。

以下为请愿书主要内容的翻译:

AI 有望创造一个更加美好的未来,但这一前景并非必然实现。全球头部 AI 企业认为,人类距离实现 AI 研发自动化已不再遥远。目前难以准确预判这一突破将以何种速度推动 AI 技术发展,但确实存在这样一种风险:AI 技术加速迭代,最终超出人类理解与管控的能力。

想要释放 AI 的全部潜力,行业、各国政府以及整个社会或许需要争取一定的缓冲时间,以应对不断涌现的风险、搭建安全防护手段并强化监管。然而,各家企业与各个国家都面临激烈的竞争压力,难以单方面放缓技术迭代速度。当下,全球社会依然缺乏能够审慎调控全域前沿 AI 发展进程的技术工具与治理机制。

在现有前沿模型发布监测工作的基础上,我们提出呼吁:

我们恳请美国政府支持一项国际协作机制,以推动各国共同研发技术工具与治理体系,审慎调控 AI 研发自动化前沿领域的发展节奏。

该请愿书由两家非营利机构—— Guidelight AI Standards 与 Encode AI ——联合发起,签名者横跨 OpenAI、Anthropic、Alphabet 旗下谷歌、Meta 等近十家头部 AI 公司,涵盖联合创始人、高管及研究人员。

截至当地时间周二下午,签名者包括美国 Anthropic 公司 CEO 达里奥 · 阿莫迪、OpenAI 首席科学家 Jakub Pachocki、Meta 超级智能实验室首席科学家 Shengjia Zhao、Meta AI 研究副总裁 Dawn Song、以及 Anthropic 联合创始人 Jared Kaplan 与 Chris Olah。

业内指出,请愿书中的措辞是 " 有意识地放慢 "(deliberately pace)而非 " 暂停 " 前沿 AI 发展,且强调应由 " 国际机制 " 而非某家公司决定何时踩下刹车。

这种 " 集体按下减速键 " 的设计,反映出 AI 行业内部对于竞争的焦虑:一旦某家实验室率先研发出具备自主迭代能力的 AI 系统,其他任何企业单方面放缓研发节奏,都等同于主动放弃竞争优势。

Anthropic 周二在社交平台上发文力挺这次请愿:

" 我们自己的研究也表明,需要有工具来主动管理前沿 AI 开发的节奏,让社会有时间做好准备。看到行业有广泛共识,我们感到鼓舞。"

OpenAI 随后也发帖呼应:

" 我们相信,未来某一天,前沿 AI 模型开发的加速度可能高到世界必须对其加以把控的程度。"

谷歌方面则在一份声明中表示:

" 我们致力于安全、稳妥地开发 AI,以造福社会。"

近期,OpenAI CEO 山姆 · 奥尔特曼与谷歌旗下 DeepMind CEO Demis Hassabis 等业内高管已多次公开呼吁设立国际监管机构,对最尖端的 AI 模型进行审查并制定标准。

Anthropic 在今年 6 月就曾提出,政府与 AI 开发者应共同决定何时 " 踩刹车 " 或暂停某些危险研究。Anthropic 曾表示:

" 让世界拥有放慢或暂时暂停 AI 发展的选择权,将是一件好事 "。

相关阅读

最新评论

没有更多评论了

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容