关于ZAKER 合作
科创板日报 12小时前

硬刚美国防部?Anthropic CEO:无法昧着良心解除 AI 安全限制!

财联社 2 月 26 日讯(编辑 黄君芝)美国人工智能初创公司 Anthropic 首席执行官达里奥 · 阿莫迪周四表示,尽管五角大楼威胁要将该公司从国防部的系统中移除,但该公司无法在人工智能(AI)安全保障争议中满足五角大楼的要求。

据悉,五角大楼之前与 Anthropic 签订了一份价值 2 亿美元的合同,而双方目前争议的焦点在于后者为其人工智能模型 Claude 设置的种种限制。

一方面,五角大楼希望 Anthropic 解除限制,允许军方将该模型用于 " 所有合法用途 "。而另一方面,Anthropic 始终认为,人工智能的可靠性不足以操控武器,而且目前还没有任何法律法规来规范人工智能在大规模监控中的应用。

阿莫迪周四表示,美国国防部已明确表示,只会与同意 " 任何合法用途 " 并取消安全措施的人工智能公司签订合同。但Anthropic 与该部门签订的合同中从未包含大规模国内监控和完全自主武器等 AI 应用案例," 我们认为现在也不应该包含这些案例 "。

据一位五角大楼官员此前透露,Anthropic 必须在周五下午 5 点 01 分之前 " 要么同意,要么拒绝 "。如果该公司不同意,美国国防部长皮特 · 赫格塞斯将确保 " 对 Anthropic 公司援引《国防生产法》,强制五角大楼使用其产品,无论该公司是否愿意 "。

这位官员还表示,赫格塞斯还将把 Anthropic 公司列为 " 供应链风险 "。

对此,阿莫迪回应称," 尽管如此,这些威胁并不会改变我们的立场:我们不能昧着良心答应他们的要求。"

当天早些时候,五角大楼发言人肖恩 · 帕内尔表示,国防部对使用 AI 对美国人进行大规模监视没有兴趣,也不想使用人工智能开发无需人类参与即可运行的自主武器。

" 我们要求的是:允许五角大楼将 Anthropic 的模型用于所有合法用途。" 他补充道。

阿莫迪还称," 选择与国防部愿景最契合的承包商是国防部的特权。但鉴于 Anthropic 公司的技术将为我们的武装部队带来的巨大价值,我们希望他们重新考虑。"

" 如果国防部选择终止与 Anthropic 的合作,我们将努力确保顺利过渡到其他供应商," 他补充道。

Anthropic 的一位发言人也表示,该公司仍然 " 准备继续谈判,并致力于保障国防部和美国作战人员的行动连续性 "。

相关阅读

最新评论

没有更多评论了
科创板日报

科创板日报

上交所科创板电报,股市行情报道

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容