关于ZAKER Skills 合作
IT之家 45分钟前

美科技顾问炮轰 OpenAI、Anthropic:别拿放缓要挟监管

IT 之家 9 月 14 日消息,美国总统科学技术顾问委员会联合主席戴维 · 奥利弗 · 萨克斯(IT 之家注:David Oliver Sacks)今日发文,就 OpenAI、Anthropic 近日 " 放缓前沿 AI 研发 " 论调发表个人看法:

达里奥表示,我们需要放缓前沿 AI 的发展速度,奥尔特曼也表达赞同。人们可能会对我的看法感到意外:那就让他们放慢吧。

你们两家公司就是前沿 AI。无论从市场份额、营收增长还是 AI 模型能力来看,你们已经形成了前沿 AI 领域的双头垄断。这两家公司还声称,由于递归式自我改进,领先优势正在进一步扩大。

我不知道你们实验室里发生了什么。如果尚未发布的模型已经强大到让你们认为应该放慢发展,那么我支持你们负责任地作出决定。

但是,你们别再装成需要其他人认可。别再假装必须暂停反垄断法,这样你们就会组成卡特尔。别装成需要一个凌驾于产品责任之上的监管审批,也别想着 METR(模型评估与威胁研究机构)是独立的,实际上它与 Anthropic 投资者和员工存在密切联系。你们别想着监管机构能拿你们的评判标准去衡量竞争对手。

最重要的是,别再假装你们放缓发展的动机完全出于 " 对别人好 "。如果你们的产品导致真正具有破坏性的网络攻击,你们将面临巨大责任风险。市场本身已经在惩罚那些行为不可预测或未经授权的模型。

Hugging Face 事件之后,你们两家公司用部分原始能力换可靠性或可预测性,本来就是一门好生意。如果你们愿意,可以把这称为 " 对齐 "。但归根结底,这同样是在为客户提供他们想要的东西。

放缓前沿 AI 的发展将为我们留出时间,让监管问题能够进行一场比伯尼 · 桑德斯(美参议员)所说的 " 全部关停 " 更加理性的讨论。正如你们所知,中国很难加入全球性协议,这一点同样值得考虑。

所以,那就放缓前沿 AI 的发展吧,定义前沿的人就是你们。避免构建超级智能的最简单方法,就是你们不去搞。

如果你们想按自己的偏好制定监管框架,作为放缓发展的交换条件。这种行为在公众和政治体系里基本上等于敲诈。所以,直接去做吧。

如果你们真的这么做,就能为下一轮对话赢得公众善意。如果你们不这么做,那么我们就会知道,这不过是又一次试图进行监管要挟,或者是一场选举季的心理战行动。

相关标签
IT之家

IT之家

数码,科技,生活

订阅

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容