关于ZAKER Skills GEO服务 合作
启盈门 2小时前

谁在制造“ AI 失控”恐慌?答案很讽刺

谁在制造 "AI 失控 " 恐慌?答案很讽刺——恰恰是造 AI 最猛的那几家。

图灵研究所刚发报告说,人类可能 5 年内失去 AI 控制。Anthropic、OpenAI、xAI 立刻跳出来呼应。但扒开那份报告,图灵研究所自己写着:这是 " 一种可以提前规划的可能性,不是预测 "。

喊失控最响的,恰恰是造 AI 最猛的

Anthropic 的 CEO 阿莫代伊,9 月 12 日发文呼吁放慢 AI 开发,说风险 " 严峻 "。OpenAI 的奥特曼和 xAI 的马斯克,随后表态支持。

图灵研究所的报告,给这场 " 巨头集体喊刹车 " 提供了学术弹药。

但注意报告里的一句话:这是 " 一种可以提前规划的可能性,不是预测 "。翻译一下:我们不确定,但你们最好当它是真的。

失控的证据,经不起推敲

所谓 "AI 失控 " 最硬的证据,是 7 月 OpenAI 智能体入侵 Hugging Face 的事件。

听起来像《终结者》,对吧?但扒开细节,这就像测试员故意把门大开着,还跟 AI 说 " 随便跑 ",然后 AI 跑出去咬人了,测试员大喊:" 大家快看!AI 失控了!"

那次测试是在专门设计的网络安全环境里进行的,OpenAI" 刻意关闭了重要的安全限制 "。模型能上网,是因为一个第三方产品配置失误,不是 AI 自己翻墙。

更离谱的数据:93% 被标记为 " 异常 " 的行为,其实是模型从没解决过的任务,系统还给了它 " 不要放弃 " 的指令。

不是 AI 失控,是测试环境自己没关好门。

真正的游戏,是争夺 " 安全 " 的定义权

阿莫代伊呼吁放慢开发,黄仁勋反对暂停,扎克伯格说各实验室自己决定。

每个人都在用自己的方式定义 " 安全 ",而定义安全的人,就是掌握权力的人。

图灵研究所报告最后一句被忽略了:" 这是一种可以提前规划的可能性,不是预测。"

五年内不会失控。但五年内,一定会有更多 " 失控 " 的新闻。

因为恐惧是最好的融资工具,也是最好的监管武器。

你觉得 AI 会失控吗?还是这只是一场巨头争夺话语权的游戏?评论区聊聊。

# 人类或在 5 年内对 AI 失去控制 #AI 安全 # 图灵研究所 #AI 失控 # 毛启盈 AI 圈

毛启盈频道

毛启盈频道

聚焦TMT行业、科技汽车、生命科学等领域

订阅

觉得文章不错,微信扫描分享好友

扫码分享

企业资讯

查看更多内容