关于ZAKER 合作
蓝鲸财经 12小时前

WAIC 同台论道:辛顿示警 AI 如“失控老虎”,MiniMax 闫俊杰称 AI 不会一家独大

图片来源:视觉中国

蓝鲸新闻 7 月 26 日讯(记者 朱俊熹)7 月 26 日,2025 世界人工智能大会暨人工智能全球治理高级别会议(WAIC 2025)在上海拉开帷幕。本届大会以 " 智能时代 同球共济 " 为主题,汇聚了包括 12 位图灵奖及诺贝尔奖得主在内的全球千余位顶尖嘉宾。随着 AI 正逐步深入人类日常生活,或以各类软件应用的形式,或以具身智能的形态,AI 安全与治理也成为与会者的热议话题。

在开幕式上,图灵奖得主、诺贝尔物理学奖得主、" 深度学习三巨头 " 之一的杰弗里 · 辛顿登台演讲,大谈 " 数字智能是否会取代生物智能?"。这位 77 岁的 "AI 教父 " 回顾了过去数十年间 AI 的发展路径,指出人类理解语言的方式和大语言模型的方式几乎一致,甚至可以将人类视作一种大语言模型。然而在某些方面,AI 的能力将超越人类。

杰弗里 · 辛顿 图片来源:视觉中国

辛顿称,一些人认为可以关闭不听话的 AI 这一想法是不现实的。如果 AI 足够聪明,就会通过操纵人类、获得控制权等方式来避免被关闭。" 这个问题就像养一只小老虎当宠物。在它还小的时候你觉得可以控制它,但等它长大以后就可能失控。"

因此,辛顿建议不同国家在 AI 安全方面展开合作。例如建立一个由多国参与的国际 AI 安全研究网络,专注于研究如何训练 AI 向善。各个国家可以在本国进行 AI 安全研究,然后共享成果,共同应对这个 " 人类长期面临的最重要的议题 "。

同为 " 深度学习三巨头 "、图灵奖得主的约书亚 · 本吉奥则通过视频连接表示,如果 AI 变得足够强大开始 " 自保 ",超级智能就可能带来灾难性的后果,甚至导致人类灭绝。即使这种风险的概率很小," 只要科学界中有相当一部分人认为这种风险是可信的,我们就必须以极度谨慎的态度来对待它。"

约书亚 · 本吉奥建议,AI 应当被作为一种全球公共资源来进行管理,以避免国家间陷入危险的竞争陷阱。其中,一个值得借鉴的全球协作范例是由他牵头完成的《国际人工智能安全报告》。

就在 WAIC 开幕前夕的 7 月 25 日,杰弗里 · 辛顿、约书亚 · 本吉奥等 20 余位行业顶尖专家共同签署的《AI 安全国际对话上海共识》正式对外公开。" 上海共识 " 提出,目前尚无可靠方法确保超级 AI 系统的安全对齐,呼吁采取三项关键行动:要求前沿人工智能开发者提供安全保障、确立可验证的全球性行为红线、推动安全人工智能技术研究。

在 7 月 26 日上午的主论坛中,MiniMax 创始人、CEO 闫俊杰作为 AI 产业界的代表登台演讲。他分享了在创业过程中对 AI 的观察,也认同 AI 会不断变强,且这种增强几乎没有尽头。

闫俊杰 图片来源:视觉中国

" 接下来出现的问题是,AI 这么强,对社会的影响越来越大,那么 AI 到底会不会被垄断?它是会被掌握在一家组织里,还是掌握在多家组织里呢?" 闫俊杰问道。

在闫俊杰看来,AI 一定会被掌握在多家公司的手中。他解释称,一是不同组织会有不同的价值观和目标,导致它们训练的模型在对齐目标上存在差异,从而使模型表现各具特点、长期存在。其次,当前的 AI 系统通常由多模型和多 Agent 组成,单一模型的优势在多 Agent 系统中逐渐减弱。第三,过去一年见证了开源模型的快速涌现,并逐渐逼近闭源模型的性能,许多都并非由大公司主导的。

闫俊杰表示,AI 一定会变得越来越普惠,使用成本也会变得更加可控。他观察到,尽管过去一年半以来可使用的算力增加了,AI 模型的大小并没有发生特别大的变化。因为各大厂商都在关注模型参数量和智能水平之间的平衡,避免因计算速度过慢影响用户体验。

至于这些增长的算力,则更多地被用在研究、探索和推理优化上。闫俊杰称,研发并不仅依赖算力,还取决于实验设计、研发团队和创意。拥有大量算力的公司与算力较少的公司在训练上的差异可能没有那么大,因为后者可以通过提升实验设计、思考能力和组织效率,让实验探索变得更加高效。

作为 " 大模型六小龙 " 之一的 AI 创企,MiniMax 于 6 月发布了其首个推理模型 MiniMax-M1,被视为对标 DeepSeek-R1 交出的应答。MiniMax-M1 模型延续了此前基模的架构创新,在 MoE 架构的基础上引入了闪电注意力机制(Lightning Attention)。成本方面,在进行 8 万 Token 的深度推理时,M1 所需的算力仅为 DeepSeek-R1 的约 30%;生成 10 万 token 时,推理算力仅需 DeepSeek-R1 的 25%。

在下午的主论坛中,清华系 AI 算力创企无问芯穹联合创始人、首席科学家戴国浩分享称,在突破算力天花板的过程中,算力效率会成为他们关注的事情。也就是说,从整个价值链条来看,输入价值转化为算力,并最终通过下游应用转化为输出价值时,关键在于输出价值是否能够超越输入价值。

而戴国浩认为,在算力领域,比起单一的 " 赢家通吃 ",最终将趋向于 " 集各家之所成 " 的合作模式。他提到,人工智能的目标是模拟人类智能。在人类生理系统中,每一个细胞都在执行不同的功能,正如每家公司在 AI 技术的不同领域也都有各自的擅长之处。