关于ZAKER Skills GEO服务 合作
智东西 26分钟前

对话高通数据中心业务总经理:从定制 CPU 到 3D 堆叠 HBC,高通下出端云 AI 一盘棋

智东西

作者 | ZeR0

编辑 | 漠影

智东西夏威夷毛伊岛 9 月 22 日现场报道,在骁龙峰会 2026 上,高通一口气推出两款 2nm 旗舰芯片——第六代骁龙 8 超级至尊版第六代骁龙 8 至尊版。(详情参见《刚刚,高通 2nm 双旗舰来了,为智能体 AI 重造架构,手机能跑 300 亿参数大模型》)

会后,高通技术公司执行副总裁兼技术规划、边缘解决方案和数据中心业务总经理马德嘉 Durga Malladi 与智东西等媒体进行交流,涉及话题包括高通为何重归数据中心 CPU 市场、3D 堆叠与高带宽计算(HBC)、定制 CPU 和高主频 CPU 的好处、如何构建 AI 软件栈、高通 AI SoC 的独特竞争力、与中国 AI 公司的合作情况等。

经智东西整理,重点信息如下:

1、高通进入数据中心 CPU 市场有什么优势?

在骁龙峰会 2023 上,高通首次介绍用于 PC 平台的定制 Oryon CPU。当时,与行业里的其他产品相比,它带来了非常显著的性能提升。

此后,高通一直将 Oryon CPU 核心扩展到产品组合中的其他领域。

去年高通重新进入数据中心市场时,决定把 Oryon CPU 也带到数据中心。

高通认为,无论从性能还是性能效率来看,它都非常出色,相比目前行业里的其他方案也极具竞争力。

2、怎么看到将内存和计算单元 3D 堆叠的技术路线?

高通是这项技术的先行者之一。去年高通首次谈到要把近存计算引入其平台,几个月前宣布将这项技术命名为 HBC。

这是一种新的存储与计算融合架构,基本思路是采用分离式 3D 堆叠技术,将计算单元与 LPDDR DRAM Die 堆叠,可以理解成在一个 " 内存立方体 " 的正下方放置计算单元,同时还会集成很多其他功能。

高通此前已经宣布,其第一代和第二代 HBC 产品将分别搭载于 AI250 和 AI300 数据中心 AI 芯片。

今天高通总裁兼 CEO 安蒙宣布,这项技术不会只应用于数据中心,高通也会把它带到终端设备上。

3、自研 Oryon CPU 对高通 AI 战略意味着什么?

高通拥有 Arm 架构授权,所以能在微架构层面进行创新,并进行自己的定制化修改。

定制 CPU 构成了高通的一项差异化能力,已帮助高通打造出了非常有竞争力的产品,高通会继续在这个领域投资。

过去 CPU 主要被用于通用计算,或者作为系统中的机头。随着智能体 AI 兴起,CPU 正在成为智能体 AI 的关键计算基础之一,因为 CPU 需要承担大量工作,负责协调和编排整个系统,决定接下来应该做什么。

因此,在智能体 AI 时代,CPU 的作用正在变得更加重要。高通认为自己的定制 CPU 核心对于未来发展会非常重要。

4、高主频 CPU 在智能体 AI 工作流中能发挥什么作用?

高通在移动平台上率先突破 5GHz 门槛,反映了其持续在自研 Oryon CPU 核心上的投入。

随着智能体 AI 的发展,CPU 的重要性正在越来越高。它发挥作用的地方会从终端设备一直延伸到数据中心。

5、高通准备如何应对英伟达 CUDA 生态层面的竞争?

CUDA 是英伟达的编程平台。在 CUDA 之上还有 Dynamo 推理服务框架,涉及很多其他编译器和软件组件。

几个月前,高通完成了对 AI 软件基础设施公司 Modular 的收购。Modular 提供的是一个更加开放的开源平台,它的编程语言叫作 Mojo。高通上个月已经宣布,Mojo 将采用 Apache 2.0 许可证完全开源,而且它能够运行在任何第三方平台上。

类似地,高通还有 AI 推理框架 MAX,它处于编译器 / 软件栈这一层,大部分也会开源,其中一部分会采用授权模式,但任何人都可以使用它。

高通正在大力投资这种开放式软件栈框架,因为行业需要这样的开放架构,AMD 作为合作伙伴也表达了对高通的支持。

高通希望 Modular 软件栈未来部署时可以运行在多种硬件上,而不会局限于某一种硬件平台,会保持开放性。

6、怎么看 AI 导致消费电子涨价带来的挑战与机遇?

消费电子本身就是一个具有周期性的行业,价格会涨,也会跌。

不认为消费电子产品涨价是 AI 直接造成的,有多个因素共同作用。

一方面,AI 技术正在让终端设备变得越来越强大;另一方面,整个行业存在一定程度的供应和内存短缺。

整个生态系统里的所有因素并不都由高通控制,高通能控制的是把强大的 AI 技术带进终端设备。

同时,高通也在努力大幅提高设备的效率,包括设备内部如何更高效地使用计算资源和内存资源。

7、如何为不同设备的个人上下文策略提供一致体验?

个人上下文会根据消费者的行为、使用模式等信息,逐步在设备内构建。

高通现在所做的一件事情,就是确保消费者无论使用哪一台设备,只要它是由骁龙平台驱动的,用户的上下文都能跟随用户在不同设备之间流转,从而获得统一、一致的体验。

要实现这一点,高通必须与合作伙伴以及云服务合作伙伴共同协作,这是高通正在推进的方向。

8、怎么应对不同品牌的用户个人数据管理方式不同?

高通能够了解消费者具体需要和想要什么,并保存这些用户偏好。

随着个人知识图谱不断扩展,高通可以采用合适的方法对这些信息进行压缩,从而控制知识图谱的规模,确保能够在设备端建立一个非常高效的知识图谱。

长期记忆意味着有些上下文信息需要在更长的时间尺度上被保留下来。最终发展到某一阶段后,其中一部分上下文可能也需要存到云端。

高通正在研究究竟什么样的方式才是最合适的方案。

9、端侧 AI 模型能用什么标准来衡量?

关键并不只是模型有多大,真正重要的是模型质量和各项指标、能否在智能体 AI 场景下把任务做好。

比如高通今天展示的在手机上跑 300 亿参数级模型,通常你不会在终端上看到这么大的模型,但这个复杂模型对智能体 AI 使用场景很有帮助。

智能体不一定只用设备本地运行的模型,可能还会调用云端进行一部分推理,同时还会进行联网调用以及其他函数调用,以确保能够获得完成任务所需的全部相关信息。

在衡量模型质量方面,业界有一些成熟的基准测试。对于智能体工作流,现在也开始出现一些新的基准测试。

高通会采用行业已存在的标准指标来评估,不会另外定义一套评价体系。

10、高通在 AI 芯片竞争中有什么核心优势?

当你考虑一款真正优秀的 AI SoC 或是一款能非常好地运行智能体 AI 的 SoC 到底需要什么时,你会发现,仅仅拥有最好的 GPU、最好的 NPU 或最好的 CPU 都不够,而是需要这三者都非常优秀。

除了计算能力外,你还需要在如何充分利用内存带宽方面拥有丰富经验。这也是高通一直在内存等领域进行投入的原因。

此外,把所有这些东西整合到一起,需要合适的封装技术,以及各种外围组件和传感器。因为传感器中枢能够帮助你构建一种全新的个人上下文。

归根结底,高通的投入并不集中在某一个单独领域,其投资和研发覆盖了整个技术体系。完整的 IP 组合能力将成为高通未来的一个独特差异化优势。

11、目前最大的技术挑战是什么?

制程技术、计算能力和内存都是,很难只选一个。

12、高通如何与阶跃等中国 AI 公司合作?

高通在中国拥有非常大的业务和团队规模,与中国初创企业保持良好关系,相关合作覆盖很多不同的技术领域,原因是 AI 领域正出现大量创新,而高通非常喜欢和有创新能力的合作伙伴共事。

今天高通的演示就有两个例子,一个是阿里原生智能体电脑 Qwen Book,另一个是在手机端运行 30B 混合专家(MoE)模型。这个 MoE 模型最初来自阿里 Qwen 30B,阶跃对它进行了一些微调,研发出 StepEdgeOmni 300 亿参数 MoE 模型,然后他们和两三家合作伙伴一起做出整个端侧智能体 demo。

高通一直关注哪些合作伙伴值得一起向前发展,对各种商业合作保持开放。

13、近几年什么变化使 AI 真正能带给消费者不同体验?

从 ChatGPT 发布至今,AI 模型本身的能力成熟和强大了很多。今天的模型和 2023 年的模型已经完全不在一个水平上。这意味着,基于这些模型构建智能体 AI 应用时,能够实现的用例也得到了显著提升。

因此,虽然从 2023 年开始,行业里就已经有很多关于 " 我们应该开发哪些 AI 使用场景 " 的想法,但当时模型还没成熟到足以真正支撑这些体验的程度,现在以消费者为中心的应用场景已经很复杂和成熟。

14、实现高通未来核心收入目标,具体如何分配?

在今年 6 月举行的投资者日上,高通宣布核心财务目标:到 2027 财年结束时达到 50 亿美元,到 2029 财年结束时达到 150 亿美元。

高通对实现这些目标非常有信心,已公布了一些客户合作,但现阶段不会披露不同客户的具体收入分布情况。

相关标签

觉得文章不错,微信扫描分享好友

扫码分享

企业资讯

查看更多内容