后摩智能亮出 2D CIM+3D CIM 路线！Agent 竞速赛打响，双路径抢占端边算力先机

后摩要做端侧免费 Token 工厂的算力底座。

作者 | 程茜

编辑 | 漠影

芯东西 10 月 16 日报道，10 月 14 日，在后摩智能首届生态合作伙伴大会上，后摩智能官宣以 SRAM-CIM 为根技术，布局 2D CIM 与 3D CIM 两条技术路径，对应更大容量和更大带宽的需求。

这一动作，恰好踩中端边 AI 演进的关键拐点。

如今大模型能力跃迁叠加 AI Agent 全面爆发，和端边场景高度契合的个人 Agent 正迎来爆发期。

海外 Meta、OpenAI、谷歌纷纷推出个人 AI 助手，国内腾讯、蚂蚁、字节等大厂相继传出个人 Agent 产品内测消息，大厂密集布局印证了这片市场蕴藏的巨大潜力。这类个人 Agent 需要长期记忆、自主执行任务，契合端边 AI 本地化、个性化、实时、安全的优势。

在繁荣的产业表象之下，端边算力博弈加剧，算力、访存带宽、功耗成本、场景适配等痛点愈发突出。这些硬件瓶颈无法依靠算法优化抹平，倒逼行业寻找全新的芯片架构思路。

在后摩智能联合创始人、产品副总裁信晓旭看来，全新计算范式正在重塑整个产业链，其影响可能比大家想得更巨大、更深远，谁的技术路径选得对、谁能提前布局，谁就有可能成为这个新时代的赢家。

如今以存算一体为代表的差异化技术路线，正在重塑端边 AI 算力的格局，成为解锁大模型端边规模化落地、支撑 AI Agent 产业爆发的核心关键。而此次后摩智能的双技术路线，正是这场底层变革关键期的一次重要亮相。

01.

端边 AI 走到商业化奇点

芯片厂商何以破局？

端边 AI 已成为产业发展不可逆的核心方向。

本地设备承载模型推理，不必源源不断把原始数据、对话上下文上传云端，不仅能削减 Token 开销、压缩业务成本，更能让计算贴近本机文件、操作系统与各类本地工具。

这一优势已形成行业共识，叠加模型厂商和芯片厂商的双向发力，正将端边 AI 的性能短板一步步补齐，使其具备承载 AI Agent 规模化落地的能力。

Anthropic、MiniMax、阿里千问等海内外大厂的新一代轻量级模型能力飞跃，使得端边可部署模型和云端旗舰模型之间的差距收窄；芯片则进一步突破硬件能效上限，让端边设备可部署的模型更大、推理速度更快。信晓旭透露，以千问大模型为例，Dense 模型同智能水平的参数规模 17 个月被压缩至 1/8，MoE 模型则在 6 个月时间压缩至 1/6；如今端边芯片可以跑 120B 模型。

模型能力持续变强，芯片则负责让模型高效跑起来，二者协同扫清了 AI Agent 本地化运行的底层瓶颈。

这之中的算力瓶颈尤为关键。Agent 的个性化交互、实时响应、本地自主决策等核心诉求，高度依赖端边本地化算力支撑。

因为 Agent 的本质是 " 执行 "，而 AI 的动作发生在设备本地环境，其需要感知当前设备打开了什么程序、光标位置、本地文件结构。若所有感知与决策都远迁云端，延迟、隐私、成本等会打断行动闭环。信晓旭提到，当我们越来越依赖 AI、越来越依赖 Agent，我们任何一个人都希望它是可信的、它是可靠的。

正如开篇所述，个人 Agent 的爆发进一步激活了端边 AI 的商业化潜力，从芯片、模型到上层应用都在快速迭代，属于端边 AI 厂商的商业化奇点正式来临。

不过需注意的是，端边的意义不在于替代云端，而是承接大量本地化高频任务，让 AI 从联网调用的服务，变成常驻设备的原生智能。这样一来，云端就负责需要长周期规划、复杂推理、知识库检索、模型更新、跨设备协同这类更为复杂任务。

端边 AI 的爆发对硬件底座提出了新考验。而芯片厂商最底层的命题就是两件事：token/$、token/Watt。

然而从实际情况来看，当前行业绝大多数单一技术路线很难实现算力、访存、功耗、成本四大维度的平衡。

那到底什么样的技术路线，才能承接这一波端边 AI 的热潮？

02.

面向差异化端边 AI 负载

后摩智能双轨架构实现算力带宽两全

芯片技术路线的选择有双重考量：一方面要看技术方案自身的能力边界，另一方面要看其是否能满足 AI 应用发展的需求。

从技术方案自身来看，大模型推理属于算力与访存双密集场景。

算力负责张量运算，决定计算理论效率；内存容量承载模型权重与 KV 缓存，会限定可运行的模型规模和最大上下文长度；访存带宽是多数推理场景的性能瓶颈，制约权重、KV 数据的吞吐速度与 token 生成速率；功耗与硬件成本，则决定方案能否大规模商业化落地。

和训练不同，推理大多受限于访存，行业优化手段也围绕减少数据搬运、降低内存占用、提升带宽、压低单 token 成本展开。

基于这样的产业需求，后摩智能选定了存算一体作为技术路径。

SRAM 存内计算把乘累加运算直接放在 SRAM 存储阵列内部完成，模型权重驻留在片上存储中，不用反复在存储与计算单元之间搬运数据，以提升单位功耗下的算力输出。根据后摩智能 M50 的架构对比数据，在 AI Core 层面，采用 SRAM-CIM 后，核心面积较传统实现下降约 3/5，功耗降至原来的约 1/5。

这条路线的适用边界，与端边 AI 负载本身特点关系密切。端边 AI 负载有两大核心类型，算力驱动型场景的核心诉求是超高算力密度、大容量存储，对极致带宽无刚需；带宽驱动型场景则需要极致访存带宽和低延迟数据吞吐能力。

对照两类场景的不同要求就能发现，单一架构很难兼顾两边。模型参数规模提升后，2D CIM 的访存瓶颈会凸显；而业界尝试的 3D 堆叠方案，又面临算力面积受限、散热困难等问题。

因此单一芯片架构很难全面兼顾，这正是后摩智能打造两条互补存算一体路线的出发点。

信晓旭提到，后摩智能新官宣的双技术路线是围绕 SRAM-CIM 这一根技术，和不同封装技术结合，形成一条基于 SRAM-CIM 与 2D 封装技术的 2D CIM 路线，可以解决算力和存储容量要求高场景；另一条是后摩智能三年前启动的 3D CIM 路线，将 SRAM-CIM 与先进封装相结合，解决算力和高带宽需求的场景。

具体来看，2D CIM 的优势在于原生高算力密度与存储容量灵活配置能力，适配图像、视频生成、MoE 等计算需求高、显存权重容量波动大的 AI 负载。这类任务单次推理计算量大，2D CIM 可以按需求划分阵列规模，按需分配算力与存储块，在并行矩阵乘运算上表现突出。

新一代 3D CIM 架构能解决稠密模型的痛点，稠密模型推理时，绝大多数权重都需要参与计算，对持续、高吞吐的访存带宽要求极高。3D CIM 通过堆叠融合把更多权重放在片上，减少片外数据交换，能同时释放算力、压低访存瓶颈。

信晓旭称，与主流 3D 堆叠不同，后摩智能在先进封装基础上引进了计算架构的创新，将底下 Logic die 升级为 SRAM-Based CIM，从而解决计算效率低的问题。

放眼长远，随着 AI 产业持续演进，两条路线的边界或将逐步消融，有望催生出一体化融合的定制化算力产品。

端边 AI 的竞争本质，是在严苛功耗预算下争夺访存带宽。后摩智能基于 SRAM-CIM 计算架构的根技术，延伸出两条互补技术路线，是其在计算架构、先进封装等多维度持续突破后，面向端边 AI 产业交出的高分答卷。

03.

软硬一体吃透端边 AI！

后摩智能双技术路线打响 Agent 算力攻坚战

后摩智能的 2D CIM、3D CIM 双技术路线并非技术预研方案，而是支撑其已量产芯片与在研主力芯片的底层技术。

信晓旭公布了后摩智能的最新芯片路线图，其已经基于 2D CIM 量产了 M30、M50，面向未来的首款 3D CIM 芯片 A20 现已投产，M50 迭代款 M6X 系列也在持续研发推进中。

A20 的特点是高带宽、低时延，最多支持到 16 芯全互联的维度，算力利用率比上一代有 50% 的提升；M6X 芯片的综合能力可以达到当下 M50 的 3~6 倍。

后摩智能芯片的性能进阶之路，正是建立在前期落地产品的亮眼表现之上。

M30、M50 已经以性能指标与市场落地成果，完成对 2D CIM 路线工程化、商业化可行性的实证。M50 量产不到一年，就获得 150 余个产品定点，服务客户超百家，并且客户案例涵盖从基础本地大模型推理，到具备交互能力、可长期自主执行任务的本地 AI 智能体。

例如基于 M50 打造的联想 AI 主机 P7，就是专门为智能体打造的边缘算力设备。该设备重量仅 300 克，最高支持运行 1220 亿参数本地大模型，整机算力高达 190 TOPS，最大支持 128K 长上下文处理，在无网环境下能以 50 Token 每秒的速度完成本地自主推理。该设备更多细节将于 10 月 24 日新品发布会对外公布。

在个人智能体方面，后摩智能还和聊趣智能联手，推出支持全息交互的个人智算中心 ClawHouse X1，让 AI Agent 拥有可以自定义的全息数字形象，实现更沉浸式的人机交互。

再到海外初创公司 Deepshard 推出的 Truffle 1。这款全本地运行的智能体工作站目标是打造一套长期在线、持续理解用户、主动承接任务的个人智能系统，把本地端边 AI 推向持续自主的智能体阶段。

这些过往成果证明其能够适配复杂多变的端边 AI 市场需求，具备长期迭代、满足市场需求的核心竞争力。

大算力、大带宽的底层硬件是当前端边 AI 规模化落地的核心硬件基石，而成熟的软件生态则是硬件能力释放的关键支撑，二者缺一不可。

后摩自研的软件产品包含基础软件栈、生态软件栈，覆盖芯片到上层应用，其既可以兼容多代异构硬件，也能适配主流深度学习框架与大模型推理生态，提供全套 C++、Python API，助力开发者高效开发并降低部署门槛。

具体来看，其整个 AI 生态软件有五部分，底层推理框架部分已完成与所有主流推理框架的适配以及优化；领域开发套件是面向细分特定应用领域提供应用开发套件， ModelZoo 覆盖大语言模型、多模态大模型等的开箱即用模型，中间件工具部分提供 Cache 复用，以及算力设备运维和管理等，最后是大量应用样例。这一生态软件已正式开源。

更深层来看，后摩智能大算力、大带宽双路线 + 统一软件工具链的软硬协同体系，并非单纯的产品迭代组合，而是一套面向未来长期演进、可持续扩容的底层产品布局框架。

硬件层面形成精准互补的差异化算力矩阵，让后摩智能可同时覆盖算力优先和带宽优先的全维度端边负载，为后续高中低全线产品迭代、场景细分提供硬件支撑。

软硬协同的高效布局构建了可长期复用的技术栈。对客户而言，统一软件平台有助于复用模型适配、编译优化和部署经验，减少不同芯片及终端产品之间的重复开发成本。

基于已经验证的技术底座与落地实践，后摩智能也对 Agent 时代的算力发展有着清晰判断。后摩智能创始人、CEO 吴强强调，在 Agent 时代，后摩想做端侧免费 Token 工厂的算力底座，希望用最低的能耗产生最强的智能，把端侧 Token 的边际成本无限趋近于 0。

▲后摩智能创始人、CEO 吴强

其诸多成果证明，后摩智能的布局已经为 AI 企业打开端边 AI 创新应用边界，为 AI Agent 商业化落地开辟全新赛道。

04.

结语：端边 AI 革命

比拼的是全栈落地能力

AI Agent 掀起的这场端边革命，考验的是企业整套软硬件体系的量产能力与场景适配能力。后摩智能以 2D、3D 双轨存算一体路线为核心，叠加统一软件栈，走出一条差异化算力路径。

只有算力底座足够扎实，端边 AI 的想象力才能充分释放。当下，端边 AI 的商业化故事，正翻开全新篇章。