【CNMO 科技消息】据 CNMO 科技了解，三星宣布全球首次开发出面向移动端等端侧 AI 设备的下一代内存 LPDDR-PIM。该技术将运算功能集成至移动内存中，可有效提升 AI 处理速度并降低功耗。
三星相关负责人近日在美国斯坦福大学举行的半导体学术会议 Hot Chips 2026 上，公开了将内存内运算技术与低功耗内存 LPDDR 相结合的 LPDDR5X-PIM 的结构、规格及验证结果。该产品本月初在 FMS 2026 内存会议上获得下一代内存奖项，但详细规格系首次对外披露。
PIM 技术通过在内存中嵌入运算单元，使部分计算可直接在内存内部完成。传统架构下，内存中存储的数据需传送至中央处理器或图形处理器进行计算，随后再传回内存。应用 PIM 后，相对简单的运算可在内存内部处理，从而减少 AI 运行中主要瓶颈之一的数据搬运，在提升速度的同时降低功耗。
三星以参数规模达 80 亿的 Meta 开源 AI 模型 Llama 3.1 为对象进行测试，结果显示 LPDDR5X-PIM 的处理时间为 5.4 秒，较普通 LPDDR5X 的 12.3 秒快约 2.3 倍。每秒令牌处理量达到 81.3TPS，为现有产品 27TPS 的 3 倍。
三星曾于 2021 年公开将 PIM 应用于高带宽内存的 HBM-PIM 技术并完成开发验证。此次则选择将 PIM 应用于智能手机等移动设备广泛使用的低功耗 LPDDR 内存。公司方面判断，随着 AI 模型日益小型化和高效化，并非所有 AI 设备都需要 HBM。
相关负责人表示，AI 支持的标准化内存方案虽为 HBM，但随着近期大语言模型向小型化、高效化发展，HBM 未必始终是最佳选择，因此开发了兼具高带宽与低功耗的 LP-PIM。随着生成式 AI 直接在智能手机或个人电脑等设备上运行的端侧 AI 趋势扩大，LPDDR-PIM 的应用前景也在增长，原因在于电力和空间受限的移动设备既需提升 AI 运算性能，又需降低功耗。
在兼容性方面，该产品采用与通用 LPDDR 相同的阵列设计，无需大幅改动系统即可使用。三星目前正提供软件开发工具包和模拟器等资源，推进相关生态建设。继 LPDDR5X-PIM 之后，三星已启动 LPDDR6-PIM 的标准化工作。以 HBM 为中心的 AI 内存竞争正扩展至智能手机和 PC 等端侧领域，内存正从数据存储设备向直接参与运算的方向演进。
版权所有，未经许可不得转载
