深报一本、天智投资、科讯创投、盈科投资、东瑞投资、永鑫方舟等跟投。
来源：猎云网
近日，端侧 AI 推理芯片企业聆思科技完成近 5 亿元 B 轮融资，本轮融资由安徽省与合肥市多家国资平台联合战略领投，深报一本、天智投资、科讯创投、盈科投资、东瑞投资、永鑫方舟等跟投。
据了解，本轮资金将重点投入新一代端侧大模型 AI 推理芯片研发，推动聆思的产品体系从感知模型 AI 推理芯片向认知大模型 AI 推理芯片进一步升级。作为这一战略布局的核心产品，聆思首颗端侧大模型 AI 推理芯片 Nebula 系列已进入关键研发阶段，并将于 2026 年底正式推出，为端侧大模型在机器人、AIPC、智能汽车座舱、全屋智能等终端场景中的规模化部署提供核心算力支撑。
面向大模型进入终端的关键窗口，聆思科技首颗端侧大模型 AI 推理芯片 Nebula 系列将于 2026 年底正式推出，重点面向机器人、AIPC、智能汽车座舱、智能家电等领域，服务下一代终端设备对本地大模型推理能力的需求。
相比传统端侧 AI 算法，大模型推理所需要的不仅是峰值算力，更多是能效、带宽、功耗和系统调度能力的综合平衡。终端设备无法照搬云端 GPU 高功耗、高带宽、高成本来换取性能的路径，而必须在有限资源和体积下，稳定高效地完成本地大模型推理。
当前大多数的通用 AI 芯片仍是面向传统机器学习模型设计，难以高效支撑大模型对算子适配、内存带宽和多任务调度的系统性需求。市场需要真正面向端侧大模型需求而打造的 AI 推理芯片，在高性能、低功耗、低成本和大模型亲和力之间实现平衡。
面向端侧大模型推理的核心瓶颈，聆思围绕 " 算力底座、存力底座、引擎底座 " 构成了新一代芯片技术体系，从计算架构、内存访问到推理部署进行系统级优化，以此实现端侧大模型推理的数量级性能释放。
在算力底座上，聆思基于 AI 原生 NPU 架构和大模型数据流特征，结合自研算子指令集、DSA 专用领域架构、多核 NPU 和自适应任务调度机制，数倍提升大模型推理中的有效算力利用率和能效表现。
在存力底座上，聆思科技针对端侧大模型推理的 " 内存墙 " 问题，构建高带宽内存系统。开创性地采用 3D-DRAM 堆叠技术，实现大容量内存的存算一体，突破传统 HBM 技术在端侧部署中的限制，显著提升内存带宽，进而带来推理性能与能效比的跨越式提升。
在引擎底座上，聆思通过推理引擎协同优化提升端侧部署效率。公司自研推理引擎与编译优化框架，支持主流开源模型快速适配与部署，并通过自动图优化、算子融合和自适应调度降低推理延迟，能够充分满足智能终端对实时交互和连续推理的要求。
基于上述架构，聆思首颗 Nebula 芯片相较于当前主流通用 AI 芯片方案，预计可实现 10 倍计算加速性能提升、10 倍模型参数规模支持，并达到超过 100 tokens/s 的推理速度，有望在功耗、体积、性能等方面达到行业领先水平。
目前，聆思科技已联合联想、聆动机器人、海尔、美的、面壁等企业，在 AIPC、机器人、智慧家庭、智能座舱等方向启动联合预研，推动端侧大模型 AI 推理芯片在真实终端场景中的产业化布局。
这些方向也是端侧大模型最早具备商业化价值的典型场景。AIPC 需要本地智能助理和多模态办公能力，机器人需要实时感知与动作规划的大小脑融合，智慧家庭需要本地家庭智能中枢，智能汽车座舱需要低时延、高可靠和隐私安全的交互体验。端侧大模型 AI 推理芯片，将成为这些场景智能升级的关键硬件支撑。
聆思科技自 2020 年成立以来，始终深耕端侧 AI 推理赛道。公司最早切入的，是智能终端从 " 连接能力 " 到 " 感知智能 " 的关键阶段。
在感知模型时代，终端设备已经开始具备语音、视觉、多模态等 AI 能力，但行业长期面临三类问题：一是通用芯片难以在低功耗、低成本条件下稳定承载 AI 算法；二是算法适配高度碎片化，不同场景、不同设备需要重复开发和调优，开发难度大，周期长；三是大量终端依赖云端能力，难以满足实时响应、离线可用和隐私保护要求。
作为业内少数同时具备芯片设计和 AI 算法能力的企业，聆思从 AI 算法源头计算需求出发，以 AI 原生 NPU 重构端侧 AI 计算架构，通过芯片算法协同设计持续提升端侧推理效率。目前，聆思 NPU 算力利用率已可达到 80%，远高于行业平均水平，在有限算力、功耗和成本下，为智能终端本地运行 AI 算法提供了高效算力支撑。
基于领先的 NPU 架构和多维算法能力，聆思已推出 23 款系统级端侧 AI 推理芯片，覆盖本地、在线、离在线等多类终端场景，并打造芯 + 端 + 云的一体化方案，成为智能终端升级的最优选择。
经过多年产业落地，聆思产品及方案已广泛应用于家居家电、教育办公、消费电子、智能车载等领域，客户覆盖海尔、美的、海信、联通、移动、电信、安克、浩瀚、淘云、新东方等多个行业头部企业，累计出货已突破 1.5 亿片。
1、猎云网原创文章未经授权转载必究，如需转载请联系官方微信号进行授权。
2、转载时须在文章头部明确注明出处、保留官方微信、作者和原文超链接。如转自猎云网（微信号：lieyunjingxuan
）字样。
3、猎云网报道中所涉及的融资金额均由创业公司提供，仅供参考，猎云网不对真实性背书。
4、联系猎云，请加微信号：jinjilei
