衡量全市场每百万 LLM Token(大语言模型词元)支付价格的 Silicon Data LLM Token 支出指数,在经历了自去年 12 月创立以来近乎翻倍的狂飙后,目前已较 5 月份的高点大幅下跌了近 20%。
" 越来越多报告显示,由于成本过于高昂,那些使用以 Token(词元)计价的 AI(人工智能)解决方案的用户正不得不克制无节制的使用," 行业资深投资者 Louis Navellier 表示。
当前,AI 产业的发展重心正由模型训练逐步转向推理应用,如何用更少 Token 消耗实现更强推理应用,正在成为大模型企业、Agent(智能体)应用公司关注的重点。
" 我们月 Token 成本同比去年降低 90%,1 元 Token 的价值带来了 460 元产出。" 税友股份亿企赢 CPO(首席产品官)周源向《每日经济新闻》记者透露,成本下降,但使用的 Token 消耗量却是去年同期的两倍。
在软硬件协同的大背景下,Token 的效率提升,不仅局限于模型、应用等层面,更漫溯至硬件层。
AI 推理应用爆发,算力的需求不再仅仅局限于 GPU(图形处理器),TPU(张量处理器)、AI ASIC(人工智能专用定制芯片)、NPU(神经网络处理器)等面向特定场景设计的 XPU 正在快速崛起,成为云服务商优化成本、提升效率的重要工具。
中昊芯英创始人、CEO(首席执行官)杨龚轶凡在接受《每日经济新闻》记者采访时提到,算力成本对 AI 商业化落地至关重要。当下绝大多数 AI 软件服务商毛利率不足 40%,算力硬件开支是核心成本项。
从数字员工到数字组织 AI 商业化 " 落地战 " 打响
周源向每经记者表示,当前,公司 Token 的月消耗在 400 亿— 500 亿。这在国内,当前属于中大型 AI 应用或垂直领域头部企业的典型用量级,而在去年同期,月 Token 消耗约在 200 亿— 300 亿区间。
Token 消耗增长翻倍,但成本却在同比下降。这一部分得益于通用成本大幅降低,而另一部分,周源透露,他们在基础模型的基础上,基于自身的数据库资源,做了大量的 Harness(算力调度驾驭层)工程优化,提高 Token 效率。
近期,税友股份发布的 Agentic 2.0,其核心变化是引入 A2A(Agent to Agent)协同架构。简单理解,以往 AI 会计、AI 顾问、AI 开票员是独立运行的工具;而在新的体系中,不同 Agent 之间能够共享信息、协同决策、自动分工。
从单体 Agent 升级到 A2A 协同,从数字员工提升为数字组织,从效率工具到产业新供给。另一方面,AI 应用从工具化向结果化的交付,正在驱动上市公司业绩增长。
2026 年一季度,税友股份营业收入 4.88 亿元,同比增长 8.67%,归属于上市公司股东的扣除非经常性损益净利润增幅达 33.28%。据了解,一季度业绩增长主要受益于数智财税业务的持续扩张与客户渗透深化。
也正基于这一增长趋势,税友股份给出了 AI 驱动的增长预期:到 2026 年,AI 驱动收入有望占亿企赢整体收入的约 50%;到 2027 年,公司希望进一步将这一比例提升至 80%。
AI 大模型商业化 " 落地战 ",正在成为企业 AI 应用的试金石。
"AI 大模型的商业模式日趋多元,当前已存在 10 种商业模式。其中,MaaS(模型即服务)、本地化部署、行业解决方案、C 端订阅是当前最主流的商业模式。"《中国 AI 大模型商业化报告(2026 年上)》报告(以下简称 " 报告 ")指出,中国 AI 大模型商业化处于成长期,而非成熟期,在技术、成本、模式等方面面临挑战。
报告还提及,短期的快速盈利和长期的生态构建,是商业化要解决的核心问题。而面向个人用户及小微团队的订阅制模式,其核心挑战在于突破低付费率与产品同质化的瓶颈,目前仍处于 " 探路 " 阶段。
软硬协同趋势下 算力成本为何至关重要?
应用层之下,模型层的头部通用大模型企业也在强化高性能和低成本优势。
今年 4 月 DeepSeek-V4 Pro 发布,备受市场关注,在其披露的技术报告中,DeepSeek 表示,受限于高端算力,目前 Pro 的服务吞吐十分有限,预计下半年昇腾 950 超节点批量上市后,Pro 价格会大幅下调。
算力对模型价格的影响,有了非常直观的体现。近日,有消息称,DeepSeek 与智谱 AI 推进自研 AI 推理芯片,但这一消息目前尚未得到验证。而结合谷歌 Gemini 和其 TPU 芯片的软硬件协同,阿里千问大模型和平头哥的适配,芯模协同正在成为国产大模型的技术路径趋势之一。
国际研究机构 Omdia 认为,AI 普及为提升中国本土半导体自给率创造巨大空间,国产算力芯片与 AI 模型的 " 芯模协同 " 将推动本土产能利用率提升。
中昊芯英 CEO 杨龚轶凡近日在接受每经记者采访时透露,目前正在推进和各类大模型适配工作,在芯片底层定制专属算力,实现芯片与模型深度耦合;同时联合调优能够大幅降低客户计算、推理的综合算力成本。
杨龚轶凡表示,当下绝大多数 AI 软件服务商毛利率不足 40%," 如果能把单位算力成本减半,客户性价比直接翻倍,对应毛利率可以从 40% 提升至 70%"。反之,如果算力成本居高不下,很多 AI 业务会陷入亏损、商业模式无法闭环。 因此,深度芯模协同、持续降低训练与推理成本是中昊芯英中长期核心合作方向。
6 月 30 日,中昊芯英发布新一代高性能 TPU AI 专用算力芯片 " 须臾 ",TPU 架构全面升级," 须臾 " 单卡算力性能提升 3 倍;而搭载 " 须臾 " 芯片的泰则 2.0 AI 高性能智算平台,单机算力达 7.168P ,单个超节点最高可实现 2048 芯片高速片间互联。
摩根士丹利发布最新半导体报告指出,AI 产业的发展重心正由模型训练逐步转向推理应用,算力需求也因此更加多元。GPU 仍将在训练和高性能计算领域保持核心地位,但 AI ASIC、NPU 等面向特定场景设计的 XPU(异构通用 AI 处理器)正在快速崛起,成为云服务商优化成本、提升效率的重要工具。
其中,XPU 并非单一产品,而是涵盖 AI ASIC 等各类面向 AI 计算场景的专用处理器。随着训练、推理及智能体(Agentic AI)等不同任务对算力需求不断细分,不同架构芯片将在各自擅长的场景中发挥作用。
在杨龚轶凡看来,Coding(编程)、AI 智能体是当前商业化核心赛道,这类业务对长上下文、长程任务执行、A2A 多智能体交互的要求持续走高。TPU 芯片公司核心工作是做极致硬件优化,持续压低整体算力使用成本。
对当前 TPU 芯片,杨龚轶凡提到重点有四大优化方向:即 Prefill-Decode(预填充 - 解码解耦)分离专用硬件架构、超大模型分布式集群互联优化、低精度推理硬件原生加速、超大片上存储架构设计。
每日经济新闻