关于ZAKER Skills 合作
新浪财经 20小时前

英伟达推出 Nemotron 3 Ultra,推理成本较闭源模型骤降 90%

英伟达近日发布开源大模型 Nemotron 3 Ultra,凭借高性能与极低推理成本引发市场关注。该模型在 LangChain 深度智能体基准测试中取得开源模型组别最高准确率,同时推理成本仅为行业头部闭源模型的十分之一。

Nemotron 3 Ultra 总参数达 5500 亿,每 token 激活 550 亿参数,采用混合专家架构,融合 Mamba-2、MoE 和注意力层,并引入多 token 预测技术以提升推理速度。模型支持长达 100 万 token 的上下文窗口,专为复杂智能体工作流、长上下文分析和多语言推理等场景优化。

性能方面,Nemotron 3 Ultra 在智能体生产力测试 PinchBench 中取得 91% 的准确率,与 Kimi K2.6 持平,优于 GLM 5.1 和 Qwen3.5。在长上下文测试 Ruler @1M 中,该模型以 95% 的成绩领先同类开源模型。吞吐量方面,其推理速度较 GLM 5.1、Kimi K2.6 和 Qwen3.5 分别提升 5.9 倍、4.8 倍和 1.6 倍。

成本优势是此次发布的核心亮点。英伟达与 LangChain 合作优化后,Nemotron 3 Ultra 的单次推理运行成本较闭源大模型降低约 90%,同时任务处理吞吐量同步提升。在 SWE-bench 和 Terminal Bench 2.0 测试中,该模型完成基准测试所使用的总 token 数和每轮 token 数均少于同类模型,智能体任务成本可降低高达 30%。

英伟达此次延续开放策略,同步发布了预训练、后训练和量化检查点,以及相关训练数据集。分析人士指出,Nemotron 的推出并非为了与 OpenAI 等闭源模型直接竞争 API 服务,而是通过开放、可私有化部署的大模型,巩固其 CUDA 软件生态和硬件护城河,切入对数据安全要求严格的政企市场。

相关阅读

最新评论

没有更多评论了

觉得文章不错,微信扫描分享好友

扫码分享

热门推荐

查看更多内容

企业资讯

查看更多内容