周二下午,DeepSeek 宣布全面开源内部推理框架 DeepInfer,进一步开放大模型推理基础设施,旨在帮助开发者和企业降低大规模 AI 服务的算力成本与能源消耗。

DeepSeek 还同步开源生产级 Token 编解码组件 deepseek-recipe,确保社区获得与官方部署一致的 API 体验。未来,DeepSeek 新模型的推理代码及后续优化也将在 DeepInfer 持续更新。
DeepSeek 表示,希望通过开放模型、算子库及推理框架,帮助开发者优化推理效率、降低部署成本,推动 AI 服务以更低成本触达更广泛的用户。