不是，梁文峰你怎么什么都往外掏啊。
模型开源就算了，什么叫推理框架，内部账本全都公开了。
明摆着告诉你，手把手跟上的话，一张卡一天就能收米 6100 块。
妥妥的印钞机啊。
靠着这番操作，滑动变阻器的评级估计又要调回梁圣了，因为他是真的想教会大家怎么用 AI 来赚钱，别影响他们做 AGI。
简单点理解，如果把大模型比作一家餐厅，那么闭源模型就只公开了菜单，你点啥菜，它上啥菜，菜是怎么做出来的， 谁也不知道。
开源模型，就是餐厅把自己做菜的菜谱公开了出来，大家都能照着菜谱做菜，但做出来的菜能还原到几成水平，就得看你自己的火候了。
不但拍下了做菜的每一个步骤，就连用什么灶、买哪儿的菜、甚至炒菜要颠几下勺都给你记录下来了，生怕你学不会。
过去很多模型公司都有开源模型的权重，但是很多第三方厂商拿了这些开源模型后，却发现怎么也做不出官方的味道，要么是成本压不下来，要么是模型效果不太行。
这其中差的，就是推理框架这些具体的细节经验。
更贴心的是，考虑到硬件不同，人还把华为和英伟达的适配都一起搞定了，真就是手把手的懒人教程。
首先，为了算力输出更稳定，它构造了一条 GPU 和 CPU 分工合作的流水线。
以前 GPU 每算完一轮，还得等 CPU 处理结果、安排下一批任务，中间免不了摸鱼。
除此之外，GPU 内部也被分成了两拨，8 卡的小机器负责读取输入，64～128 卡的超级节点则专门处理输出，并行效率彻底拉满。
果然，想要从寸土寸金的显卡上薅羊毛，一秒都不能空转呐。
诶，那就不能一回多吐几个么？
能的兄弟，能的。DeepSeek 听罢掏出了祖传绝活：提前猜答案。
这套手艺早在 DeepSeek V3 的时候就引入了，那时候叫 MTP，多 Token 预测，就是让小模型先多猜几个 Token，再让主模型核查，对的留，错的扔。
这回就更彻底了，索性手把手教你到底怎么验证更省事儿。
主要就是靠这个 Confidence Head，置信度预测头，提前给这些 token 预估个靠谱程度。
靠谱的多查，不靠谱的就少查几个，不必每次查到底。
测试下来，相比之前老老实实挨个查，减少了足足 30% 的工作量，提高了 4%～7% 的 token 吞吐。
属于是牙缝里都给你抠出个鸡腿。
咱都知道，V4.1 Flash 出厂时，硬盘里的缓存占用压缩到了前代的八分之一。
除了压缩策略发大力，还用到了一项叫 SWA Bounded Replay （ 有界回放 ） 的技术。
这玩意儿设计相当巧妙，能直接帮服务器省下海量的硬盘和带宽。
现在用上了 SWA 有界回放，就可以把脑子里最占地方的局部记忆给先丢了，等到要用的时候再光速计算出来恢复一下。
这一改，处理输入的计算量直接砍半，省钱省到了极致。
之前咱们用开源模型，很容易遇到个怪事：明明是同一个型号的模型，接到不同平台和工具里，跑出来的味道却不太一样。
这是因为大模型对输入的格式极其敏感，现在市面上 OpenAI、Anthropic 等各家接口的标准五花八门。
在转换时哪怕错一个特殊字符、多一个空格，模型的思考逻辑和工具调用就会当场乱套。
甭管你是 Codex 发来的 Responses API，还是 Claude Code 用的 Messages API，它都能转成适合 DeepSeek 的格式。
让你在自己家里部署，也能像官方原版的丝滑体验看齐。
人在公告里也直说了，由于推理系统中的 KVCache 管理与负载均衡组件因与内部基础设施耦合较深，相关代码目前尚未完整开源。
这也意味着现在开源出来的这些代码，其实更利好于软件芯片厂商来做调试，或者是利好中小企业开发者来做自己的私有化部署。
毕竟把几十张卡的性能榨干是一回事，怎么把机房里成千上万张卡串起来、在亿级并发下做全局调度和缓存复用，又是另一回事。
不过哪怕只有现在这些，从底层算子到双平台适配的 DeepInfer，也足够芯片厂商和开发者们爽吃一阵子了。
最后只能说，千言万语，感谢梁圣开源了。
撰文：早起 & 风华
编辑：早起 & 江江 & 面线
美编：焕妍
图片、资料来源：
知乎 @DeepSeek、东方卫视、微信公众号 @DeepSeek、GitHub、部分图源网络
