关于ZAKER Skills GEO服务 合作
热点科技 15小时前

雷神水冷迷你 AI 工作站评测:低温开跑 120B 本地大模型

在 AI 热潮推动下,近几年高性能迷你主机火得不行,但市面上大多数产品还在用风冷硬扛,小机箱一压满负载往往就降频、就吵。雷神这台水冷迷你 AI 工作站想解决的正好是这件事——它用上 AMD 锐龙 AI Max+ 395 算力领先的平台,再把一套定制水冷塞进正方体里,雷神目标很明确:让这台小机器能长时间满血跑 AI,而不是过一会儿就降频。实际表现如何,一起看看。

本地部署大模型这两年突然成了很多人的刚需,原因无它,云端方案要传数据,不仅有隐私顾虑更关乎数据拥有主权,网络一抖就卡,会有延迟,token 费还不停烧钱。把模型放在自己桌上跑,数据不出门,成本一次付清,响应还稳。但 AI 推理和训练往往是 7 × 24 小时连轴转,跟机房里的服务器差不多,对散热和稳定性是实打实的考验,这正是雷神水冷迷你 AI 工作站用上水冷的根本原因。

既然用上水冷,我们一起来看看雷神水冷迷你 AI 工作站的外观,它是个方方正正的立方体,长宽高都是 199mm,体积差不多 7.9 升,放桌上不占地儿,也没整那些跑马灯和花哨装饰,跟大多数桌搭都能搭上。

外壳、顶盖、底座全铝,表面处理得细,四边做了圆角过渡,摸上去不刮手。机身稳定性方面,6.5kg 摆在那,想随手挪一下得两只手抱,放桌上根本不用担心碰倒。

雷神水冷迷你 AI 工作站拆解很简单,拧下左右两侧一共 8 颗外露的六角螺丝,再取下前后两块铝合金挡板,就能看到机器内部了。机器顶部是一整面网状的圆角矩形散热开口,金属顶盖底下是密密麻麻的蜂窝状散热网,水冷系统就藏在机身内部上方。底座用了悬浮设计,视觉上更显轻薄,也更有科技味。

雷神水冷迷你 AI 工作站水冷系统由两部分组成,一是安装在 CPU 之上的 " 散热岛 ",官方叫法是 " 岛式全覆盖 ",这是块 12000 平方毫米的纯铜多岛冷板,当中冷热转换面积做到了 1960 平方厘米。散热岛通过热管把热量传递到顶部的散热冷排当中,最后通过大口径双滚珠轴承风扇把热量吹走。

按照官方说法,雷神水冷迷你 AI 工作站能跑出 176W 的瞬时峰值,并能长烤不掉速,而且在高负载跑 AI 下,核心温度大概 76 ℃,比风冷方案温度更低。不过雷神水冷迷你 AI 工作站还得是 AMD 锐龙 AI Max+ 395 处理器,它基于 Zen 5 架构,Strix Halo 平台,内置 16 核 32 线程,加速频率 5.1GHz,80MB 缓存,NPU 算力 50TOPS。更关键的是内存——板载 128GB LPDDR5X 8000 四通道统一内存,靠 AMD 的可变显存技术,最高能从这 128GB 里划出 96GB 当专用显存用。

桌面独立显卡显存最多 32GB,这台小机器光能划出来当显存用的就有 96GB,整整三倍。96GB 显存能干什么?最常用的 Q4_K_M 量化下,200B 以下的模型随便装,Qwen3.8 flash next、GPT-OSS-120B 这种都能整包塞进去跑。100B 以下级别的 MoE 模型更宽裕更高效,跑 Q4_K_M 还剩不少余量,上下文能开到 260K,本地做 AI 数据集、文档检索都够。

换成 INT8 / Q8_0 量化精度,100B 以下参数的大模型加上上下文缓存也能完整高效跑下来,本地能部署的模型尺寸又上了一个台阶。

图形方面是 Radeon 8060S 集显,RDNA 3.5 架构、40 个计算单元、频率 2900MHz。很多人一听集显就觉得不行,其实它和桌面独显是同一个架构源头,驱动、图形接口都通用,日常修图剪片、轻度 3D 没问题,想玩游戏也顶得上,显示输出和视频编解码全归它管,不用额外插独显。

存储给的是 2TB PCIe 4.0 固态,机器里还留着 2.5 英寸硬盘仓和第二个 M.2 插槽,最多能塞三块高速固态,后面想加盘也方便。

在接口方面,雷神水冷迷你 AI 工作站也给得很足,前面板从左到右是方形电源键、USB2.0 Type-A、USB3.2 Type-C 和 3.5mm 音频口。背部接口面板更密:2 个 USB2.0、DP 1.4、HDMI 2.1、2 个 USB-A 3.2、2 个 USB4、2.5G+10G 双网口、3.5mm 音频,还有 2.5G、10G Wi-Fi 天线接口和 AC 电源接口。双网口对组网和小服务器接入很友好,USB4 也能外接高速设备和给设备供电。

电源上,这台小机器也有惊喜,内置了 400W ATX12VO 白金级电源,不用在桌上拖一个外置电源适配器,桌面上就一根电源线,干净。

性能测试

在硬件层面,雷神水冷迷你 AI 工作站在同类产品绝对是站在一流水平了,那实际性能表现呢,跑起来看看。

先看 CPU,CineBench 2024 是 Maxon 推出的 CPU 性能基准测试工具,基于 Cinema 4D 渲染引擎,用来衡量处理器的渲染计算能力。拿它测锐龙 AI Max+ 395,单核多核各跑一遍,就想看这台小机器在稳定功耗下,渲染性能还剩多少。实测多核分数 2016 pts,单核 116 pts,MP Ratio 达到 17.31x,无论单核还是多核成绩得分都很高。

内存这块用 AIDA64 的 Cache & Memory Benchmark 来测。AIDA64 是老牌的硬件检测与基准测试套件,这个子项专门测量内存子系统的读写、复制带宽和访问延迟。Strix Halo 这种 CPU 和 GPU 共用一块内存的架构,最吃的就是这条带宽。实测读取 120.17GB/s、写入 214.25GB/s、复制 144.63GB/s,延迟 142.0ns ——写入比读取还高,是四通道 LPDDR5X 分配了大内存后的正常表现。

雷神水冷迷你 AI 工作站使用的长江存储 PCIe4.0 的 SSD,实测顺序读取 7111.08MB/s、顺序写入 6429.43MB/s;4K 随机读取 970020 IOPS,4K 随机写入 1081799 IOPS。

看过 CPU、内存、SSD 几大件的性能后,我们看看其 AI 性能表现。

测试软件是 UL Procyon,UL Solutions(原 Futuremark)出的专业套件,AI Inference 系列直接调本地模型跑推理,文本生成、图像分类、超分这些任务的吞吐和延迟都能测。参数表写得再漂亮,不如让它跑一遍。

这次选了 AI Text Generation 和 AI Computer Vision 2.0 两项。Text Generation 这里拿了 Phi 3.5、Mistral 7B、Llama 3.1 三个常见模型跑,总分 1216、1035、783,折算成生成速度是 58.45、38.05、31.67 tokens/s。

7B-8B 这个量级的模型,本地跑起来和云端小模型对话没多大差别。70B 的也能塞进去,但那个速度适合后台慢慢处理。

Computer Vision 2.0 则分别跑了 int8 精度 NPU 和 fp16 精度 GPU 两种后端,得分 1162 和 1196,说明 NPU 在量化视觉任务里已经和 GPU 浮点性能相当接近,做本地图像识别、超分、分割都有实用价值。

AI 当然不能停留在跑分之上,我们还采用 LM Studio 部署了本地大模型进行测试。

我装了两档模型。轻量的是 DeepSeek v4 Pro Qwen3.5 9B MTP,日常问题随手就能问:让它整理苹果手机的处理器型号,6.15 秒答完;整理 Windows 系统版本号,2.32 秒就答上来了。

想体验 128GB 内存的价值,还得靠 GPT-OSS-120B 这种大模型。我丢了一份 218 页的 Word 版 2026 年半年度报告进去,上下文开到 131072,跑起来内存吃掉 31.1GB,集成显卡那边又占 70.2GB,加起来过 100GB,结论照样很快给出来。这活要是换常规的消费级独立显卡,甚至低一点的计算卡,显存根本装不下。

除了对话之外,我们还测试了主机在 LM Studio 下的算力。单路推理下,DeepSeek-V4-Pro-Qwen3.5-9B-MTP 在短输入、中长文生成、4K 长上下文三种场景全都是 40.0 tok/s,稳得像一条直线,首字延迟中位 333ms。GPT-OSS-120B 表现更好:短输入 51.7 tok/s、中长文 50.4 tok/s、4K 长上下文 49.4 tok/s,综合 50.4 tok/s,首字延迟中位只有 195ms。

并发也没放过,4 路同时压:DeepSeek-V4-Pro-Qwen3.5-9B-MTP 模型整体吞吐 65.33 tok/s,摊到每路 17.92 tok/s,最大首字延迟 2526ms;GPT-OSS-120B 整体吞吐反而冲到 71.60 tok/s,单路 17.94 tok/s,最大首字延迟 2016ms 比 9B 还低。多人同时用,120B 不但没被拖垮,单路体验跟 9B 基本一个水平,这机器的算力和内存带宽是真的富裕。

雷神水冷迷你 AI 工作站的价值当然不止是人工智能应用,游戏、日常办公它也是能胜任的。先来一个大家熟悉的 3DMark 摸底,跑了 Time Spy、Port Royal、Steel Nomad Light 三项。Time Spy 总分 11447,显卡分 11552、CPU 分 10888,预估 2K Ultra 画质下《战地 V》能到 110+ FPS;Port Royal 光追专项 5961 分,显卡测试 27.60FPS,说明 Radeon 8060S 应对光追压力还是比较吃力;Steel Nomad Light 这种跨平台轻负载测试拿到 11002 分、81.50FPS,接近集显能稳定输出的上限。

游戏实测选了 3A 和网游各一款。先看《赛博朋克 2077》,1080P、光追低、纹理高、FSR 2.1 自动、关帧生成,平均 86.36FPS,最低 69.45FPS、最高 115.45FPS。集显能在这套设定下跑八十多帧,已经非常流畅。

再看《界外狂潮》,1080P 无边框、画质 " 优异 "、FSR4 平衡、渲染分辨率 58、关光追、关帧生成,平均直接到 210FPS,最高 287FPS、最低 163FPS。网游吃帧率,这成绩对玩家来说绰绰有余。

接着看整机日常办公和生产力表现,用 PCMark 10 来看。PCMark 10 也是 UL Solutions 的基准,模拟网页浏览、视频会议、文档表格、图片视频编辑这些日常任务,看一台机器在真实生产力场景下到底什么水平。

在 PCMARK 10 中,雷神水冷迷你 AI 工作站是总分 10877。常用基本功能 11171 ——应用程序启动 10065、视频会议 9673、网页浏览 14320,开浏览器、写文档、开会都顺手。生产力 17447 ——电子表格 21428、文档编写 14206,Office 那套活儿很能打。数位内容创作 17918 ——照片编辑 27875、渲染与视觉 22299,PS 修图、轻度 3D 都能顶;视频编辑 9256,日常 Vlog 剪辑够用。这些才是桌上工作站天天要干的活儿。

最后我们看看这台迷你主机烤机下温度、噪音表现。

FurMark 单烤的时候,CPU 封装瞬时功耗冲到 173.14W,GPU 能到 174.00W,都过了 170W。

FurMark 和 AIDA64 一起双烤,头 9 分钟功耗一直顶在 154W,之后降到 134W 稳住。能在极限负载下坚持这么久不掉速,水冷这套确实压得住。这里要说明的是,AMD 使用 STAPM Limit/PPT Limit 来管理其持续和短时功耗。在烤机开始时处于 PPT Limit 的 fPPT 阶段,此时锐龙 AI Max + 395 的功耗为 174W,短时峰值得以确保处理器发挥最强性能。随后进入 PPT Limit 的 sPPT 阶段,此时功耗为 154W,对于特定的复杂任务也能提供充分的保障。最后进入 STAPM Limit 134W 的稳定状态。

在温度方面,9 分钟时 AIDA64 检测 CPU 二极管温度 94 ℃,机器顶部出风口通过红外测温仪检测,最高为 47 ℃。

噪音也在双烤维持 154W 期间测了,距离 0.5 米实测 38.3dBA,白天放桌上基本听不见噪音。

结语

把一套能压住 176W 的定制水冷、128GB 统一内存和 96GB 可分配显存、还有内置 400W 电源全塞进 7.9 升的立方体里,雷神这台水冷迷你 AI 工作站走的不是堆料炫技的路子,而是真把 " 本地跑大模型 " 这件麻烦事做成了桌上的一件普通 " 家具 "。对开发者和小团队来说,数据不出内网、一次投入长期可用,它解决的是实打实的痛点。

当然,叠加国补后到手 26499 不算便宜,但这套 AMD 锐龙 AI Max+ 395 把 CPU、大内存和集显都揉进一颗芯片里,再加上水冷换来的安静和低温,值不值这个价,前面那些测试已经摆出来了。如果你正需要一台能年复一年蹲在桌角跑模型的机器,它确实非常值得选择。