AI 的火爆让全球各个行业都始料未及,不过仍有许多企业早在 AI 爆发之前就已经开始布局,特别是一些上游企业,例如 AMD 就早早推出了丰富的 AI 硬件产品,携手 AI 生态伙伴赋能 " 人工智能 +" 行业新范式。
针对小型 AI 工作站,AMD 推出了 AMD 锐龙 AI MAX+ 395 处理器,在性能上也是相当地给力,目前这些搭载 AMD 锐龙 AI MAX+ 395 处理器的 Mini AI 工作站已经陆续上市,给个行业和个人用户带来更强的 AI 使用体验。在 9 号,AMD 举办了 Mini AI 工作站创新分享沙龙,介绍了 AMD 在面向端侧 AI 推理上所取得的成就。
与普通消费级产品相比,工作站对于性能的要求更加苛刻,需要采用更加出色的硬件来兼顾性能与稳定性,拥有强大 CPU + IGPU + NPU 异构 AI 算力的 AMD 锐龙 AI Max+395 处理器无疑是为边缘 / 端侧 AI 推理平台打造的翘楚产品。
考虑到未来 AI 模型的茁壮发展,AMD 锐龙 AI Max+395 处理器首先考虑的是超大的显存模块,基于高带宽统一内存架构,可以支持最高 96GB 的 256bit 独享显存,40 组 CU,拥有 2560 个流处理器,对于流行的 MoE 架构开源大模型,都能高效加载和轻松驾驭,例如 GPT-OSS-120B 大模型推理速度达到 40tokens/sec。CPU 则采用创新的 Zen 5 架构,拥有 16 核 32 线程,而 XDNA 2 架构的 NPU 神经计算单元支持高达 50 TOPS 的 AI 算力,三者协同,带来强大的综合异构算力。
想要打造让人满意的 AI 系统,硬件只是一部分,软件也同样重要,甚至客户会为了追求完善的生态系统去选择更高溢价的产品,如今正是 AI 模型茁壮发展的年代,市面上也不断涌现出让人眼前一亮的 AI 模型,因此如果上游厂商能够在第一时间适配这些模型,无疑会让终端客户拥有更多的购买其产品的理由。
当然众所周知的是,想要打造让人满意的 AI 系统,硬件只是一部分,软件也同样重要,甚至客户会为了追求完善的生态系统去选择更高溢价的产品,此外如今正是 AI 模型茁壮发展的年代,市面上也不断涌现出让人眼前一亮的 AI 模型,因此如果上游厂商能够在第一时间适配这些模型,无疑会让终端客户拥有更多的购买其产品的理由。
目前搭载 AMD 锐龙 AI Max 系列处理器的 Mini AI 工作站已经适配了海量的 AI 模型,包括 OpenAI、Deepseek、阿里千问等主流的通用开源模型,用户还可以使用 AI 工具如 N8N 这样的自动化工作流工具构建海量的应用,来让 AI 应用为客户所服务。在沙龙上,AMD 也表示针对一些新生 AI 模型,AMD 也有相关的 AI 团队能够在第一时间完成适配,实现 0day 就绪,从而让用户获得最出色的使用体验。
可以说目前我们正处于 AI 茁壮成长的年代,海量 AI 模型的涌现也带给用户更多的发展机会,像是 AMD 这样的上游厂商,通过高竞争力的 AI 硬件产品以及完善的生态系统实现软硬件的完美融合,无论你是 AI 开发者、AI 教科研学、还是超级个体 / 一人公司,或者中小企业、特定领域的专家助手,搭载锐龙 AI Max+ 395 的 Mini AI 工作站,都将成为你端侧与边缘侧 AI 推理的理想平台。