
AI 基础设施正在经历根本性变革。最初专为模型训练构建的大规模集中式集群架构,正逐步演进为更具动态的系统,以实现持续运行大规模推理。例如 NVIDIA MGX AI 工厂生态系统正是顺应这一趋势而生,数据中心正朝着专为生成与交付 AI 成果而构建的方向发展,以承载日益丰富的工作负载需求。
但随着这些 AI 工厂逐步落地,一个趋势愈发清晰:系统性能已不再只取决于算力。它更取决于数据,包括数据传输速度、访问可靠性,以及数据在整个系统中的高效扩展能力。
为何数据既是瓶颈,又是破局机遇
当下的 AI 工作负载——从模型训练、微调,到尤其是实时推理——都依赖于对海量数据集的持续访问。模型必须以极低的延迟和稳定的吞吐来调取权重、上下文以及键值缓存(KV Cache)等中间数据。当数据层无法满足这些需求时,即使是更先进的 GPU 也只能闲置等待。这正是 NVIDIA MGX 等架构日益受到关注的原因。MGX 采用模块化设计,使系统构建者能够根据特定的 AI 工作负载需求来灵活组合算力、网络及存储资源。在这一架构下,存储不再只是配套基础设施,更是为实现规模化应用提供性能支撑的关键要素。闪迪正在助力定义这一关键数据层。
高性能存储的作用
现代 NVMe SSD 在这场变革中发挥着核心作用,可提供保障 AI 管道持续高效运转所需的低延迟与高吞吐量。以SANDISK®SN861 NVMe SSD为代表的闪迪企业级存储产品组合正是针对此类场景打造,旨在为模型训练和推理管道提供所需的卓越性能与一致性。
