据报道,美光正探索开发高耐久性 NAND 闪存模块的方案,研究如何将 NAND 闪存更靠近 GPU,以处理那些不需要传统 HBM 或常规 DRAM 模块那样高延迟和高带宽的工作负载。这种架构目前被称为 " 近 GPU NAND"(Near-GPU NAND),旨在兼顾密度和耐久性。该方案允许 GPU 访问密度低于传统 TLC 或 QLC NAND 的 NAND 闪存池,但重点在于提升 I/O 速度、带宽和读取速度。该技术将使 GPU 能够直接访问数百 GB 的潜在存储池,LLM 将不再受限于内存。(新浪财经)
36氪
刚刚