该技术规范由 OCP（开放计算项目）旗下 HBF 技术工作组负责开发，闪迪和 SK 海力士作为主要贡献者参与其中。值得注意的是，在标准化推进过程中，谷歌与 Tenstorrent 也加入了 SK 海力士与闪迪的 HBF 联盟，并在技术验证和标准制定方面发挥了重要作用。
该规范为设计 AI 推理系统和 AI 加速器的企业及开发者提供了一套通用技术框架，使其能够在需要更大容量的近计算存储以及更高带宽的场景中引入 HBF 技术，从而提升系统功耗和性能指标，并帮助降低成本。其定义了与 HBF 技术交互并使用 HBF 技术的系统接口、电气规范以及其他技术指南，包括基础性能预期、xPU-HBF 主机接口、HBF 裸片堆叠的可靠性和封装指导，以及针对读写操作的软件用户指南等内容。
现代 AI 推理系统需要将高带宽存储器部署在靠近计算核心的位置，而随着 AI 和大模型发展，对靠近计算单元的更大容量存储需求也随之持续增长。
HBF 属于下一代存储技术，是介于高带宽内存（HBM）与固态硬盘之间的新型存储层级；其通过类似 HBM 的封装 / 互连方式把多个 NAND 闪存芯片堆叠起来，兼具接近 HBM 的高速数据传输能力，同时依托 NAND 闪存技术实现存储容量大幅扩容。
闪迪首席技术官（CTO）Alper Ilkbahar 表示："AI 推理正在带来一系列新的存储需求，而 HBF 技术正是为满足这一需求而设计的。这项规范为系统设计者提供了一条切实可行的路径，使高容量、高带宽存储能够更加靠近计算单元，同时支持更加灵活的系统架构。这是 HBF 生态系统发展的重要里程碑，也是下一代 AI 系统提升大规模 Token 经济效益的重要基础。"
HBF 应用优势显著。一方面，成本与容量上，在相同的物理空间内，单个 HBF 堆栈可提供高达 512GB 的容量，较 HBM 提升一个数量级，显著降低系统单位容量成本。另一方面，读取带宽高、能效高：根据闪迪数据显示，首代 HBF 目标参数包括：16-die 堆叠、单堆栈 512GB 容量，1.6TB/s 读取带宽，读取带宽可接近 HBM 水平，同时由于无需 DRAM 持续刷新，其静态功耗明显更低。
不过，HBF 读取侧寿命约束相对较弱，而写入 / 擦除寿命是主要限制，更适合承接读多写少、可预取的数据层，如共享 KV Cache 中的部分历史块、以及部分权重 / 参数分片等；而时延最敏感、更新最频繁的数据仍应优先由 HBM 承接。
国信证券认为，在大模型推理和 Agent 智能体全面爆发的场景下，HBF 能将数百 GB 的基础模型权重、海量向量数据库以及不断膨胀的多模态上下文完美承载，极大缓解了长文本、大并发下 HBM 溢出及频繁向外存调用数据的 I/O 阻塞。
