HBF 标准来了：AI 推理的"中间层存储"开始有规矩

2026-08-20 · waytomilky

8 月 3-4 日，Sandisk 和 SK Hynix 在 FMS 2026（闪存峰会，美国圣克拉拉）联合发布了 HBF（High Bandwidth Flash） 的首个 OCP（Open Compute Project）技术规范。

HBF 这个名字你应该还陌生。但它要解决的是 AI 时代最现实的成本问题：模型权重放哪里。

HBM、SSD 各有各的贵和慢

AI 训练和推理的存储分层一直是个尴尬的局面：

• HBM（High Bandwidth Memory）：装在 GPU 旁边，延迟纳秒级，带宽 TB/s 级。但贵——H100 的 80GB HBM 占了整机成本相当大比重。8 层 HBM3e 容量到顶。
• SSD/NVMe：容量便宜，但延迟微秒级，带宽 GB/s 级。AI 推理时模型权重从 SSD 加载到 GPU 太慢。
• DRAM：比 HBM 便宜但比 SSD 贵，容量做不大，放不下大模型。

结果：要么接受 HBM 的天价（堆 HBM），要么忍受 SSD 的慢速（频繁 swap）。中间层一直是空白。

HBF 在中间塞了一层

HBF 的技术路线，本质是用 NAND 介质 + 类似 HBM 的宽 I/O 接口：

• 用 3D NAND 堆叠（容量便宜）
• 通过宽 I/O（Wide I/O）接口接近 HBM 的带宽
• 单 stack 512Gb（FMS 2026 公布），未来可堆叠到 TB 级
• 标准是 OCP 发布的，意味着生态开放，多家厂商可做

直观地说：HBF 像是把 SSD 的容量优势、HBM 的带宽优势拼到了一起，又都让了一步。HBM 还是最快的，SSD 还是最便宜的，HBF 卡在中间。

实际意义

HBF 最直接的应用场景是 AI 推理（inference）：

• 训练时模型全装 HBM（贵但快）
• 推理时只需要频繁访问的权重进 HBM，剩余的进 HBF
• 减少对 HBM 容量的依赖 → 单卡能跑更大的模型
• 或者用更少的 HBM 跑相同的模型 → 单卡成本下降

Sandisk 和 SK Hynix 是首批规范制定者，规格里明确写了"AI 推理"的优化方向。但距离真正能买到的产品还有时间——OCP 规范发布到工程实现通常 6-18 个月。

我自己的判断

1. AI 推理成本结构要开始变了。HBM 容量瓶颈一直是大模型落地的硬成本，HBF 给了非 HBM 路径。这对做边缘推理、终端 AI 部署的产品线是个新选项。 2. 标准比产品更重要。HBF 首发是 OCP 规范而不是某家公司芯片，意味着行业一开始就拉了多家盟友。生态成熟速度会比单家闭门造车快得多。 3. 短期不便宜。HBF 用的是 NAND + 宽 I/O 工艺，初期单价不会低。要降到消费级，估计 2027-2028 年。

局限

• HBF 不是 HBM 替代品，HBM 在训练场景仍然不可替代
• 标准化不等于产品化，硬件到软件栈还需要时间
• 软件层面（CUDA、PyTorch 之类）是否原生支持 HBF 当内存使用，还不确定

小结

HBF 标准是 AI 存储分层走向清晰的信号——HBM 顶端、SSD 底端、HBF 中间。站长和独立开发者暂时不会直接接触，但做 AI 推理产品的人未来 12-18 个月会开始遇到 HBF 选项，值得提前了解。