Der neue Speichertyp High Bandwidth Flash (HBF) passiert seinen ersten großen Meilenstein: Die erste technische Spezifikation ist fertig und innerhalb des Open Compute Project (OCP) veröffentlicht.

Speicherhersteller können jetzt entsprechende Bausteine herstellen und Chipdesigner passende Beschleuniger entwerfen. Bis entsprechende GPUs oder andere Chipvarianten erscheinen, dürften allerdings noch mehrere Jahre vergehen. Die Anbindung an andere Chips erfolgt über die industrieoffene Standard-Schnittstelle Universal Chiplet Interconnect Express (UCIe).

NAND-Flash statt DRAM

HBF ist eine Alternative zum bisherigen High Bandwidth Memory (HBM). Der größte Unterschied liegt in der Speichertechnik: HBM verwendet flüchtiges Dynamic Random Access Memory (DRAM), das die Daten nur mit aktiver Stromversorgung halten kann. HBF setzt dagegen auf nicht flüchtigen NAND-Flash, allerdings mit Anpassungen, die so nicht bei SSDs zu finden sind.

Durch den Einsatz von NAND-Flash ergibt sich ein großer Vorteil: deutlich größere Kapazitäten. HBF kommt auf bis zu 512 GByte pro Stapel, während aktuelles HBM4 auf maximal 48 GByte ausgelegt ist. Die erste HBF-Spezifikation sieht drei Geschwindigkeitsstufen zwischen 400 GByte/s und 3 TByte/s vor. Vier HBF-Stapel an einem Beschleuniger würden schon die Marke von 10 TByte/s brechen. HBM4 läuft bisher bis 3,3 TByte/s pro Stapel.

Sandisk kann sich auch Chipbeschleuniger komplett ohne HBM, aber dafür mit HBF vorstellen.

(Bild: Sandisk)

HBF schafft seine Transferraten durch hohe Parallelisierung. Der NAND-Flash ist in zahlreiche Bereiche aufgeteilt, die gleichzeitig ausgelesen und beschrieben werden. Das erfordert deutlich mehr Verwaltungslogik und damit neu entwickelte Chips. Zum Vergleich: Die neuesten PCI-Express-6.0-SSDs schaffen maximal 28,4 GByte/s beziehungsweise 0,0284 TByte/s.

Ein HBF-Baustein besteht aus bis zu 16 aufeinandergesetzten NAND-Flash-Chips, die miteinander verbunden sind. In modernen NAND-Flash-Chips sitzen typischerweise Hunderte Speicherlagen. Ein kompletter Stapel im Maximalausbau käme somit auf über 5000 Speicherlagen.

Keine HBM-Ablöse

Ein Nachteil bleibt HBF gegenüber HBM: NAND-Flash hat erheblich höhere Latenzzeiten als DRAM. SK Hynix sieht HBF daher als zusätzliche Speicherstufe zwischen HBM und normalen SSDs in Rechenzentren. Auf einem KI-Beschleuniger säßen dann sowohl HBM als auch HBF.

Sandisk sieht HBF als neuen KI-Goldstandard und rückt die Koexistenz in den Hintergrund (bestätigt sie aber ebenfalls explizit). Das verwundert nicht, da Sandisk anders als SK Hynix ausschließlich NAND-Flash und kein DRAM herstellt.

Sandisk hat die Idee von HBF erstmals im Februar 2025 vorgestellt. Im August 2025 hat sich SK Hynix der Ausarbeitung angeschlossen. Beide Firmen haben im Februar 2026 ein gemeinsames Konsortium gegründet. Dem gehören neuerdings auch Google und das KI-Chip-Start-up Tenstorrent an.

(mma)