SK Hynix und SanDisk haben mit der Standardisierung von High‑Bandwidth Flash begonnen, einem Zwischenspeicher zwischen HBM und SSD

SK Hynix und SanDisk kündigen die Einführung einer neuen Speicherstufe – High Bandwidth Flash (HBF) – im Rahmen des Open Compute Project an

Was ist HBF
* Positionierung:

HBF ist eine „mittlere“ Stufe zwischen der ultrahochgeschwindigkeits-HBM-Speichertechnologie und dem geräumigen SSD.

Es füllt die Lücke zwischen der hohen Bandbreite von HBM und der großen Kapazität von SSD, indem es sowohl Speichererweiterung als auch Energieeffizienz für KI-Anwendungen bietet.

* Funktion in der Architektur:

Im Gegensatz zu HBM, das die primäre hohe Geschwindigkeit liefert, fungiert HBF als ergänzende Speicherschicht, die das Gesamtsystem ergänzt.

Wie SanDisk HBF sieht
Eigenschaft | Anmerkungen von SanDisk | Technologie
---|---|---
NAND‑Speicher, der BiCS NAND und CBA (CMOS Direct Bonded to Array) verwendet | Kapazität 8–16 mal größer als HBM bei vergleichbarer Bandbreite | Kosten ungefähr gleich wie HBM in typischen Systemkonfigurationen

Erste Generation
* Lesegeschwindigkeit: bis zu 1,6 TB/s (256 Gb/s pro Chip).
* Gesamtkapazität des Stacks (16 Chips): bis zu 512 GB.
* Physische Parameter: Der Stack ist so konzipiert, dass er optimal in die Abmessungen, den Energieverbrauch und die Höhe von HBM4 passt – das Integrationsmodell ähnelt modernen HBM‑Stacks auf KI-Beschleunigern.

Leistung
Interne Tests zeigten, dass HBF nur 2,2 % schlechter abschneidet als ein „HBM ohne Kapazitätsbegrenzung“ bei einer Last basierend auf der 8‑Bit-Konfiguration von Llama 3.1 405B.

*Wichtig:* Der Vergleich verwendet einen hypothetischen unbeschränkten HBM, sodass die tatsächlichen Vorteile durch höhere Kapazität nicht direkt gemessen werden.

Energieunabhängigkeit
HBF speichert Daten ohne Strom – im Gegensatz zu DRAM, das kontinuierliche Energie benötigt, um Daten zu aktualisieren.

Zukunftspläne (Gen 2 und Gen 3)
Generation | Ziellesegeschwindigkeit | Stack‑Kapazität | Energieverbrauch (vs. Gen 1)
---|---|---|---
Gen 2 | > 2 TB/s | bis 1 TB | 0,8× von Gen 1
Gen 3 | > 3,2 TB/s | bis 1,5 TB | 0,64× von Gen 1

Was als Nächstes kommt
* Standardisierung: SK Hynix und SanDisk haben HBF bereits als nächsten Schritt im Open Compute Project definiert.
* Einführung: Ein genauer Zeitplan wurde noch nicht bekannt gegeben.

Damit verspricht HBF, die neue „mittlere“ Speicherschicht zu werden, die Geschwindigkeit von HBM mit der Kapazität von SSD kombiniert, dabei energieeffizient bleibt und mit bestehenden KI‑Beschleunigern kompatibel ist.