GPU-Karten für KI weiter Mangelware

High-Bandwidth-Speicher bis 2026 fast ausverkauft

14.05.2024
Von 
Andy Patrizio arbeitet als freier Journalist für die Network World.
Auf Unternehmen, die High-Performance-Computing- oder KI-Projekte planen, kommt neues Ungemach zu: High-Bandwidth-Speicher ist bis 2026 Mangelware.
Die Produktion der für KI und High-Performance-Computing benötigten HBM-Speicher ist bis 2026 nahezu ausverkauft.
Die Produktion der für KI und High-Performance-Computing benötigten HBM-Speicher ist bis 2026 nahezu ausverkauft.
Foto: MeshCube - shutterstock.com

Die Produktion von High-Bandwidth Memory (HBM) ist bis 2026 schon heute nahezu ausverkauft. Auf den ersten Blick liegt die Versuchung nahe zu sagen, na und, dann nehmen wir halt anderen RAM.

Schlüsselkomponente für KI und HPC

Doch halt, so einfach ist die Sache nicht. HBM-Speicher wird nämlich in Verbindung mit Grafikprozessoren (GPUs) verwendet, da er einen extrem schnellen Speicherzugriff ermöglicht. Damit ist HBM mit ein Schlüssel zur erforderlichen Leistung bei der KI-Verarbeitung und im High-Performance-Computing (HPC).

18 Monate Lieferzeit drohen

Und ohne HBM gibt es keine GPU-Karten. Erste Experten warnen bereits, dass Anwender, die jetzt eine HPC-GPU bestellen, möglicherweise bis zu 18 Monate auf diese warten müssen.

Produktion bis 2026 ausverkauft

Im Grunde bedeutet dies, dass die Nachfrage nach HBM das Angebot für mindestens ein Jahr übersteigt, und alle jetzt aufgegebenen HBM-Bestellungen wohl erst 2026 erfüllt werden. Denn erst kürzlich hat der südkoreanische Speicherhersteller SK Hynix bekanntgegeben, dass sein HBM-Angebot für 2024 und den größten Teil des Jahres 2025 ausverkauft ist. Bei den Wettbewerbern sieht die Situation auch nicht besser aus. So hatte Micron bereits im März mitgeteilt, dass die eigene HBM-Produktion bis Ende 2025 ausverkauft sei.

Hynix ist laut TrendForce mit einem Marktanteil von 49 Prozent der führende Anbieter im HBM-Bereich. Micron kommt auf einen Anteil von etwa 4 bis 6 Prozent. Der Rest wird hauptsächlich von Samsung geliefert. Das Unternehmen hat sich bislang nicht zur HBM-Verfügbarkeit geäußert. Marktkenner gehen allerdings davon aus, dass auch dort die HBM-Nachfrage die Produktionskapazitäten übersteigen dürften.

Ohne HBM keine GPU-Karten

Ohne HBM-Speicher dürften auch GPU-Karten (im Bild Nvidia GB200 Blackwell) weiterhin Mangelware bleiben.
Ohne HBM-Speicher dürften auch GPU-Karten (im Bild Nvidia GB200 Blackwell) weiterhin Mangelware bleiben.
Foto: NVIDIA

Unter dem Strich bedeutet dies: Es ist egal, wie viele GPUs oder HPC-Chips Nvidia, Intel, TSMC, AMD oder andere herstellen - ohne HBM-Speicher werden sie nicht funktionieren. Und für die Endanwender bedeutet dies, dass sie ein neues Problem in der Lieferkette erwartet.

Ein Grund für die derzeitige Situation dürfte darin liegen, dass HBM-Hersteller von der explosionsartigen Nachfrage im Zuge des KI-Booms überrascht wurden. Und sie konnten ihre Produktionskapazitäten nicht entsprechend schnell ausbauen.

Komplizierte Herstellung

Erschwerend kommt hinzu, dass für HBM ein komplexes und hochtechnisches Herstellungsverfahren verwendet wird. Hier kommen die so genannten Through-Silicon-Vias (TSV) zum Einsatz, die sonst nirgendwo verwendet werden. Der Aufbau entsprechender Technik gilt als ähnlich kompliziert wie bei CPUs.

Außerdem müssen die Wafer auf eine andere Art und Weise modifiziert werden als bei Standard-DRAM. Dies macht eine Verschiebung der Fertigungsprioritäten, wie sie bei Speichertypen wie DDR4, DDR5, LPDDR oder GDDR an der Tagesordnung sind, praktisch unmöglich.