WORLDTECHNVIDIA senkt Speicher- und NVLink-Bandbreite der Rubin-GPU in überarbeiteten Specs
NVIDIA hat die Auslieferungsspezifikationen seiner Rubin-GPU stillschweigend überarbeitet, während die ersten Serienprodukte eintreffen. Laut ServeTheHome nennt der Chiphersteller nun weniger Speicherbandbreite und weniger Scale-up-Bandbreite über NVLink, als er zuvor beworben hatte, während die Scale-out-Netzwerkbandbreite gestiegen ist.
Was sich an den Spezifikationen ändert
NVIDIA, ein Halbleiterunternehmen mit Sitz in Santa Clara, hat im September aktualisierte Spezifikationen für die Rubin-GPU und mehrere Produkte auf Rubin-Basis veröffentlicht, wie ServeTheHome berichtet. Das Medium hatte die Änderung zuerst über IT Home entdeckt. Die Angaben standen auf den Produktseiten von NVIDIA und im Architektur-Datenblatt.
Den größten Einschnitt gibt es bei der Speicherbandbreite. NVIDIA hatte ursprünglich 22TB/Sekunde pro Rubin-GPU angestrebt, was bei acht HBM4-Speicherstapeln rund 10,75Gbps pro Pin bedeutete. Die überarbeitete Auslieferungsspezifikation sieht für eine einzelne GPU 19,2TB/Sekunde vor, also etwa 9,375Gbps pro Pin. Das ist ein Minus von 1,375Gbps oder rund 11 Prozent.
Auch NVLink, die Verbindung, mit der sich viele physische GPUs wie eine verhalten, wurde zurückgenommen. Der vorläufige Wert von 3,6TB/Sekunde pro Rubin-GPU liegt nun bei gleichbleibenden 3,0TB/Sekunde, ein Rückgang um 600GB/Sekunde oder 17 Prozent. Bei der Scale-out-Vernetzung verhält es sich umgekehrt: Sie steigt von vorläufigen 400GB/Sekunde auf 450GB/Sekunde pro GPU.
Einordnung der HBM4-Vorgaben
Die Änderung kommt zu einer Zeit, in der NVIDIA für HBM4, den direkt neben dem Prozessor gestapelten Hochleistungsspeicher, sehr ambitionierte Datenraten in Aussicht gestellt hatte. Dem Bericht zufolge verdoppelte die Spezifikation die Speicherbusbreite pro Stapel bereits von 1024 auf 2048 Bit. Die offizielle HBM4-Spezifikation sah zudem eine etwas niedrigere Taktrate als bei HBM3E vor, mit einem Ziel von 8Gbps pro Pin.
Vor diesem Hintergrund lag NVIDIAs ursprünglicher Wert von 10,75Gbps deutlich über dem Standard. Auch die nun gesenkten 9,375Gbps liegen noch über den Vorgaben, die andere HBM4-Kunden anpeilen.
Ungeklärte Korrektur und mögliche Ursachen
NVIDIA hat nicht erklärt, warum die Angaben zur Speicherbandbreite nach unten korrigiert wurden. ServeTheHome verweist darauf, dass die naheliegende Annahme lautet, NVIDIA und seine Speicherpartner könnten die ursprünglichen Werte derzeit nicht liefern, sei es wegen der Geschwindigkeit der Speicher-Controller, der Stapelgeschwindigkeit, der Ausbeute an Stapeln oder einer Kombination daraus. Der Bericht betont, dass es sich dabei um eine Vermutung handelt.
Unabhängig von der Ursache steht Kunden weniger GPU-Speicherbandbreite zur Verfügung, was dem Bericht zufolge Folgen für die Leistung hat.
Auswirkungen auf den Vera-Rubin-NVL72-Rack
Die Korrekturen wirken sich auch auf die Produkte aus, die auf Rubin aufbauen. Das Flaggschiff Vera Rubin NVL72 kombiniert Vera-CPUs, BlueField-4-DPUs und Rubin-GPUs in einem Rack-System. Laut dem Bericht sinkt die kumulierte GPU-Speicherbandbreite des Racks von 1.580TB/Sekunde auf 1.400TB/Sekunde, ein Verlust von 180TB/Sekunde oder 11 Prozent.
Die theoretische Rechenleistung der Rubin-GPU bleibt bei 50 PFLOPS FP4-Inferenz und 35 PFLOPS FP4-Training unverändert. Dem Bericht zufolge hat NVIDIA seine Ziele bei Taktrate und Speicherkapazität erreicht.
Offene Fragen
- Warum hat NVIDIA die Speicherbandbreite der Rubin-GPUs nach unten korrigiert?
- Wirkt sich die geringere NVLink- und Speicherbandbreite auf die reale Leistung der Vera-Rubin-NVL72-Systeme aus?