NVIDIA veröffentlicht Alpamayo 2 Edge: Ein 2B-Reasoning-VLA für DRIVE Thor

Was passiert ist
NVIDIA hat Alpamayo 2 Edge veröffentlicht, ein Vision-Language-Action-Modell mit Reasoning in der Größenordnung von 2 Milliarden Parametern, das Fahrtrajektorien plant und auf DRIVE AGX Thor erklärt, mit einer Latenz von 160 bis 190 ms von Pixel bis Trajektorie (die Verzögerung zwischen Anfrage und Ergebnis). NVIDIA hat Alpamayo 2 Edge veröffentlicht, ein kompaktes Vision-Language-Action-Modell (VLA) mit Reasoning für autonomes Fahren. NVIDIA ist ein Halbleiterunternehmen mit Sitz in Santa Clara, dessen Produkte und Dienste unter anderem Grafikprozessoren (GPUs) umfassen.
Kontextlänge: nicht angegeben (gemessener Prompt: 3.236 Token). Leistung: Starker Fahrer für seine Größe; im Mittelfeld bei Reasoning-Fragen und -Antworten.
Alpamayo 2 Edge ist ein Modell mit 2 Milliarden Parametern, das Trajektorien plant und im Fahrzeug erklärt. Es ist für NVIDIA DRIVE AGX Thor gedacht, nicht für einen Rechenzentrums-GPU (einen Chip, der viele Berechnungen gleichzeitig ausführt und für Grafik und KI genutzt wird).
Das Ziel: Planung mit Reasoning innerhalb der Rechenleistung und Latenzbudgets an Bord. Aufschlüsselung der Karte: 2,45 Mrd. Backbone plus 0,2 Mrd. Action Expert (HF-Metadaten nennen 3 Mrd.).
Läuft auf: NVIDIA DRIVE AGX Thor mit dem FP8- und TensorRT-Edge-LLM-Verfahren (das KI-System, das auf Text trainiert wird, um Text zu erzeugen). BF16 PyTorch benötigt 16 GB oder mehr GPU-Speicher und wurde auf einer 1x H100 80GB validiert.
Schwächen: nuReasoning-Punktzahl von 48,67; LingoQA mit 75,2 hinter Alpamayo 2 Super (79,2). Außerdem wurde nur die H100 validiert, und echtzeitfähige Geschwindigkeit auf Thor erfordert das FP8-Verfahren.