NVIDIA Nemotron 3.5 Super VL ist jetzt in Amazon SageMaker JumpStart verfügbar

Was passiert ist

NVIDIA Nemotron 3.5 Super VL, ein multimodales (also mit mehr als einer Eingabeart wie Text und Bildern arbeitendes) Vision-Language-Modell mit 120 Milliarden Parametern, ist jetzt in Amazon SageMaker JumpStart verfügbar. Sie können es mit wenigen Schritten in SageMaker Studio oder mit wenigen Zeilen des SageMaker Python SDK (dem Toolkit, mit dem Entwickler auf einer Plattform aufbauen) bereitstellen. NVIDIA ist ein Halbleiterunternehmen mit Sitz in Santa Clara.

Super VL ist das Vision-Language-Modell (VLM) der NVIDIA-Nemotron-3.5-Familie. Es nimmt Bilder, Videos und Text als Eingabe entgegen und erzeugt Text als Ausgabe.

Das Modell kombiniert ein hybrides Mixture-of-Experts-(MoE-)Sprachgerüst mit 120 Milliarden Parametern, von denen 12 Milliarden aktiv sind, mit einem C-RADIO-Vision-Encoder. Es unterstützt Kontextlängen von bis zu 1 Million Tokens und enthält einen integrierten Multi-Token-Prediction-(MTP-)Kopf, der spekulatives Decodieren unterstützt.

NVIDIA hat Super VL für Dokumentenintelligenz, GUI-Verständnis für Computer-Use-Agenten, Videobeantwortung und multimodale agentische Anwendungen (KI, die mehrstufige Aufgaben ausführt, statt nur eine einzelne Frage zu beantworten) entwickelt. JumpStart bietet zwei Varianten an: NVFP4, aus BF16 quantisiert mit quantisierungsbewusster Destillation für optimierte Inferenz, und die BF16-Referenzgewichte mit voller Präzision.

Modellübersicht Nemotron 3.5 Super VL ist ein Modell mit 120 Milliarden Parametern und 12 Milliarden aktiven Parametern pro Token. Es kombiniert ein hybrides Sprachgerüst mit einem eigenen Vision-Encoder.

Sprachgerüst: 88 Schichten, die Mamba-2- und MoE-Schichten (512 geroutete Experten, 22 pro Token aktiv) mit 8 Attention-Schichten verschachteln, dazu ein gemeinsamer MTP-Kopf. Das Gerüst wurde aus Nemotron 3 Super Base initialisiert und aus Nemotron 3 Ultra Base destilliert.