WORLDTECHNVIDIA Nemotron 3.5 Super VL现已在Amazon SageMaker JumpStart上线
由 WORLDTECH 译自英文。事实、数字、名称和来源均与英文原文一致。 English
事件经过
NVIDIA Nemotron 3.5 Super VL是一款拥有120B参数的多模态（能够处理多种输入形式，例如文本和图像）视觉语言模型，现已在Amazon SageMaker JumpStart上线。用户只需在SageMaker Studio中完成几个步骤，或使用几行SageMaker Python SDK（开发者在该平台上进行开发时所依赖的工具包），即可完成部署。NVIDIA是一家总部位于圣克拉拉的半导体公司。
Super VL是NVIDIA Nemotron 3.5系列中的视觉语言模型（VLM）。它接受图像、视频和文本作为输入，并生成文本。
该模型将一个120B参数的混合专家（MoE）语言主干与12B活跃参数相结合，并搭配C-RADIO视觉编码器。它支持最长100万个token的上下文长度，并内置支持推测解码的多令牌预测（MTP）头。
NVIDIA开发Super VL用于文档智能、面向计算机操作智能体的图形界面理解、视频问答以及多模态智能体式（指能够执行多步骤任务、而非仅回答单一问题的AI）应用。JumpStart提供两个版本：NVFP4版本，由BF16量化而来，并采用量化感知蒸馏以优化推理；以及BF16全精度参考权重版本。
模型概述：Nemotron 3.5 Super VL是一款120B参数的模型，每个token有12B活跃参数。它将混合语言主干与专用视觉编码器相结合。
语言主干：包含88层，其中Mamba-2层与MoE层（512个路由专家，每个token激活22个）交错排列，另有8个注意力层，以及一个共享的MTP头。该主干由Nemotron 3 Super Base初始化，并从Nemotron 3 Ultra Base蒸馏而来。