WORLDTECH NEWS 全球科技资讯。联系我们
人工智能 单一来源

NVIDIA发布Alpamayo 2 Edge:面向DRIVE Thor的2B推理VLA模型

由 WORLDTECH 译自英文。事实、数字、名称和来源均与英文原文一致。 English

Close-up of two NVIDIA RTX 2080 graphics cards with dual fans, high-performance hardware.
示意图片。图片:Nana Dua / PexelsNVIDIA 标志仅用于识别,不代表与 WORLDTECH 有任何关联或背书。

事件经过

NVIDIA发布了Alpamayo 2 Edge,这是一款2B级别的推理型视觉-语言-动作模型,可在DRIVE AGX Thor上规划驾驶轨迹并对其作出解释,从像素到轨迹的延迟为160至190毫秒(延迟指请求与得到结果之间的等待时间)。NVIDIA已发布Alpamayo 2 Edge,这是一款面向自动驾驶的紧凑型推理视觉-语言-动作(VLA)模型。NVIDIA是一家总部位于圣克拉拉的半导体公司,其产品与服务包括图形处理器。

上下文长度:未披露(实测提示词为3,236个token)。性能:以其体量而言是出色的闭环驾驶模型;在推理问答方面处于中游水平。

Alpamayo 2 Edge是一个2B参数的模型,可在车内规划轨迹并对其进行解释。它面向NVIDIA DRIVE AGX Thor,而非数据中心GPU(一种为同时进行大量计算而设计、用于图形和AI的芯片)。

其目标是在车载算力与延迟预算之内实现基于推理的规划。参数构成:2.45B的主干网络加0.2B的动作专家模块(Hugging Face元数据标注为3B)。

运行环境:NVIDIA DRIVE AGX Thor,采用FP8加TensorRT Edge-LLM(一种在文本上训练、用于生成文本的AI系统)方案。BF16 PyTorch需要16 GB及以上的GPU显存,已在1块H100 80GB上验证。

不足之处:nuReasoning数值得分为48.67;LingoQA得分75.2,落后于Alpamayo 2 Super(79.2)。另外,目前仅在H100上完成验证,要达到Thor上的实时速度需要使用FP8方案。

关键事实

  • NVIDIA发布了Alpamayo 2 Edge,这是一款面向DRIVE AGX Thor的2B级推理视觉-语言-动作模型,可规划驾驶轨迹并作出解释,从像素到轨迹的延迟为160至190毫秒
  • NVIDIA已发布Alpamayo 2 Edge,这是一款面向自动驾驶的紧凑型推理视觉-语言-动作(VLA)模型

来源与证据