WORLDTECH NEWS 全球科技资讯。联系我们
机器人 单一来源

inr2action 将机器人经验存为固定大小的权重增量,用于回忆与行动

由 WORLDTECH 译自英文。事实、数字、名称和来源均与英文原文一致。 English

An industrial machine in a glass factory showcasing automated packaging in Dar es Salaam.
示意图片。图片:Keegan Checks / Pexels

arXiv 上的一篇预印本提出,将较长的机器人经验保存为一组固定大小的神经权重变化。据论文介绍,语言模型可以回答关于过往经验的问题,解码器可以预测指令,且查询时无需检索已存储的视频帧。

记忆如何构建

该方法以共享初始化为起点,将神经隐式表示拟合到一段经验的视频上,而这一共享初始化是通过元学习获得的。拟合后的权重与该起点之间的差值,即权重增量,被作者视为记忆。

据摘要称,该增量的大小不随经验长度而变化。一段一百帧的经验与一段十万帧的经验,所得增量的大小完全相同。作者将此表述为:记忆与关键信息相关,而非与执行时间相关。

语言与动作输出

一个学习得到的投影器将权重增量转换为词元嵌入,即语言模型读取的数值输入。这些嵌入用于条件化两个组件:一个用于回答问题的语言模型,以及一个联合回归指令的解码器。两者在查询到来时都不检索帧。

据报道,在 RoboMME 基准上,语言模型在每一类问题上都超过随机水平,解码器的平均 R² 达到 0.51。

对照实验指向初始化

作者描述了两项对照实验。将增量替换为同等幅度的噪声后,性能下降 11.4 个点。若权重从随机起点而非元学习得到的初始化出发,则无法解码,论文以此作为共享起点对编码经验内容至关重要的证据。

该预印本被标记为新提交,目前仅有一家媒体报道,即 arXiv Robotics(cs.RO),也是这些发现的唯一来源。

待解问题

  • 该方法在 RoboMME 基准之外的机器人任务上表现如何?
  • 共享的元学习初始化如何获得,它在多大程度上依赖训练数据?

关键事实

  • arXiv 预印本 2610.28882v1 描述了一种面向长时程机器人运行的记忆方法,其规模取决于关键信息而非执行时间。
  • 神经隐式表示以共享的、经元学习得到的初始化为起点拟合到经验视频上,所得的权重增量即作为记忆。
  • 无论一段经验跨越一百帧还是十万帧,权重增量的大小都保持固定。
  • 学习得到的投影器将增量映射为词元嵌入,用以条件化语言模型进行问答,并条件化解码器进行联合指令回归;查询时不检索帧。
  • 在 RoboMME 上,语言模型在所有问题类型上都超过随机水平,解码器的平均 R² 达到 0.51。

来源与证据