机器人 单一来源
inr2action 将机器人经验存为固定大小的权重增量,用于回忆与行动
由 WORLDTECH 译自英文。事实、数字、名称和来源均与英文原文一致。 English
arXiv 上的一篇预印本提出,将较长的机器人经验保存为一组固定大小的神经权重变化。据论文介绍,语言模型可以回答关于过往经验的问题,解码器可以预测指令,且查询时无需检索已存储的视频帧。
记忆如何构建
该方法以共享初始化为起点,将神经隐式表示拟合到一段经验的视频上,而这一共享初始化是通过元学习获得的。拟合后的权重与该起点之间的差值,即权重增量,被作者视为记忆。
据摘要称,该增量的大小不随经验长度而变化。一段一百帧的经验与一段十万帧的经验,所得增量的大小完全相同。作者将此表述为:记忆与关键信息相关,而非与执行时间相关。
语言与动作输出
一个学习得到的投影器将权重增量转换为词元嵌入,即语言模型读取的数值输入。这些嵌入用于条件化两个组件:一个用于回答问题的语言模型,以及一个联合回归指令的解码器。两者在查询到来时都不检索帧。
据报道,在 RoboMME 基准上,语言模型在每一类问题上都超过随机水平,解码器的平均 R² 达到 0.51。
对照实验指向初始化
作者描述了两项对照实验。将增量替换为同等幅度的噪声后,性能下降 11.4 个点。若权重从随机起点而非元学习得到的初始化出发,则无法解码,论文以此作为共享起点对编码经验内容至关重要的证据。
该预印本被标记为新提交,目前仅有一家媒体报道,即 arXiv Robotics(cs.RO),也是这些发现的唯一来源。
待解问题
- 该方法在 RoboMME 基准之外的机器人任务上表现如何?
- 共享的元学习初始化如何获得,它在多大程度上依赖训练数据?