ELA lernt Roboter-Strategien aus Videos ohne Aktionsdaten
In einem auf arXiv veröffentlichten Preprint wird ELA vorgestellt, ein Verfahren, mit dem Roboter Manipulation aus unbeschrifteten Videos lernen können, indem latente Aktionen sowohl für das Erlernen der Strategie als auch für die Dekodierung optimiert werden. Die Autoren berichten, dass ELA frühere Ansätze mit latenten Aktionen in Simulation und auf realen Robotern übertrifft.
Das Problem, das ELA angeht
Imitationslernen für Roboter setzt Demonstrationen voraus, die die ausgeführten Aktionen enthalten, und solche aktionsbeschrifteten Daten sind knapp. Aktionsfreie Demonstrationen wie gewöhnliche Videos gibt es dagegen in großer Zahl, heißt es im arXiv-Abstract.
Jüngere Verfahren mit latenten Aktionen versuchen, handlungsrelevante Repräsentationen aus Veränderungen zwischen aufeinanderfolgenden Beobachtungen zu gewinnen. Der Preprint hält dem entgegen, dass diese Methoden die latenten Aktionen nie auf die nachgelagerte Steuerung abstimmen. Die Folge sind Repräsentationen, die Strategien nur schwer modellieren können und die sich nur schwer genau in kontinuierliche Roboterbewegungen übersetzen lassen.
Aufbau des Verfahrens
ELA trainiert drei Komponenten gemeinsam: ein Modell für latente Aktionen, eine Strategie für latente Aktionen und einen Aktionsdekodierer. Nach Angaben der Autoren erlaubt dieses gemeinsame Training, große Mengen an Videodaten zu nutzen und dabei nur wenige aktionsbeschriftete Roboterdemonstrationen zu benötigen.
Die Aktionsdekodierer sind mit 4 Millionen Parametern leichtgewichtig gehalten. Laut den Autoren lassen sie sich ohne Änderungen an Strategie-Architekturen oder Trainingszielen in bestehende Imitationslernverfahren einfügen.
Berichtete Ergebnisse
Dem Abstract zufolge zeigen Experimente an simulierten und realen Manipulationsaufgaben, dass ELA frühere Baselines mit latenten Aktionen durchgehend übertrifft. Diese Angaben stammen aus dem Preprint selbst; eine unabhängige Überprüfung liegt WORLDTECH nicht vor.
Offene Fragen
- Wie groß sind die Leistungsgewinne gegenüber den Baselines bei den realen Aufgaben?
- Wie viele aktionsbeschriftete Demonstrationen braucht man in der Praxis?