WORLDTECHAi2 veröffentlicht ToyBlocks, eine offene Simulation zur Untersuchung von Roboterlernen
Ai2 hat ToyBlocks herausgebracht, eine simulierte Tischumgebung, die zeigen soll, wie Roboter lernen und wo sie scheitern. Laut der Meldung eines Mediums verbindet die Veröffentlichung eine offene Robotersimulation mit generierten Demonstrationen, zwei trainierten Modellen und Auswertungswerkzeugen.
Was die Umgebung umfasst
Der Aufbau stellt einen simulierten Arm und beschriftete Bauklötze auf eine Tischplatte. Neben Schieben, Umdrehen und Stapeln stehen Such-, Sortier- und Anordnungsaufgaben. Bei manchen davon kann der Buchstabe oder das Bild, das ein Roboter benötigt, verborgen sein, sodass die Maschine einen Block erst wenden muss, bevor sie entscheiden kann, wohin er gehört.
Ein Aufgaben- und Bewegungsplaner wählt Fertigkeiten aus und reiht sie aneinander, um beschriftete Demonstrationen zu erzeugen. ToyBlocks ist die erste Umgebung im FoundationWorlds-Framework von Ai2, das Experimente zum Roboterlernen wiederholbar machen und Fehler leichter nachvollziehbar machen soll.
Automatisierte Demonstrationen und offene Modelle
Fertigkeiten entstehen über Reinforcement Learning und Bewegungsplanung in Nvidias Isaac Lab. Die Erzeugung kann exakte Positionen und Ausrichtungen der Blöcke aus dem Simulator nutzen statt Kameraschätzungen und automatisiert so Verhaltensweisen, die sonst eine Person per Fernsteuerung an einem physischen Roboter erfordern würde. Ai2 zufolge können Hunderte Pläne gleichzeitig auf einer GPU laufen, mit bis zu 24-facher Echtzeitgeschwindigkeit. Forscher können die entstehenden Trainingsmischungen auf bestimmte Fertigkeiten gewichten und Strategien auf Aufgaben prüfen, die vom Training ausgenommen waren.
Die erste Veröffentlichung umfasst 85.336 langfristige Demonstrationen, die je nach Satz aus etwa 6 bis 12 Fertigkeitsdemonstrationen bestehen. Ai2 gibt an, dass sie knapp 1.600 Stunden Roboterausführung und 144 Millionen Bilder abdecken. Der öffentliche Datensatz wird als LeRobot-Daten im Parquet-Format unter einer ODC-BY-Lizenz angeboten, aufgeteilt in die Teilmengen easy, medium und hard. Der Hauptcode steht unter der Apache-2.0-Lizenz, während bestimmte Submodule und heruntergeladene Ressourcen eigenen Lizenzen unterliegen.
Die Modellkarten von Ai2 teilen die veröffentlichte Strategie in zwei Ebenen. Molmo2-4B-tb, ein Modell mit rund 4,5 Milliarden Parametern, nimmt ein Bild der Frontkamera und ein Textziel entgegen und liefert einen kurzen Plan, eine nächste Aktion und einen Zielpunkt. ManiFlow-tb mit 322,5 Millionen Parametern verarbeitet Front- und Greiferbilder, den Roboterzustand, Aufgabeninformationen und eine Zielwärmekarte und erzeugt Aktionsblöcke.
Ergebnisse zur Generalisierung
Die räumlichen Experimente umfassen Stack, Unstack, Flip und Rotate und unterscheiden Interpolation innerhalb des Trainingsbereichs von Extrapolation darüber hinaus. Beispiele sind Training mit Blöcken in einem Teil des Arbeitsraums und Test in einem anderen oder das Zurückhalten bestimmter Stapelhöhen.
Ai2 meldet trotz großskaligen Vortrainings eine schwache anfängliche Generalisierung bei ManiFlow, π0.5 und MolmoAct 2 und folgert, dass die Generalisierung bei Aktionsmodellen noch lange nicht gelöst ist. Die agentischen Tests deuten auf eine andere Schwäche hin: Die 30 Szenenkonfigurationen enthielten 4 bis 10 Blöcke, die im Training aufgetaucht waren.
Offene Fragen
- Wie die agentischen Tests bei Blöcken abschneiden, die über die 4 bis 10 im Training gesehenen hinausgehen, bleibt nach den berichteten Fakten unklar?
- Ob die berichteten Lücken bei der Generalisierung auch bei physischen Robotern auftreten, ist durch die Fakten nicht belegt?