WORLDTECHAmazon veröffentlicht TorchNeuron: PyTorch-Code läuft auf Trainium-Chips nach Änderung einer Zeile
Die Einheit Annapurna Labs von Amazon hat TorchNeuron veröffentlicht, ein Open-Source-Backend, mit dem Entwickler bestehenden PyTorch-Code nach der Änderung einer einzigen Zeile auf den KI-Chips Trainium ausführen können. Die Software wurde am 19. Oktober 2026 angekündigt, die öffentliche Beta startete einen Tag später auf der PyTorch Conference.
Was sich für Entwickler ändert
TorchNeuron steht unter der Apache-2.0-Lizenz und bindet sich direkt an PyTorch an. Trainium2- und Trainium3-Chips erscheinen dem Framework dadurch als native Geräte. Laut Bericht genügt für den Wechsel die Umstellung von .to('cuda') auf .to('neuron'), ohne Code umzuschreiben oder neu zu validieren.
Ein Team, das Workloads auf Nvidia-Hardware betreibt, könnte so theoretisch auf die AWS-Trainium-Infrastruktur wechseln, ohne seine Codebasis zu verändern. Die Quelle vergleicht den Aufwand mit der Änderung einer Einstellung in einer Konfigurationsdatei.
Frühe Anwender und gemeldete Einsparungen
Mehr als 30 frühe Anwender haben vor dem öffentlichen Start an Alpha- und Beta-Tests teilgenommen. Dazu zählen die Voice-AI-Firmen Cartesia und Deepgram sowie das Lieber Institute for Brain Development, das das Werkzeug für die Wirkstoffforschung nutzt.
Frühe Nutzer berichten, dass der Wechsel ihre Kosten gesenkt hat, Amazon hat jedoch keine konkreten Zahlen veröffentlicht.
Warum der Zeitpunkt zählt
PyTorch gilt als führendes Framework für den Bau von KI-Modellen. Mit dem Debüt auf der wichtigsten Konferenz des Frameworks drängt Amazon seine Chips in ein Feld, das Nvidia lange dominiert hat. TorchNeuron wird als Alternative zu den Grafikprozessoren von Nvidia positioniert.
Den wirtschaftlichen Hintergrund bildet die hauseigene Chipsparte von Amazon. Laut Amazon hat sie eine jährliche Umsatzrate von 25 Milliarden US-Dollar erreicht und soll auf 50 Milliarden US-Dollar wachsen.
Grenzen der Beta-Version
Die erste Version hat deutliche Lücken. TorchNeuron überspringt derzeit rund 22.000 Tests im PyTorch-Testframework, vor allem weil fortgeschrittene Funktionen wie dynamische Eingabeformen noch fehlen. Für Teams, deren Modelle flexible Eingaben verarbeiten müssen, ist das eine echte Einschränkung, und es bestätigt, dass sich das Produkt noch in der Beta-Phase befindet.
Offene Fragen
- Wie hoch fallen die Kosteneinsparungen aus, sobald Amazon Zahlen veröffentlicht?
- Wann werden die Unterstützung dynamischer Eingabeformen und die übersprungenen Tests angegangen?