Microsoft Maia 300 vereint 96 Chips in einem 167-kW-Rack mit 40 % mehr Token-Effizienz

Was passiert ist

Microsoft rechnet damit, dass GitHub Copilot und Microsoft Foundry die Hardware bis Ende 2026 übernehmen. Microsoft will sich 2027 von NVIDIA lösen und seinen KI-Beschleuniger der nächsten Generation, den Maia 300, einsetzen. Ziel ist 40 % mehr Token pro Megawatt als bei führenden, auf GPUs (einem Chip, der viele Berechnungen gleichzeitig ausführt und für Grafik und KI genutzt wird) basierenden Systemen. Microsoft ist ein Software- und Softwareentwicklungsunternehmen mit Sitz in Redmond.

Der Chip soll die wachsende KI-Infrastruktur von Microsoft antreiben. Eine Rack-Konfiguration mit 96 Beschleunigern soll bis zu siebenmal so viel Token-Durchsatz (also wie viel Arbeit ein System in einer bestimmten Zeit bewältigt) wie sein Vorgänger liefern. Die Ankündigung ist ein weiterer Schritt in Microsofts Bemühungen, eigene Chips für großskalige KI-Inferenz zu entwickeln.

Der Beschleuniger Maia 200 verarbeitet bereits Produktionslasten, darunter Microsoft Copilot. Der Maia 300 verfolgt bei der Effizienz der Inferenz einen systemweiten Ansatz.