Google erweitert seine Chip-Palette mit bis zu 80 % besserer Inferenz-Preisleistung

Was passiert ist

Google hat seiner achten Generation der Tensor Processing Units (TPU) zwei spezialisierte Systeme hinzugefügt, die auf sichere KI-Berechnungen und Workloads mit enormem Speicherbedarf zielen. Damit bietet Google innerhalb einer Generation vier verschiedene TPU-Konfigurationen, was die wachsenden Anforderungen an die KI-Infrastruktur von Unternehmen widerspiegelt. Google ist ein Internet- und Softwareunternehmen mit Sitz in Mountain View.

Die neuen Systeme, TPU 8tx und TPU 8i Max, begegnen Herausforderungen, die entstehen, wenn Unternehmen autonome KI-Agenten einsetzen (KI, die mehrstufige Aufgaben selbstständig ausführt, statt nur eine einzelne Frage zu beantworten). Das eine System priorisiert vertrauliches Rechnen für sensible Workloads, während das andere auf Modelle ausgerichtet ist, die enorme Mengen an Kontextinformationen verarbeiten.

Google zufolge beliefert das TPU-Geschäft inzwischen fast 100 Kunden. Dazu gehören KI-Forschungslabore, Finanzhandelsunternehmen, Einzelhändler und Universitäten.