WORLDTECH NEWS Globale Technologie-Nachrichten.Kontakt
KI EINZELNE QUELLE

Sarvam startet Sarvam Token Factory: Inferenz in Indien für 8 offene Modelle

Macro photography of color palette code in a programming environment.
Symbolbild.Photo by Marek Prášil on Pexels

Was passiert ist

Sarvam hat die Sarvam Token Factory für alle geöffnet.

Leistung: Schnellstes erstes Token von Mumbai aus in den meisten getesteten Fällen, laut eigenen Messungen von Sarvam. Die Plattform bedient Sarvam 105B, GLM 5.3, DeepSeek V4.1 Flash, Kimi K3.1 Pro und Gemma 4 31B von GPU-Clustern (ein Chip, der für viele Berechnungen gleichzeitig gebaut ist und für Grafik und KI genutzt wird) in Indien über eine OpenAI-kompatible API (die Schnittstelle, über die ein Softwareprogramm mit einem anderen kommuniziert).

Die Sarvam Token Factory ist eine Inferenzplattform (das Ausführen eines trainierten Modells, um eine Antwort zu erhalten, statt es zu trainieren) von Sarvam, die eigene Modelle sowie Open-Weight-Modelle (Modelle, deren trainierte Parameter jeder herunterladen darf) von GPU-Clustern in Indien bereitstellt. Entwickler erreichen alle Modelle über eine einzige OpenAI-kompatible API.

Für Teams mit Sitz in Indien bedeutet das Tokens mit geringer Latenz (die Verzögerung zwischen Anfrage und Antwort), ohne Datenverkehr an Clouds im Ausland zu schicken. Kurz zusammengefasst: Zum Start sind 8 Modelle gelistet, darunter Sarvam 105B (105B insgesamt, 9B aktiv, 128K Kontext), GLM 5.3, DeepSeek V4.1 Flash 1017, Kimi K3.1 Pro und Gemma 4 31B.

Läuft auf: NVIDIA-B200-Clustern in Indien. Sarvam 105B passt nun auf 1 B200 pro Replik.

Es handelt sich um einen verwalteten Inferenz-Stack, nicht um ein einzelnes Modell. Sarvam hatte es zuvor auf seinem Epoch-Event als Sarvam Inference vorgestellt.

Wichtige Fakten

  • Leistung: Schnellstes erstes Token von Mumbai aus in den meisten getesteten Fällen, laut eigenen Messungen von Sarvam

Quellen & Belege