WORLDTECHIBM veröffentlicht Granite Speech 5.0 2B, ein offenes Modell für Transkription und Übersetzung
IBM hat Granite Speech 5.0 2B veröffentlicht, ein offenes Modell mit 2 Milliarden Parametern, das Sprache in sechs Sprachen in Text umwandelt, wie ein Bericht eines Mediums meldet. Das in Armonk ansässige Unternehmen für Software und IT-Beratung positioniert das Modell für Transkriptions- und Übersetzungsaufgaben.
Umfang der Veröffentlichung und Rangliste
Das Modell wird unter der Apache-2.0-Lizenz verbreitet und als offenes System zur Spracherkennung und Übersetzung vorgestellt. IBMs Übersicht zum Open ASR Leaderboard setzt es mit einer durchschnittlichen englischen Wortfehlerrate von 5,68 Prozent auf Rang zwei. Im privaten Gesprächsdatensatz der Rangliste liegt das schlechteste Ergebnis bei 13,79 Prozent WER.
IBM hat außerdem zwei bestehende Modelle aktualisiert: Turbo CTC für Edge-Geräte und 4.1 2B Plus mit Schwerpunkt auf Diarisierung. Entwickler erhalten damit genaue Transkription, schnelle Transkription direkt auf dem Gerät und Protokolle, die Texte einzelnen Sprechern zuordnen.
Architektur und Training
Laut Modellkarte besteht das System aus drei Teilen. Ein Sprachencoder mit 16 Conformer-Blöcken wird mit CTC trainiert und wendet Blockaufmerksamkeit über Audioblöcke von 4 Sekunden an. Ein zweischichtiger Window-Q-Former projiziert und reduziert anschließend die akustischen Embeddings um den Faktor zehn, sodass das Sprachmodell Embeddings mit 10 Hz sieht.
Das Sprachmodell ist ein Zwischen-Checkpoint von granite-4.0-1b-base, den IBM mit YaRN auf 16k Positionen erweitert und mit LoRA-Adaptern feinabgestimmt hat. Das Training nutzte 390.000 Stunden öffentliches Audio sowie synthetische Daten für japanische ASR, Keyword-Biasing und Übersetzung und dauerte 40 Tage auf 8 H100-GPUs.
Funktionen und Einsatzoptionen
Keyword-Listen mit bis zu 2.000 Begriffen können die Ausgabe in Richtung Produktnamen, Personen und Akronyme lenken; Zeichensetzung und Groß- und Kleinschreibung sind auf Wunsch verfügbar. IBM empfiehlt Audiosegmente von bis zu etwa 2 Minuten. Das Modell läuft auf GPUs über Transformers oder vLLM, auf Apple Silicon über mlx-audio und lokal über llama.cpp im GGUF-Format, wobei Q8_0 empfohlen wird.
IBMs Angaben weisen für die Groß- und Kleinschreibung F1-Werte zwischen 90,16 und 99,51 über die Testsets hinweg aus.
Offene Fragen
- Wie schneidet das Modell in Sprachen außerhalb der sechs unterstützten ab?
- Werden unabhängige Benchmarks die Ranglistenwerte von IBM bestätigen?