WORLDTECH NEWS 全球科技资讯。联系我们
人工智能 单一来源

IBM发布开源转写与翻译模型Granite Speech 5.0 2B

由 WORLDTECH 译自英文。事实、数字、名称和来源均与英文原文一致。 English

Detailed close-up view of a smartphone with a textured back cover emphasizing modern design and technology.
示意图片。图片:Pixabay / PexelsIBM 标志仅用于识别,不代表与 WORLDTECH 有任何关联或背书。

IBM发布了Granite Speech 5.0 2B,这是一款拥有20亿参数的开源模型,可将六种语言的语音转换为文本,据一家媒体报道。这家总部位于纽约州阿蒙克的软件与信息技术咨询公司,将该模型定位于转写和翻译工作。

发布范围与基准表现

该模型采用Apache 2.0许可证发布,被定位为开源语音识别与翻译系统。IBM公布的图表显示,它在Open ASR Leaderboard上排名第二,英语平均词错误率为5.68%。在该榜单的私有对话测试集上,其最差成绩为13.79%的WER。

IBM还更新了两款现有模型:面向边缘设备的Turbo CTC,以及专注说话人区分的4.1 2B Plus。对开发者而言,此次发布主要面向精准转写、快速的本地转写以及带说话人标注的转写稿。

架构与训练

根据模型卡信息,该系统由三部分组成。语音编码器包含16个Conformer模块,以CTC方式训练,并在4秒音频块上应用块注意力机制。随后,两层窗口Q-former对声学嵌入进行投影和降采样,降采样倍数为十倍,使语言模型能够以10 Hz的频率处理嵌入。

语言模型是granite-4.0-1b-base的中间检查点,IBM借助YaRN将其扩展至16k位置,并使用LoRA适配器进行微调。训练使用了390,000小时的公开音频,以及针对日语ASR、关键词偏置和翻译的合成数据,在8块H100 GPU上耗时40天。

功能与部署方式

关键词列表最多可包含2,000个词条,用于使输出偏向产品名称、人名和缩写词;标点与大小写功能可按需提供。IBM建议音频片段长度不超过约2分钟。该模型可通过Transformers或vLLM在GPU上运行,通过mlx-audio在Apple Silicon上运行,并可通过llama.cpp GGUF在本地运行,其中推荐使用Q8_0版本。

IBM公布的数据显示,在各测试集上,大小写F1值介于90.16至99.51之间。

待解问题

  • 该模型在其覆盖的六种语言之外的表现如何?
  • 独立基准测试能否证实IBM在榜单上公布的成绩?

关键事实

  • IBM已发布Granite Speech 5.0 2B,这是一款用于转写和翻译的开源语音-语言模型,采用Apache 2.0许可证。
  • 该模型在Open ASR Leaderboard上排名第二,英语平均词错误率为5.68%。
  • IBM还更新了面向边缘设备的Turbo CTC模型,以及专注说话人区分(diarization)的4.1 2B Plus模型。
  • 语言模型主干使用YaRN扩展至16k位置。

来源与证据