懂AI
icefall

icefall

多语种语音识别开源工具箱

icefall是基于k2-fsa和lhotse的开源语音识别工具箱，支持多种数据集和模型架构。它提供预训练模型和详细文档，便于快速部署和实验。icefall在LibriSpeech等基准数据集上表现出色，适合开发高性能的语音识别系统。

icefall语音识别k2-fsaZipformerTransducerGithub开源项目
GitHubHugging Face文档
<div align="center"> <img src="https://yellow-cdn.veclightyear.com/835a84d5/fb599626-1be0-42c5-95bd-fff4a357610e.png" width=168> </div>

简介

icefall项目包含了使用k2-fsa和lhotse的各种数据集的语音相关配方。

您可以使用sherpa、sherpa-ncnn或sherpa-onnx来部署icefall中的模型；这些框架也支持icefall之外的模型；更多详情请参阅各自的文档。

您可以通过访问这个huggingface space，在浏览器中试用预训练模型，无需下载或安装任何东西。更多详情请参阅文档。

安装

请参阅文档进行安装。

配方

更多详情请参阅文档。

ASR: 自动语音识别

支持的数据集

  • [yesno][yesno]

  • [Aidatatang_200zh][aidatatang_200zh]

  • [Aishell][aishell]

  • [Aishell2][aishell2]

  • [Aishell4][aishell4]

  • [Alimeeting][alimeeting]

  • [AMI][ami]

  • [CommonVoice][commonvoice]

  • [Corpus of Spontaneous Japanese][csj]

  • [GigaSpeech][gigaspeech]

  • [LibriCSS][libricss]

  • [LibriSpeech][librispeech]

  • [Libriheavy][libriheavy]

  • [Multi-Dialect Broadcast News Arabic Speech Recognition][mgb2]

  • [PeopleSpeech][peoplespeech]

  • [SPGISpeech][spgispeech]

  • [Switchboard][swbd]

  • [TIMIT][timit]

  • [TED-LIUM3][tedlium3]

  • [TAL_CSASR][tal_csasr]

  • [Voxpopuli][voxpopuli]

  • [XBMU-AMDO31][xbmu-amdo31]

  • [WenetSpeech][wenetspeech]

未来将会添加更多数据集。

支持的模型

[LibriSpeech][librispeech]配方支持最全面的模型集合，欢迎您尝试。

CTC

  • TDNN LSTM CTC
  • Conformer CTC
  • Zipformer CTC

MMI

  • Conformer MMI
  • Zipformer MMI

Transducer

  • 基于Conformer的编码器
  • 基于LSTM的编码器
  • 基于Zipformer的编码器
  • 基于LSTM的预测器
  • 无状态预测器

Whisper

如果您愿意为icefall做出贡献，请参阅contributing以获取更多详情。

我们想在此强调一些配方的性能。

[yesno][yesno]

这是icefall中最简单的ASR配方，可以在CPU上运行。 训练不到30秒，就能得到以下WER：

[test_set] %WER 0.42% [1 / 240, 0 ins, 1 del, 0 sub ]

我们为这个配方提供了一个Colab笔记本：Open In Colab

[LibriSpeech][librispeech]

请查看RESULTS.md 获取最新结果。

Conformer CTC

test-cleantest-other
WER2.425.73

我们提供了一个Colab笔记本来测试预训练模型：Open In Colab

TDNN LSTM CTC

test-cleantest-other
WER6.5917.69

我们提供了一个Colab笔记本来测试预训练模型：Open In Colab

Transducer (Conformer编码器 + LSTM预测器)

test-cleantest-other
greedy_search3.077.51

我们提供了一个Colab笔记本来测试预训练模型：Open In Colab

Transducer (Conformer编码器 + 无状态预测器)

test-cleantest-other
modified_beam_search (beam_size=4)2.566.27

我们提供了一个Colab笔记本来测试预训练模型：Open In Colab

Transducer (Zipformer编码器 + 无状态预测器)

WER（除非另有说明，否则使用modified_beam_search beam_size=4）

  1. LibriSpeech-960小时
编码器参数数量test-cleantest-other训练轮数设备
Zipformer65.5M2.214.79504 32G-V100
Zipformer-small23.2M2.425.73502 32G-V100
Zipformer-large148.4M2.064.63504 32G-V100
Zipformer-large148.4M2.004.381748 80G-A100
  1. LibriSpeech-960小时 + GigaSpeech
编码器参数数量test-cleantest-other
Zipformer65.5M1.784.08
  1. LibriSpeech-960小时 + GigaSpeech + CommonVoice | 编码器 | 参数量 | test-clean | test-other | |--------|--------|------------|------------| | Zipformer | 65.5M | 1.90 | 3.98 |

[GigaSpeech][gigaspeech]

Conformer CTC

开发集测试集
词错率10.4710.58

Transducer (pruned_transducer_stateless2)

Conformer 编码器 + 无状态预测器 + k2 剪枝 RNN-T 损失

开发集测试集
贪婪搜索10.5110.73
快速束搜索10.5010.69
改进束搜索10.4010.51

Transducer (Zipformer 编码器 + 无状态预测器)

开发集测试集
贪婪搜索10.3110.50
快速束搜索10.2610.48
改进束搜索10.2510.38

[Aishell][aishell]

TDNN LSTM CTC

测试集
字错率10.16

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

Transducer (Conformer 编码器 + 无状态预测器)

测试集
字错率4.38

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

Transducer (Zipformer 编码器 + 无状态预测器)

词错率（改进束搜索 beam_size=4）

编码器参数量开发集测试集训练轮数
Zipformer73.4M4.134.4055
Zipformer-small30.2M4.404.6755
Zipformer-large157.3M4.034.2856

[Aishell4][aishell4]

Transducer (pruned_transducer_stateless5)

1 使用所有子集训练：

测试集
字错率29.08

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

[TIMIT][timit]

TDNN LSTM CTC

测试集
音素错误率19.71%

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

TDNN LiGRU CTC

测试集
音素错误率17.66%

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

[TED-LIUM3][tedlium3]

Transducer (Conformer 编码器 + 无状态预测器)

开发集测试集
改进束搜索 (beam_size=4)6.916.33

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

Transducer (pruned_transducer_stateless)

开发集测试集
改进束搜索 (beam_size=4)6.776.14

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

[Aidatatang_200zh][aidatatang_200zh]

Transducer (pruned_transducer_stateless2)

开发集测试集
贪婪搜索5.536.59
快速束搜索5.306.34
改进束搜索5.276.33

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

[WenetSpeech][wenetspeech]

Transducer (pruned_transducer_stateless2)

开发集测试网络测试会议
贪婪搜索7.808.7513.49
快速束搜索7.948.7413.80
改进束搜索7.768.7113.41

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

转换器 流式 (pruned_transducer_stateless5)

开发集测试网络测试会议
贪婪搜索8.7810.1216.16
快速束搜索9.0110.4716.28
改进束搜索8.539.9515.81

[阿里会议][alimeeting]

转换器 (pruned_transducer_stateless2)

评估集测试网络
贪婪搜索31.7734.66
快速束搜索31.3933.02
改进束搜索30.3834.25

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

[TAL_CSASR][tal_csasr]

转换器 (pruned_transducer_stateless5)

中文字错率(CER%)和英文词错率(WER%)的最佳结果（zh: 中文，en: 英文）：

解码方法开发集开发集_中文开发集_英文测试集测试集_中文测试集_英文
贪婪搜索7.306.4819.197.396.6619.13
快速束搜索7.186.3918.907.276.5518.77
改进束搜索7.156.3518.957.226.5018.70

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

TTS: 文本转语音

支持的数据集

  • [LJSpeech][ljspeech]
  • [VCTK][vctk]

支持的模型

使用 C++ 部署

一旦您在 icefall 中训练了模型，您可能希望使用 C++ 部署它，而不依赖 Python。

请参考以下内容了解如何操作：

我们还提供了一个 Colab 笔记本，向您展示如何在 [k2][k2] 中使用 C++ 运行 torch 脚本化模型。 请查看：在 Colab 中打开

编辑推荐精选

博思AIPPT

博思AIPPT

AI一键生成PPT，就用博思AIPPT！

博思AIPPT，新一代的AI生成PPT平台，支持智能生成PPT、AI美化PPT、文本&链接生成PPT、导入Word/PDF/Markdown文档生成PPT等，内置海量精美PPT模板，涵盖商务、教育、科技等不同风格，同时针对每个页面提供多种版式，一键自适应切换，完美适配各种办公场景。

AI办公办公工具AI工具博思AIPPTAI生成PPT智能排版海量精品模板AI创作热门
潮际好麦

潮际好麦

AI赋能电商视觉革命，一站式智能商拍平台

潮际好麦深耕服装行业，是国内AI试衣效果最好的软件。使用先进AIGC能力为电商卖家批量提供优质的、低成本的商拍图。合作品牌有Shein、Lazada、安踏、百丽等65个国内外头部品牌，以及国内10万+淘宝、天猫、京东等主流平台的品牌商家，为卖家节省将近85%的出图成本，提升约3倍出图效率，让品牌能够快速上架。

iTerms

iTerms

企业专属的AI法律顾问

iTerms是法大大集团旗下法律子品牌，基于最先进的大语言模型(LLM)、专业的法律知识库和强大的智能体架构，帮助企业扫清合规障碍，筑牢风控防线，成为您企业专属的AI法律顾问。

SimilarWeb流量提升

SimilarWeb流量提升

稳定高效的流量提升解决方案，助力品牌曝光

稳定高效的流量提升解决方案，助力品牌曝光

Sora2视频免费生成

Sora2视频免费生成

最新版Sora2模型免费使用，一键生成无水印视频

最新版Sora2模型免费使用，一键生成无水印视频

Transly

Transly

实时语音翻译/同声传译工具

Transly是一个多场景的AI大语言模型驱动的同声传译、专业翻译助手，它拥有超精准的音频识别翻译能力，几乎零延迟的使用体验和支持多国语言可以让你带它走遍全球，无论你是留学生、商务人士、韩剧美剧爱好者，还是出国游玩、多国会议、跨国追星等等，都可以满足你所有需要同传的场景需求，线上线下通用，扫除语言障碍，让全世界的语言交流不再有国界。

讯飞绘文

讯飞绘文

选题、配图、成文，一站式创作，让内容运营更高效

讯飞绘文，一个AI集成平台，支持写作、选题、配图、排版和发布。高效生成适用于各类媒体的定制内容，加速品牌传播，提升内容营销效果。

热门AI辅助写作AI工具讯飞绘文内容运营AI创作个性化文章多平台分发AI助手
TRAE编程

TRAE编程

AI辅助编程，代码自动修复

Trae是一种自适应的集成开发环境（IDE），通过自动化和多元协作改变开发流程。利用Trae，团队能够更快速、精确地编写和部署代码，从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能，是提升开发效率的理想工具。

AI工具TraeAI IDE协作生产力转型热门
商汤小浣熊

商汤小浣熊

最强AI数据分析助手

小浣熊家族Raccoon，您的AI智能助手，致力于通过先进的人工智能技术，为用户提供高效、便捷的智能服务。无论是日常咨询还是专业问题解答，小浣熊都能以快速、准确的响应满足您的需求，让您的生活更加智能便捷。

imini AI

imini AI

像人一样思考的AI智能体

imini 是一款超级AI智能体，能根据人类指令，自主思考、自主完成、并且交付结果的AI智能体。

下拉加载更多