懂AI
icefall

icefall

多语种语音识别开源工具箱

icefall是基于k2-fsa和lhotse的开源语音识别工具箱，支持多种数据集和模型架构。它提供预训练模型和详细文档，便于快速部署和实验。icefall在LibriSpeech等基准数据集上表现出色，适合开发高性能的语音识别系统。

icefall语音识别k2-fsaZipformerTransducerGithub开源项目
GitHubHugging Face文档
<div align="center"> <img src="https://yellow-cdn.veclightyear.com/835a84d5/fb599626-1be0-42c5-95bd-fff4a357610e.png" width=168> </div>

简介

icefall项目包含了使用k2-fsa和lhotse的各种数据集的语音相关配方。

您可以使用sherpa、sherpa-ncnn或sherpa-onnx来部署icefall中的模型；这些框架也支持icefall之外的模型；更多详情请参阅各自的文档。

您可以通过访问这个huggingface space，在浏览器中试用预训练模型，无需下载或安装任何东西。更多详情请参阅文档。

安装

请参阅文档进行安装。

配方

更多详情请参阅文档。

ASR: 自动语音识别

支持的数据集

  • [yesno][yesno]

  • [Aidatatang_200zh][aidatatang_200zh]

  • [Aishell][aishell]

  • [Aishell2][aishell2]

  • [Aishell4][aishell4]

  • [Alimeeting][alimeeting]

  • [AMI][ami]

  • [CommonVoice][commonvoice]

  • [Corpus of Spontaneous Japanese][csj]

  • [GigaSpeech][gigaspeech]

  • [LibriCSS][libricss]

  • [LibriSpeech][librispeech]

  • [Libriheavy][libriheavy]

  • [Multi-Dialect Broadcast News Arabic Speech Recognition][mgb2]

  • [PeopleSpeech][peoplespeech]

  • [SPGISpeech][spgispeech]

  • [Switchboard][swbd]

  • [TIMIT][timit]

  • [TED-LIUM3][tedlium3]

  • [TAL_CSASR][tal_csasr]

  • [Voxpopuli][voxpopuli]

  • [XBMU-AMDO31][xbmu-amdo31]

  • [WenetSpeech][wenetspeech]

未来将会添加更多数据集。

支持的模型

[LibriSpeech][librispeech]配方支持最全面的模型集合，欢迎您尝试。

CTC

  • TDNN LSTM CTC
  • Conformer CTC
  • Zipformer CTC

MMI

  • Conformer MMI
  • Zipformer MMI

Transducer

  • 基于Conformer的编码器
  • 基于LSTM的编码器
  • 基于Zipformer的编码器
  • 基于LSTM的预测器
  • 无状态预测器

Whisper

如果您愿意为icefall做出贡献，请参阅contributing以获取更多详情。

我们想在此强调一些配方的性能。

[yesno][yesno]

这是icefall中最简单的ASR配方，可以在CPU上运行。 训练不到30秒，就能得到以下WER：

[test_set] %WER 0.42% [1 / 240, 0 ins, 1 del, 0 sub ]

我们为这个配方提供了一个Colab笔记本：Open In Colab

[LibriSpeech][librispeech]

请查看RESULTS.md 获取最新结果。

Conformer CTC

test-cleantest-other
WER2.425.73

我们提供了一个Colab笔记本来测试预训练模型：Open In Colab

TDNN LSTM CTC

test-cleantest-other
WER6.5917.69

我们提供了一个Colab笔记本来测试预训练模型：Open In Colab

Transducer (Conformer编码器 + LSTM预测器)

test-cleantest-other
greedy_search3.077.51

我们提供了一个Colab笔记本来测试预训练模型：Open In Colab

Transducer (Conformer编码器 + 无状态预测器)

test-cleantest-other
modified_beam_search (beam_size=4)2.566.27

我们提供了一个Colab笔记本来测试预训练模型：Open In Colab

Transducer (Zipformer编码器 + 无状态预测器)

WER（除非另有说明，否则使用modified_beam_search beam_size=4）

  1. LibriSpeech-960小时
编码器参数数量test-cleantest-other训练轮数设备
Zipformer65.5M2.214.79504 32G-V100
Zipformer-small23.2M2.425.73502 32G-V100
Zipformer-large148.4M2.064.63504 32G-V100
Zipformer-large148.4M2.004.381748 80G-A100
  1. LibriSpeech-960小时 + GigaSpeech
编码器参数数量test-cleantest-other
Zipformer65.5M1.784.08
  1. LibriSpeech-960小时 + GigaSpeech + CommonVoice | 编码器 | 参数量 | test-clean | test-other | |--------|--------|------------|------------| | Zipformer | 65.5M | 1.90 | 3.98 |

[GigaSpeech][gigaspeech]

Conformer CTC

开发集测试集
词错率10.4710.58

Transducer (pruned_transducer_stateless2)

Conformer 编码器 + 无状态预测器 + k2 剪枝 RNN-T 损失

开发集测试集
贪婪搜索10.5110.73
快速束搜索10.5010.69
改进束搜索10.4010.51

Transducer (Zipformer 编码器 + 无状态预测器)

开发集测试集
贪婪搜索10.3110.50
快速束搜索10.2610.48
改进束搜索10.2510.38

[Aishell][aishell]

TDNN LSTM CTC

测试集
字错率10.16

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

Transducer (Conformer 编码器 + 无状态预测器)

测试集
字错率4.38

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

Transducer (Zipformer 编码器 + 无状态预测器)

词错率（改进束搜索 beam_size=4）

编码器参数量开发集测试集训练轮数
Zipformer73.4M4.134.4055
Zipformer-small30.2M4.404.6755
Zipformer-large157.3M4.034.2856

[Aishell4][aishell4]

Transducer (pruned_transducer_stateless5)

1 使用所有子集训练：

测试集
字错率29.08

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

[TIMIT][timit]

TDNN LSTM CTC

测试集
音素错误率19.71%

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

TDNN LiGRU CTC

测试集
音素错误率17.66%

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

[TED-LIUM3][tedlium3]

Transducer (Conformer 编码器 + 无状态预测器)

开发集测试集
改进束搜索 (beam_size=4)6.916.33

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

Transducer (pruned_transducer_stateless)

开发集测试集
改进束搜索 (beam_size=4)6.776.14

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

[Aidatatang_200zh][aidatatang_200zh]

Transducer (pruned_transducer_stateless2)

开发集测试集
贪婪搜索5.536.59
快速束搜索5.306.34
改进束搜索5.276.33

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

[WenetSpeech][wenetspeech]

Transducer (pruned_transducer_stateless2)

开发集测试网络测试会议
贪婪搜索7.808.7513.49
快速束搜索7.948.7413.80
改进束搜索7.768.7113.41

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

转换器 流式 (pruned_transducer_stateless5)

开发集测试网络测试会议
贪婪搜索8.7810.1216.16
快速束搜索9.0110.4716.28
改进束搜索8.539.9515.81

[阿里会议][alimeeting]

转换器 (pruned_transducer_stateless2)

评估集测试网络
贪婪搜索31.7734.66
快速束搜索31.3933.02
改进束搜索30.3834.25

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

[TAL_CSASR][tal_csasr]

转换器 (pruned_transducer_stateless5)

中文字错率(CER%)和英文词错率(WER%)的最佳结果（zh: 中文，en: 英文）：

解码方法开发集开发集_中文开发集_英文测试集测试集_中文测试集_英文
贪婪搜索7.306.4819.197.396.6619.13
快速束搜索7.186.3918.907.276.5518.77
改进束搜索7.156.3518.957.226.5018.70

我们提供了一个 Colab 笔记本来测试预训练模型：在 Colab 中打开

TTS: 文本转语音

支持的数据集

  • [LJSpeech][ljspeech]
  • [VCTK][vctk]

支持的模型

使用 C++ 部署

一旦您在 icefall 中训练了模型，您可能希望使用 C++ 部署它，而不依赖 Python。

请参考以下内容了解如何操作：

我们还提供了一个 Colab 笔记本，向您展示如何在 [k2][k2] 中使用 C++ 运行 torch 脚本化模型。 请查看：在 Colab 中打开

编辑推荐精选

扣子-AI办公

扣子-AI办公

职场AI，就用扣子

AI办公助手，复杂任务高效处理。办公效率低？扣子空间AI助手支持播客生成、PPT制作、网页开发及报告写作，覆盖科研、商业、舆情等领域的专家Agent 7x24小时响应，生活工作无缝切换，提升50%效率！

堆友

堆友

多风格AI绘画神器

堆友平台由阿里巴巴设计团队创建，作为一款AI驱动的设计工具，专为设计师提供一站式增长服务。功能覆盖海量3D素材、AI绘画、实时渲染以及专业抠图，显著提升设计品质和效率。平台不仅提供工具，还是一个促进创意交流和个人发展的空间，界面友好，适合所有级别的设计师和创意工作者。

图像生成热门AI工具AI图像AI反应堆AI工具箱AI绘画GOAI艺术字堆友相机
码上飞

码上飞

零代码AI应用开发平台

零代码AI应用开发平台，用户只需一句话简单描述需求，AI能自动生成小程序、APP或H5网页应用，无需编写代码。

Vora

Vora

免费创建高清无水印Sora视频

Vora是一个免费创建高清无水印Sora视频的AI工具

Refly.AI

Refly.AI

最适合小白的AI自动化工作流平台

无需编码，轻松生成可复用、可变现的AI自动化工作流

酷表ChatExcel

酷表ChatExcel

大模型驱动的Excel数据处理工具

基于大模型交互的表格处理系统，允许用户通过对话方式完成数据整理和可视化分析。系统采用机器学习算法解析用户指令，自动执行排序、公式计算和数据透视等操作，支持多种文件格式导入导出。数据处理响应速度保持在0.8秒以内，支持超过100万行数据的即时分析。

AI工具使用教程AI营销产品酷表ChatExcelAI智能客服
TRAE编程

TRAE编程

AI辅助编程，代码自动修复

Trae是一种自适应的集成开发环境（IDE），通过自动化和多元协作改变开发流程。利用Trae，团队能够更快速、精确地编写和部署代码，从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能，是提升开发效率的理想工具。

热门AI工具生产力协作转型TraeAI IDE
AIWritePaper论文写作

AIWritePaper论文写作

AI论文写作指导平台

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

数据安全AI助手热门AI工具AI辅助写作AI论文工具论文写作智能生成大纲
博思AIPPT

博思AIPPT

AI一键生成PPT，就用博思AIPPT！

博思AIPPT，新一代的AI生成PPT平台，支持智能生成PPT、AI美化PPT、文本&链接生成PPT、导入Word/PDF/Markdown文档生成PPT等，内置海量精美PPT模板，涵盖商务、教育、科技等不同风格，同时针对每个页面提供多种版式，一键自适应切换，完美适配各种办公场景。

热门AI工具AI办公办公工具智能排版AI生成PPT博思AIPPT海量精品模板AI创作
潮际好麦

潮际好麦

AI赋能电商视觉革命，一站式智能商拍平台

潮际好麦深耕服装行业，是国内AI试衣效果最好的软件。使用先进AIGC能力为电商卖家批量提供优质的、低成本的商拍图。合作品牌有Shein、Lazada、安踏、百丽等65个国内外头部品牌，以及国内10万+淘宝、天猫、京东等主流平台的品牌商家，为卖家节省将近85%的出图成本，提升约3倍出图效率，让品牌能够快速上架。

下拉加载更多