优化Docker镜像的WhisperX语音识别与转录解决方案
docker-whisperX项目优化了WhisperX语音识别工具的Docker镜像构建流程。该项目实现了175个10GB大小Docker镜像的并行构建,提供多种预构建镜像和自定义选项,支持不同语言和模型。用户可通过GPU加速,获得包含逐字时间戳和说话人分离的高质量语音转文字结果。
这是社区版WhisperX:具有词级时间戳(和说话人分离)的自动语音识别的docker镜像。
本项目的目标是在GitHub免费运行器上每周高效管理持续集成docker构建工作流程。这包括并行构建175个Docker镜像,每个大小为10GB。为确保顺利运行,我专注于高效利用docker层缓存,最大化层重用,仔细管理缓存读/写顺序以防止任何问题,并优化以最小化镜像大小和构建时间。
此外,出于个人偏好,我致力于尽我所能遵循最佳实践、行业标准和政策。
在GitHub获取Dockerfile,或从ghcr.io拉取镜像。
安装Docker Desktop、CUDA Toolkit、NVIDIA Windows驱动程序,并确保Docker使用WSL2运行后,即可开始使用。
以下是官方文档供进一步参考。
https://docs.nvidia.com/cuda/wsl-user-guide/index.html#nvidia-compute-software-support-on-wsl-2
https://docs.docker.com/desktop/wsl/use-wsl/#gpu-support
如果尚未安装NVIDIA GPU驱动程序,请先安装。
https://docs.nvidia.com/datacenter/tesla/tesla-installation-notes/index.html
按照此指南安装NVIDIA Container Toolkit。
https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html
[!注意]
这些镜像中的WhisperX代码库与git子模块提交哈希一致。
我有一个定期运行的CI工作流程每周针对主分支重建所有docker镜像。
docker run --gpus all -it -v ".:/app" ghcr.io/jim60105/whisperx:base-en -- --output_format srt audio.mp3 docker run --gpus all -it -v ".:/app" ghcr.io/jim60105/whisperx:large-v3-ja -- --output_format srt audio.mp3 docker run --gpus all -it -v ".:/app" ghcr.io/jim60105/whisperx:no_model -- --model tiny --language en --output_format srt audio.mp3
镜像标签格式为WHISPER_MODEL
-LANG
,例如tiny-en
、base-de
或large-v3-zh
。
请注意,whisper模型*.en
和large-v1
已被排除,因为我认为它们不常用。如果你需要这些模型,请参考以下部分自行构建。
你可以在ghcr.io找到所有可用标签。
另外,还有一个no_model
标签,不包含任何预下载的模型,也称为latest
。
你可以挂载/.cache
以在容器间共享对齐模型。
请在此场景下使用no_model
(latest
)标签。
docker run --gpus all -it -v ".:/app" -v whisper_cache:/.cache ghcr.io/jim60105/whisperx:latest -- --model large-v3 --language en --output_format srt audio.mp3
[!重要]
请递归克隆Git仓库以包含子模块:
git clone --recursive https://github.com/jim60105/docker-whisperX.git
Dockerfile构建包含模型的镜像。它接受两个构建参数:LANG
和WHISPER_MODEL
。
LANG
:要转录的语言。默认为en
。支持的语言请参见这里。WHISPER_MODEL
:模型名称。默认为base
。支持的模型请参见fast-whisper。如果需要多种语言对齐,构建镜像时使用空格分隔的语言列表"LANG=pl fr en"
。还要注意,WhisperX在处理同一音频文件中的多种语言时表现不佳。即使你不提供语言参数,它仍会识别语言(或回退到英语)并用于选择对齐模型。对齐模型是特定于语言的。这个说明仅用于将多个对齐模型嵌入到docker镜像中。
[!NOTE] 如果您使用的是较早版本的 Docker 客户端,在构建镜像时需要启用 BuildKit 模式。这是因为我使用了
COPY --link
功能,它可以提高构建性能,并在 Buildx v0.8 中引入。 在 Docker Engine 23.0 和 Docker Desktop 4.19 中,Buildx 已成为默认的构建客户端。因此,使用最新版本时您无需担心这一点。
例如,如果您想构建使用 en
语言和 large-v3
模型的镜像:
docker build --build-arg LANG=en --build-arg WHISPER_MODEL=large-v3 -t whisperx:large-v3-en .
如果您想构建不预下载任何模型的镜像:
docker build --target no_model -t whisperx:no_model .
如果您想一次性构建所有镜像,我们提供了一个 Docker bake 文件:
[!WARNING] Bake 目前是一个实验性功能,可能需要额外配置才能正常运行。
docker buildx bake build no_model ubi-no_model
将当前目录挂载为 /app
并运行 WhisperX,同时传入额外的输入参数:
docker run --gpus all -it -v ".:/app" whisperx:large-v3-ja -- --output_format srt audio.mp3
[!NOTE] 请记住在参数前加上
--
。--model
和--language
参数已在 Dockerfile 中定义,无需再次指定。
我创建了一个替代的 ubi.Dockerfile,它基于 Red Hat Universal Base Image (UBI) 镜像,而不是默认使用的 Python 官方镜像。如果您是 Red Hat 订阅用户,我相信您会发现它的优势。
[!TIP] 随着 Red Hat Universal Base Image (UBI) 的发布,无论您是否是客户,现在都可以在运行 OCI 兼容 Linux 容器的地方利用官方 Red Hat 容器镜像的更高可靠性、安全性和性能。-- Red Hat 博客
需要注意的是,使用 UBI 并不需要从 Red Hat 获得许可,但如果您是订阅用户并在 RHEL/OpenShift 上运行它,您可能会得到 Red Hat 的支持。
尽管我最初有所犹豫,但我决定不将 UBI 版本作为默认镜像。Python 官方镜像 的用户群明显大于 UBI,我认为选择它更符合公众期望。尽管如此,我仍建议您尝试 UBI 版本。
请参考我们扫描工作流程产物中的最新漏洞扫描报告。您可以看到,与 Python 官方镜像 版本相比,UBI 版本的漏洞较少。
您可以在标签 ubi-no_model
获取预构建的镜像。请注意,只有 no_model
可用。您可以根据需要使用 ubi.Dockerfile 自行构建镜像。这个 Dockerfile 支持与默认版本相同的构建参数。
docker run --gpus all -it -v ".:/app" ghcr.io/jim60105/whisperx:ubi-no_model -- --model tiny --language en --output_format srt audio.mp3
[!WARNING] 免责声明: 我已按照 Red Hat 容器认证要求 中规定的规范创建了镜像,但我不会追求实际的认证。
主程序 WhisperX 是根据 BSD-4 许可证 分发的。 请查阅他们的仓库以获取源代码和许可证。
本仓库中的 Dockerfile 和 CI 工作流程文件根据 MIT 许可证 授权。
AI小说写作助手,一站式润色、改写、扩写
蛙蛙写作—国内先进的AI写作平台,涵盖小说、学术、社交媒体等多场景。提供续写、改写、润色等功能,助力创作者高效优化写作流程。界面简洁,功能全面,适合各类写作者提升内容品质和工作效率。
字节跳动发布的AI编程神器IDE
Trae是一种自适应的集成开发环境(IDE),通过自动化和多元协作改变开发流程。利用Trae,团队能够更快速、精确地编写和部署代码,从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能,是提升开发效率的理想工具。
全能AI智能助手,随时解答生活与工作的多样问题
问小白,由元石科技研发的AI智能助手,快速准确地解答各种生活和工作问题,包括但不限于搜索、规划和社交互动,帮助用户在日常生活中提高效率,轻松管理个人事务。
实时语音翻译/同声传译工具
Transly是一个多场景的AI大语言模型驱动的同声传译、专业翻译助手,它拥有超精准的音频识别翻译能力,几乎零延迟的使用体验和支持多国语言可以让你带它走遍全球,无论你是留学生、商务人士、韩剧美剧爱好者,还是出国游玩、多国会议、跨国追星等等,都可以满足你所有需要同传的场景需求,线上线下通用,扫除语言障碍,让全世界的语言交流不再有国界。
一键生成PPT和Word,让学习生活更轻松
讯飞智文是一个利用 AI 技术的项目,能够帮助用户生成 PPT 以及各类文档。无论是商业领域的市场分析报告、年度目标制定,还是学生群体的职业生涯规划、实习避坑指南,亦或是活动策划、旅游攻略等内容,它都能提供支持,帮助用户精准表达,轻松呈现各种信息。
深度推理能力全新升级,全面对标OpenAI o1
科大讯飞的星火大模型,支持语言理解、知识问答和文本创作等多功能,适用于多种文件和业务场景,提升办公和日常生活的效率。讯飞星火是一个提供丰富智能服务的平台,涵盖科技资讯、图像创作、写作辅助、编程解答、科研文献解读等功能,能为不同需求的用户提供便捷高效的帮助,助力用户轻松获取信息、解决问题,满足多样化使用场景。
一种基于大语言模型的高效单流解耦语音令牌文本到语音合成模型
Spark-TTS 是一个基于 PyTorch 的开源文本到语音合成项目,由多个知名机构联合参与。该项目提供了高效的 LLM(大语言模型)驱动的语音合成方案,支持语音克隆和语音创建功能,可通过命令行界面(CLI)和 Web UI 两种方式使用。用户可以根据需求调整语音的性别、音高、速度等参数,生成高质量的语音。该项目适用于多种场景,如有声读物制作、智能语音助手开发等。
AI助力,做PPT更简单!
咔片是一款轻量化在线演示设计工具,借助 AI 技术,实现从内容生成到智能设计的一站式 PPT 制作服务。支持多种文档格式导入生成 PPT,提供海量模板、智能美化、素材替换等功能,适用于销售、教师、学生等各类人群,能高效制作出高品质 PPT,满足不同场景演示需求。
选题、配图、成文,一站式创作,让内容运营更高效
讯飞绘文,一个AI集成平台,支持写作、选题、配图、排版和发布。高效生成适用于各类媒体的定制内容,加速品牌传播,提升内容营销效果。
专业的AI公文写作平台,公文写作神器
AI 材料星,专业的 AI 公文写作辅助平台,为体制内工作人员提供高效的公文写作解决方案。拥有海量公文文库、9 大核心 AI 功能,支持 30 + 文稿类型生成,助力快速完成领导讲话、工作总结、述职报告等材料,提升办公效率,是体制打工人的得力写作神器。