
优化Docker镜像的WhisperX语音识别与转录解决方案
docker-whisperX项目优化了WhisperX语音识别工具的Docker镜像构建流程。该项目实现了175个10GB大小Docker镜像的并行构建,提供多种预构建镜像和自定义选项,支持不同语言和模型。用户可通过GPU加速,获得包含逐字时间戳和说话人分离的高质量语音转文字结果。
这是社区版WhisperX:具有词级时间戳(和说话人分离)的自动语音识别的docker镜像。
本项目的目标是在GitHub免费运行器上每周高效管理持续集成docker构建工作流程。这包括并行构建175个Docker镜像,每个大小为10GB。为确保顺利运行,我专注于高效利用docker层缓存,最大化层重用,仔细管理缓存读/写顺序以防止任何问题,并优化以最小化镜像大小和构建时间。
此外,出于个人偏好,我致力于尽我所能遵循最佳实践、行业标准和政策。
在GitHub获取Dockerfile,或从ghcr.io拉取镜像。
安装Docker Desktop、CUDA Toolkit、NVIDIA Windows驱动程序,并确保Docker使用WSL2运行后,即可开始使用。
以下是官方文档供进一步参考。
https://docs.nvidia.com/cuda/wsl-user-guide/index.html#nvidia-compute-software-support-on-wsl-2
https://docs.docker.com/desktop/wsl/use-wsl/#gpu-support
如果尚未安装NVIDIA GPU驱动程序,请先安装。
https://docs.nvidia.com/datacenter/tesla/tesla-installation-notes/index.html
按照此指南安装NVIDIA Container Toolkit。
https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/latest/install-guide.html
[!注意]
这些镜像中的WhisperX代码库与git子模块提交哈希一致。
我有一个定期运行的CI工作流程每周针对主分支重建所有docker镜像。
docker run --gpus all -it -v ".:/app" ghcr.io/jim60105/whisperx:base-en -- --output_format srt audio.mp3 docker run --gpus all -it -v ".:/app" ghcr.io/jim60105/whisperx:large-v3-ja -- --output_format srt audio.mp3 docker run --gpus all -it -v ".:/app" ghcr.io/jim60105/whisperx:no_model -- --model tiny --language en --output_format srt audio.mp3
镜像标签格式为WHISPER_MODEL-LANG,例如tiny-en、base-de或large-v3-zh。
请注意,whisper模型*.en和large-v1已被排除,因为我认为它们不常用。如果你需要这些模型,请参考以下部分自行构建。
你可以在ghcr.io找到所有可用标签。
另外,还有一个no_model标签,不包含任何预下载的模型,也称为latest。
你可以挂载/.cache以在容器间共享对齐模型。
请在此场景下使用no_model(latest)标签。
docker run --gpus all -it -v ".:/app" -v whisper_cache:/.cache ghcr.io/jim60105/whisperx:latest -- --model large-v3 --language en --output_format srt audio.mp3
[!重要]
请递归克隆Git仓库以包含子模块:
git clone --recursive https://github.com/jim60105/docker-whisperX.git
Dockerfile构建包含模型的镜像。它接受两个构建参数:LANG和WHISPER_MODEL。
LANG:要转录的语言。默认为en。支持的语言请参见这里。WHISPER_MODEL:模型名称。默认为base。支持的模型请参见fast-whisper。如果需要多种语言对齐,构建镜像时使用空格分隔的语言列表"LANG=pl fr en"。还要注意,WhisperX在处理同一音频文件中的多种语言时表现不佳。即使你不提供语言参数,它仍会识别语言(或回退到英语)并用于选择对齐模型。对齐模型是特定于语言的。这个说明仅用于将多个对齐模型嵌入到docker镜像中。
[!NOTE] 如果您使用的是较早版本的 Docker 客户端,在构建镜像时需要启用 BuildKit 模式。这是因为我使用了
COPY --link功能,它可以提高构建性能,并在 Buildx v0.8 中引入。 在 Docker Engine 23.0 和 Docker Desktop 4.19 中,Buildx 已成为默认的构建客户端。因此,使用最新版本时您无需担心这一点。
例如,如果您想构建使用 en 语言和 large-v3 模型的镜像:
docker build --build-arg LANG=en --build-arg WHISPER_MODEL=large-v3 -t whisperx:large-v3-en .
如果您想构建不预下载任何模型的镜像:
docker build --target no_model -t whisperx:no_model .
如果您想一次性构建所有镜像,我们提供了一个 Docker bake 文件:
[!WARNING] Bake 目前是一个实验性功能,可能需要额外配置才能正常运行。
docker buildx bake build no_model ubi-no_model
将当前目录挂载为 /app 并运行 WhisperX,同时传入额外的输入参数:
docker run --gpus all -it -v ".:/app" whisperx:large-v3-ja -- --output_format srt audio.mp3
[!NOTE] 请记住在参数前加上
--。--model和--language参数已在 Dockerfile 中定义,无需再次指定。
我创建了一个替代的 ubi.Dockerfile,它基于 Red Hat Universal Base Image (UBI) 镜像,而不是默认使用的 Python 官方镜像。如果您是 Red Hat 订阅用户,我相信您会发现它的优势。
[!TIP] 随着 Red Hat Universal Base Image (UBI) 的发布,无论您是否是客户,现在都可以在运行 OCI 兼容 Linux 容器的地方利用官方 Red Hat 容器镜像的更高可靠性、安全性和性能。-- Red Hat 博客
需要注意的是,使用 UBI 并不需要从 Red Hat 获得许可,但如果您是订阅用户并在 RHEL/OpenShift 上运行它,您可能会得到 Red Hat 的支持。
尽管我最初有所犹豫,但我决定不将 UBI 版本作为默认镜像。Python 官方镜像 的用户群明显大于 UBI,我认为选择它更符合公众期望。尽管如此,我仍建议您尝试 UBI 版本。
请参考我们扫描工作流程产物中的最新漏洞扫描报告。您可以看到,与 Python 官方镜像 版本相比,UBI 版本的漏洞较少。
您可以在标签 ubi-no_model 获取预构建的镜像。请注意,只有 no_model 可用。您可以根据需要使用 ubi.Dockerfile 自行构建镜像。这个 Dockerfile 支持与默认版本相同的构建参数。
docker run --gpus all -it -v ".:/app" ghcr.io/jim60105/whisperx:ubi-no_model -- --model tiny --language en --output_format srt audio.mp3
[!WARNING] 免责声明: 我已按照 Red Hat 容器认证要求 中规定的规范创建了镜像,但我不会追求实际的认证。
主程序 WhisperX 是根据 BSD-4 许可证 分发的。 请查阅他们的仓库以获取源代码和许可证。
本仓库中的 Dockerfile 和 CI 工作流程文件根据 MIT 许可证 授权。


AI一键生成PPT,就用博思AIPPT!
博思AIPPT,新一代的AI生成PPT平台,支持智能生成PPT、AI美化PPT、文本&链接生成PPT、导入Word/PDF/Markdown文档生成PPT等,内置海量精美PPT模板,涵盖商务、教育、科技等不同风格,同时针对每个页面提供多种版式,一键自适应切换,完美适配各种办公场景。


AI赋能电商视觉革命,一站式智能商拍平台
潮际好麦深耕服装行业,是国内AI试衣效果最好的软件。使用先进AIGC能力为电商卖家批量提供优质的、低成本的商拍图。合作品牌有Shein、Lazada、安踏、百丽等65个国内外头部品牌,以及国内10万+淘宝、天猫、京东等主流平台的品牌商家,为卖家节省将近85%的出图成本,提升约3倍出图效率,让品牌能够快速上架。


企业专属的AI法律顾问
iTerms是法大大集团旗下法律子品牌,基于最先进的大语言模型(LLM)、专业的法律知识库和强大的智能体架构,帮助企业扫清合规障碍,筑牢风控防线,成为您企业专属的AI法律顾问。


稳定高效的流量提升解决方案,助力品牌曝光
稳定高效的流量提升解决方案,助力品牌曝光


最新版Sora2模型免费使用,一键生成无水印视频
最新版Sora2模型免费使用,一键生成无水印视频


实时语音翻译/同声传译工具
Transly是一个多场景的AI大语言模型驱动的同声传译、专业翻译助手,它拥有超精准的音频识别翻译能力,几乎零延迟的使用体验和支持多国语言可以让你带它走遍全球,无论你是留学生、商务人士、韩剧美剧爱好者,还是出国游玩、多国会议、跨国追星等等,都可以满足你所有需要同传的场景需求,线上线下通用,扫除语言障碍,让全世界的语言交流不再有国界。


选题、配图、成文,一站式 创作,让内容运营更高效
讯飞绘文,一个AI集成平台,支持写作、选题、配图、排版和发布。高效生成适用于各类媒体的定制内容,加速品牌传播,提升内容营销效果。


AI辅助编程,代码自动修复
Trae是一种自适应的集成开发环境(IDE),通过自动化和多元协作改变开发流程。利用Trae,团队能够更快速、精确地编写和部署代码,从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能,是提升开发效率的理想工具。


最强AI数据分析助手
小浣熊家族Raccoon,您的AI智能助手,致力于通过先进的人工智能技术,为用户提供高效、便捷的智能服务。无论是日常咨询还是专业问题解答,小浣熊都能以快速、准确的响应满足您的需求,让您的生活更加智能便捷。


像人一样思考的AI智能体
imini 是一款超级AI智能体,能根据人类指令,自主思考、自主完成、 并且交付结果的AI智能体。