Repolode
SYSTRAN

SYSTRAN/faster-whisper

基于 CTranslate2 推理引擎重新实现的 Whisper 语音转文字库,速度更快、占用内存更少。

可替代:Otter.aiRev

Star
25,987
Fork
2,152
未关闭 Issue
20
最近提交
4天前

这是什么?

faster-whisper 是 OpenAI Whisper 语音识别模型的 Python 重新实现,底层使用 CTranslate2 推理引擎。它适合希望用 Whisper 转写音频、同时降低推理耗时和内存占用的开发者,并支持 CPU 与 GPU 上的 8 位量化。

库中的 WhisperModel 类可以按型号名称加载模型,例如 large-v3 或 distil-large-v3,转换后的权重会从 Hugging Face Hub 自动下载。转写结果以带时间戳的分段生成器返回,还支持单词级时间戳、基于 Silero VAD 的静音过滤,以及用于批量处理的 BatchedInferencePipeline。音频由 PyAV 解码,无需单独安装 FFmpeg。

项目提供转换脚本,可将兼容 Transformers 的 Whisper 模型(包括微调模型)转为 CTranslate2 格式。在 GPU 上运行需要安装 NVIDIA 的 cuBLAS 和 cuDNN 库,并附有 CUDA 11 与 CUDA 12 的版本说明。

核心功能

  • 01基于 CTranslate2 运行 Whisper 模型,内存占用低于原始实现。
  • 02在 GPU 和 CPU 上均支持 FP16 与 INT8 量化。
  • 03提供单词级和分段级时间戳。
  • 04集成 Silero VAD,可跳过音频中的静音部分。
  • 05提供批量推理管线,可直接替换 transcribe 调用。
  • 06可将 Transformers 格式的 Whisper 模型(含微调模型)转换为 CTranslate2 格式。

适用场景

  • 在本地 GPU 或 CPU 服务器上转写会议录音或播客。
  • 为 Python 应用或后端服务增加语音转文字功能。
  • 为视频内容生成带单词级时间轴的字幕。
  • 基于 Whisper 构建实时或准实时的转写流程。

快速上手

  1. 1

    从 PyPI 安装包

    pip install faster-whisper
  2. 2

    使用 Python API 转录音频文件(完整代码见使用部分)

使用前须知

  • 使用 GPU 需要另外安装适用于 CUDA 12 的 NVIDIA cuBLAS 和 cuDNN 9 库。
  • 最新版 ctranslate2 仅支持 CUDA 12 和 cuDNN 9,较旧的 CUDA 环境需要降级 ctranslate2 版本。

标签

常见问题

faster-whisper 是什么?
基于 CTranslate2 推理引擎重新实现的 Whisper 语音转文字库,速度更快、占用内存更少。 faster-whisper 是 OpenAI Whisper 语音识别模型的 Python 重新实现,底层使用 CTranslate2 推理引擎。它适合希望用 Whisper 转写音频、同时降低推理耗时和内存占用的开发者,并支持 CPU 与 GPU 上的 8 位量化。
faster-whisper 可以免费使用吗?用的什么许可证?
faster-whisper 以 MIT 许可证开源。用于商业产品前,请先确认许可证条款。
faster-whisper 还在维护吗?
活跃维护中。faster-whisper 最近一次提交是在 2026年10月16日。
faster-whisper 适合用来做什么?
在本地 GPU 或 CPU 服务器上转写会议录音或播客。 为 Python 应用或后端服务增加语音转文字功能。 为视频内容生成带单词级时间轴的字幕。 基于 Whisper 构建实时或准实时的转写流程。
faster-whisper 怎么安装和运行?
从 PyPI 安装包: pip install faster-whisper 使用 Python API 转录音频文件(完整代码见使用部分)
在哪里获取 faster-whisper?
源代码和安装说明在 GitHub 上:https://github.com/SYSTRAN/faster-whisper

概要由 AI 根据项目 README 生成;GitHub 数据每日更新。

相关项目