Repolode
SYSTRAN

SYSTRAN/faster-whisper

CTranslate2推論エンジン上で動作する、メモリ使用量を抑えた8-bit量子化対応のOpenAI Whisper音声認識モデル再実装。

代替できる製品:Otter.aiRev

スター
25,987
フォーク
2,152
未解決の Issue
20
最終コミット
4 日前

これは何?

faster-whisperは、Transformerモデル向けの高速推論エンジンCTranslate2上で動作する、OpenAI Whisper音声認識モデルのPython実装です。Whisperで音声を文字起こしする際の推論時間とメモリ使用量を抑えたい開発者を対象としており、CPUとGPUの両方で8-bit量子化を利用できます。

ライブラリにはWhisperModelクラスが用意されており、large-v3やdistil-large-v3などのサイズ名を指定してモデルを読み込み、変換済みの重みをHugging Face Hubからダウンロードできます。文字起こし結果はタイムスタンプ付きセグメントのジェネレーターとして返されます。単語単位のタイムスタンプ、Silero VADによる無音区間のフィルタリング、GPUまたはCPUでバッチ処理を行うBatchedInferencePipelineなどのオプションもあります。音声のデコードにはPyAVを使うため、FFmpegを別途インストールする必要はありません。

変換スクリプトを使うと、ファインチューニング済みモデルを含む、Transformers互換のWhisperモデルをCTranslate2形式に変換できます。GPUでの利用にはNVIDIA cuBLASとcuDNNのライブラリが必要で、CUDA 11および12のバージョンに関する注意事項も記載されています。

主な機能

  • 01WhisperモデルをCTranslate2上で実行し、元の実装よりメモリ使用量を抑えます。
  • 02GPUとCPUの両方でFP16およびINT8量子化に対応しています。
  • 03単語単位とセグメント単位のタイムスタンプを取得できます。
  • 04Silero VADフィルタリングにより、音声の無音部分をスキップできます。
  • 05transcribeのドロップイン置き換えとして使えるバッチ推論パイプラインを提供します。
  • 06ファインチューニング済みモデルを含むTransformers形式のWhisperモデルをCTranslate2形式に変換できます。

ユースケース

  • ローカルのGPUまたはCPUサーバーで、会議の録音やポッドキャストを文字起こしする。
  • Pythonアプリケーションやバックエンドサービスに音声認識機能を追加する。
  • 動画コンテンツ向けに、単語単位のタイミング情報付き字幕を生成する。
  • Whisperを利用して、リアルタイムまたはそれに近い文字起こしパイプラインを構築する。

クイックスタート

  1. 1

    PyPIからパッケージをインストールする

    pip install faster-whisper
  2. 2

    Python APIで音声ファイルを書き起こす(コード全文は「Usage」セクションを参照)

使う前に知っておきたいこと

  • GPUを使用するには、NVIDIA cuBLAS(CUDA 12用)とcuDNN 9のライブラリを別途インストールする必要があります。
  • 最新のctranslate2が対応しているのはCUDA 12とcuDNN 9のみです。そのため、古いCUDA環境では、ダウングレードしたバージョンのctranslate2が必要です。

トピック

よくある質問

faster-whisper とは?
CTranslate2推論エンジン上で動作する、メモリ使用量を抑えた8-bit量子化対応のOpenAI Whisper音声認識モデル再実装。 faster-whisperは、Transformerモデル向けの高速推論エンジンCTranslate2上で動作する、OpenAI Whisper音声認識モデルのPython実装です。Whisperで音声を文字起こしする際の推論時間とメモリ使用量を抑えたい開発者を対象としており、CPUとGPUの両方で8-bit量子化を利用できます。
faster-whisper は無料で使えますか?ライセンスは?
faster-whisper は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
faster-whisper は今もメンテナンスされていますか?
活発にメンテナンス中。faster-whisper の最終コミットは 2026年10月16日 です。
faster-whisper は何に使えますか?
ローカルのGPUまたはCPUサーバーで、会議の録音やポッドキャストを文字起こしする。 Pythonアプリケーションやバックエンドサービスに音声認識機能を追加する。 動画コンテンツ向けに、単語単位のタイミング情報付き字幕を生成する。 Whisperを利用して、リアルタイムまたはそれに近い文字起こしパイプラインを構築する。
faster-whisper のインストール方法は?
PyPIからパッケージをインストールする: pip install faster-whisper Python APIで音声ファイルを書き起こす(コード全文は「Usage」セクションを参照)
faster-whisper はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/SYSTRAN/faster-whisper

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト