最先端のテキスト、画像、音声、マルチモーダル機械学習モデルの定義、推論、学習に対応するフレームワーク。
espnet/espnet
PyTorchベースのエンドツーエンド音声処理ツールキット。音声認識、音声合成、翻訳、音声強調などに対応します。
- スター
- 9,993
- フォーク
- 2,445
- 未解決の Issue
- 92
- 最終コミット
- 8 時間前
これは何?
ESPnetは、エンドツーエンドの音声処理に対応するPyTorchベースのツールキットです。音声認識(ASR)、音声合成(TTS)、音声翻訳、音声強調・分離、話者ダイアライゼーション、音声言語理解、歌声合成、音声言語モデルを扱えます。各タスクは、データ準備から学習、評価までを網羅する、コーパスに依存しないパイプラインを備えたレシピとして整理されています。
Hugging Faceでは、音声の多言語認識・翻訳向けのOWSMモデルなど、事前学習済みモデルを提供しています。pipでインストールでき、コマンドラインまたはPythonから利用できます。たとえば、音声ファイルの文字起こしや翻訳、テキストからの音声合成、ノイズを含む録音の音声強調が可能です。MCPサーバーを使えば、同じタスクをAIエージェントに公開できます。
学習では、DDPなどの分散構成、SlurmやMPIを使ったマルチノード実行、DeepSpeedに対応しています。音声システムを構築する研究者やエンジニアは、共通のレシピ構造を活用して、公開済みの結果を再現したり、自分たちのデータに合わせてモデルを調整したりできます。
主な機能
- 01CLIとPythonから音声認識、翻訳、合成、音声強調、音素化を実行できます。
- 02OWSMの多言語モデルを含む、Hugging Face上の事前学習済みモデルを利用できます。
- 03共通のパイプラインを備えた、200以上のコーパス向け再現可能なレシピを提供します。
- 04Transformer、Conformer、Branchformer、Transducerの各アーキテクチャに対応しています。
- 05DDP、マルチノードのSlurm/MPI、DeepSpeedによる分散学習に対応しています。
- 06音声タスクをAIエージェントに公開するMCPサーバーを提供します。
ユースケース
- 多言語の録音音声を文字起こししたり、翻訳したりする。
- 独自のコーパスで音声認識モデルやTTSモデルを学習する。
- 標準的なレシピを使って、公開済みの音声ベンチマークを再現する。
- アプリケーションに音声強調や話者照合を追加する。
クイックスタート
- 1
まずPyTorch公式サイトからPyTorchをインストールします
- 2
学習済みモデルを実行するためにESPnetをインストールします
pip install espnet - 3
ターミナルから音声ファイルを書き起こします
espnet transcribe audio.wav
使う前に知っておきたいこと
- 学習には追加で espnet[train] のインストールが必要です。また、レシピを使うにはインストールガイドに記載された、より詳細なセットアップが必要です。
- ESPnet1はサポートが終了しているため、代わりにESPnet2またはESPnet3を使用してください。
トピック
よくある質問
- espnet とは?
- PyTorchベースのエンドツーエンド音声処理ツールキット。音声認識、音声合成、翻訳、音声強調などに対応します。 ESPnetは、エンドツーエンドの音声処理に対応するPyTorchベースのツールキットです。音声認識(ASR)、音声合成(TTS)、音声翻訳、音声強調・分離、話者ダイアライゼーション、音声言語理解、歌声合成、音声言語モデルを扱えます。各タスクは、データ準備から学習、評価までを網羅する、コーパスに依存しないパイプラインを備えたレシピとして整理されています。
- espnet は無料で使えますか?ライセンスは?
- espnet は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- espnet は今もメンテナンスされていますか?
- 活発にメンテナンス中。espnet の最終コミットは 2026年10月21日 です。
- espnet は何に使えますか?
- 多言語の録音音声を文字起こししたり、翻訳したりする。 独自のコーパスで音声認識モデルやTTSモデルを学習する。 標準的なレシピを使って、公開済みの音声ベンチマークを再現する。 アプリケーションに音声強調や話者照合を追加する。
- espnet のインストール方法は?
- まずPyTorch公式サイトからPyTorchをインストールします 学習済みモデルを実行するためにESPnetをインストールします: pip install espnet ターミナルから音声ファイルを書き起こします: espnet transcribe audio.wav
- espnet はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/espnet/espnet
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
Microsoftによるオープンソースの音声AIモデル群。長時間音声の認識(ASR)、複数話者の音声合成(TTS)、リアルタイムストリーミングTTSに対応。
VAD、句読点付与、話者ラベル、OpenAI互換のサーバー機能を備えた、オフライン・ストリーミングASR向けのオープンソース音声認識ツールキット。
音声認識(ASR)、音声合成(TTS)、音声LLMに対応し、音声AIモデルの構築、ファインチューニング、デプロイに使えるNVIDIAのオープンソースツールキット。
Diffusion Transformerを用いたflow matching方式のオープンソース音声合成システム。短い参照音声からゼロショットで音声を複製できます。
Apple silicon上で音声認識、音声合成、話者ダイアライゼーションを完全オンデバイスで実行できるSwift SDK。