Repolode
Leonxlnx

Leonxlnx/earshot

コーディングエージェントが音を聴き、説明・照合・検索・批評・合成できる、CPUのみで動作するツールキット。CLI、Python API、MCPサーバーを提供します。

スター
2,129
フォーク
125
未解決の Issue
5
最終コミット
11 時間前

これは何?

earshotは、AIコーディングエージェントに音を聴く能力を与えます。音声ファイルの音を言葉で説明し、テキストによる説明が録音にどの程度当てはまるかをスコア化し、長い音声の中から最適な場面を見つけ、音が実録音かコードによる合成かを判定します。また、映像の音声を秒単位で書き起こし、映像のカット位置に対応する同期マーカーを付けます。CPU上でローカルに動作し、CLI、Python API、Claude Codeなどのエージェント向けMCPサーバーとして利用できます。

音を聴くだけでなく、コードで音を作るforgeも備えています。物理モデリング合成のレシピをレンダリングし、同じモデルを使ったcriticで評価して、探索によって改良します。fitコマンドを使うと、既存の録音をパラメーター化された合成レシピに変換でき、値を変えたり、音をモーフィングしたりできます。201種類の効果音を収録したバンクは、モデルやネットワーク接続なしでIDを指定してレンダリングできます。映画のサウンドデザイン向けのキットプリセットも用意されています。

このリポジトリには音声や動画は含まれていません。評価に使う参照録音は別途ライセンスされています。モデルは固定されたリビジョンをHugging Faceから一度だけダウンロードし、オフライン利用に備えてキャッシュされます。

主な機能

  • 01測定値とAudioSetラベルを含む、調整済みタグで音を説明します。
  • 02テキストによる説明が録音にどの程度当てはまるかをスコア化し、一致度の判定を示します。
  • 03長い録音の中から最もよく一致する場面をトリミング候補として見つけます。
  • 04クリップが実録音かコードによる合成かを分類します。
  • 05動画のサウンドトラックについて、タイムライン付きの書き起こしと注釈シートを作成します。
  • 06コードのレシピから効果音を合成し、内蔵criticで評価します。
  • 07すべてのツールをCLI、Python API、MCPサーバーから利用できます。

ユースケース

  • 生成した効果音が意図した音に合っているか、コーディングエージェントに確認させる。
  • ダウンロードした音声クリップのフォルダーから最適な候補を選ぶ。
  • コードで生成した動画のサウンドトラックについて、同期と音量を監査する。
  • プログラムで処理する映画やUIのパイプライン向けに、オフラインで効果音を生成する。

クイックスタート

  1. 1

    READMEの手順に従ってearshotをインストールします

  2. 2

    インストール状況、モデル、CPUの設定を確認します

    earshot doctor
  3. 3

    音声ファイルがどのような音か説明します

    earshot describe FILE

使う前に知っておきたいこと

  • CLIを呼び出すたびにモデルが再読み込みされるため、応答までに約20~40秒かかります。
  • Forgeの参照音源ベースの検索には、リポジトリに含まれていない、ライセンスを保有する参照録音が必要です。
  • 生成音の品質チェックは検索によって攻略される可能性があるため、結果を聴いて測定し、確認する必要があります。
  • 任意のllmコマンドは音声をGeminiにアップロードするため、ご自身のAPIキーが必要です。

収録されている特集

トピック

よくある質問

earshot とは?
コーディングエージェントが音を聴き、説明・照合・検索・批評・合成できる、CPUのみで動作するツールキット。CLI、Python API、MCPサーバーを提供します。 earshotは、AIコーディングエージェントに音を聴く能力を与えます。音声ファイルの音を言葉で説明し、テキストによる説明が録音にどの程度当てはまるかをスコア化し、長い音声の中から最適な場面を見つけ、音が実録音かコードによる合成かを判定します。また、映像の音声を秒単位で書き起こし、映像のカット位置に対応する同期マーカーを付けます。CPU上でローカルに動作し、CLI、Python API、Claude Codeなどのエージェント向けMCPサーバーとして利用できます。
earshot は無料で使えますか?ライセンスは?
earshot は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
earshot は今もメンテナンスされていますか?
活発にメンテナンス中。earshot の最終コミットは 2026年10月22日 です。
earshot は何に使えますか?
生成した効果音が意図した音に合っているか、コーディングエージェントに確認させる。 ダウンロードした音声クリップのフォルダーから最適な候補を選ぶ。 コードで生成した動画のサウンドトラックについて、同期と音量を監査する。 プログラムで処理する映画やUIのパイプライン向けに、オフラインで効果音を生成する。
earshot のインストール方法は?
READMEの手順に従ってearshotをインストールします インストール状況、モデル、CPUの設定を確認します: earshot doctor 音声ファイルがどのような音か説明します: earshot describe FILE
earshot はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/Leonxlnx/earshot

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト