Repolode
投稿する
farshed

farshed/sage

オープンソースの音声認識と音声合成を使い、LLMと会話できるRust製セルフホスト型音声チャットアプリ。

GitHub で見る
スター
464
フォーク
38
未解決の Issue
2
最終コミット
2 か月前

これは何？

Sageは、大規模言語モデルと会話するためのセルフホスト型音声チャットアプリです。音声はWhisperでローカルに文字起こしされ、LLMが応答を生成し、その回答をKokoroの音声合成モデルで読み上げるため、音声処理パイプラインをオフラインで実行できます。

テキスト生成には、Ollama経由でローカルモデルを実行するか、サードパーティのプロバイダーを利用できます。Deepseek、OpenAI、Anthropic、Together.aiに標準で対応しており、.envファイルに環境変数を設定することで切り替えられます。SageはDockerコンテナまたはネイティブで実行でき、UnixとWindows向けのセットアップスクリプトも用意されています。macOSのネイティブビルドでは、WhisperにCoreMLを使用します。

クラウドの音声サービスに音声を送信せずに、LLMの音声インターフェースを使いたい人を対象としたプロジェクトです。READMEによると、DockerでのWhisper推論はネイティブ実行より遅く、CUDA対応、多言語対応、設定可能なシステムプロンプトは今後の作業として挙げられています。

主な機能

  • 01Whisperによるローカル音声テキスト変換と、Kokoroによる音声合成。
  • 02セルフホスト型モデル向けのOllamaと、プロバイダーとしてDeepseek、OpenAI、Anthropic、Together.aiに対応。
  • 03環境変数でプロバイダーとモデルを選択。
  • 04DockerまたはUnix・Windows上でネイティブ実行。
  • 05macOSではWhisperにCoreMLを使用。

ユースケース

  • 音声をクラウドサービスに送信せず、ローカルのOllamaモデルと音声で会話する。
  • すでに利用しているLLMプロバイダーに音声インターフェースを追加する。
  • 一般向けハードウェアで、オフラインの音声からLLM、音声へのパイプラインを試す。

収録されている特集

セルフホスト型アプリLLM をローカルで動かすAI 動画・音声ツール

トピック

#voice-assistant#llm#speech-to-text#text-to-speech#whisper#self-hosted#ollama#rust

よくある質問

sage とは？
オープンソースの音声認識と音声合成を使い、LLMと会話できるRust製セルフホスト型音声チャットアプリ。 Sageは、大規模言語モデルと会話するためのセルフホスト型音声チャットアプリです。音声はWhisperでローカルに文字起こしされ、LLMが応答を生成し、その回答をKokoroの音声合成モデルで読み上げるため、音声処理パイプラインをオフラインで実行できます。
sage は無料で使えますか？ライセンスは？
sage は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
sage は今もメンテナンスされていますか？
半年以内に更新あり。sage の最終コミットは 2026年9月16日 です。
sage は何に使えますか？
音声をクラウドサービスに送信せず、ローカルのOllamaモデルと音声で会話する。 すでに利用しているLLMプロバイダーに音声インターフェースを追加する。 一般向けハードウェアで、オフラインの音声からLLM、音声へのパイプラインを試す。
sage はどこで入手できますか？
ソースコードとインストール手順は GitHub にあります：https://github.com/farshed/sage

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト