VAD、句読点付与、話者ラベル、OpenAI互換のサーバー機能を備えた、オフライン・ストリーミングASR向けのオープンソース音声認識ツールキット。
FluidInference/FluidAudio
CoreMLとNeural Engineを使い、ASR、TTS、VAD、話者ダイアライゼーションの音声モデルをAppleデバイス上でローカル実行するSwift SDK。
代替できる製品:Apple Dictation
- スター
- 3,271
- フォーク
- 504
- 未解決の Issue
- 29
- 最終コミット
- 4 日前
これは何?
FluidAudioは、Appleプラットフォーム上で音声AIを完全にオンデバイス実行するためのSwift SDKです。CoreMLモデルを通じてApple Neural Engineで推論を実行します。プロジェクトによると、CPUやGPUで実行する場合と比べてメモリ使用量とCPU負荷を抑えられるため、バックグラウンドや常時稼働のワークロードに適しています。
SDKは、Parakeet TDTおよびParakeet EOUモデルによる音声認識、Kokoro、PocketTTS、Chatterboxモデルによる音声合成、Sileroベースの音声アクティビティ検出、オンラインとオフラインの両方に対応した話者ダイアライゼーションを提供します。また、話者埋め込みの抽出機能と、ベータ版のエコーキャンセル・ノイズ抑制コンポーネントも備えています。モデルはHugging Faceで公開されており、一括処理やベンチマークに使えるCLIも含まれています。
Swift Package ManagerまたはCocoaPodsで組み込めます。アプリで使わないサブシステムを除外できる、オプションのpackage traitsも用意されています。React NativeおよびRust/Tauri向けのラッパーがあり、カスタムモデルレジストリURL、プロキシ、オフライン専用モードについてもドキュメントで説明されています。
主な機能
- 01Parakeet TDTおよびEOUモデルによる音声認識。ストリーミング文字起こしにも対応。
- 02Kokoro、PocketTTS、Chatterboxモデルによる音声合成。
- 03オフラインとストリーミングの両方で使える、Sileroベースの音声アクティビティ検出。
- 04オンライン・オフラインの話者ダイアライゼーションと、話者埋め込みの抽出。
- 05CoreML経由でApple Neural Engine上で推論を実行し、GPUとMPSを使わずに処理。
- 06オプションのtraitsでビルドサイズを抑えられる、Swift Package Manager経由の組み込み。
ユースケース
- クラウドAPIを使わずに、macOSまたはiOSアプリへオンデバイスの音声入力や文字起こしを追加する。
- 録音内の話者を識別する、会議メモ作成ツールを構築する。
- Appleデバイスで常時稼働する音声検出や、ウェイクワード形式のパイプラインを実行する。
- iOSまたはmacOSアプリにローカルの音声読み上げ機能を追加する。
使う前に知っておきたいこと
- CoreML と Apple Neural Engine に依存しているため、Apple プラットフォーム(macOS と iOS)でのみ動作します。
- Swift 6.0 以降が必要です。
- Chatterbox、Paradee、LocalVQE など、いくつかの TTS モデルはベータ版としてマークされています。
収録されている特集
トピック
よくある質問
- FluidAudio とは?
- CoreMLとNeural Engineを使い、ASR、TTS、VAD、話者ダイアライゼーションの音声モデルをAppleデバイス上でローカル実行するSwift SDK。 FluidAudioは、Appleプラットフォーム上で音声AIを完全にオンデバイス実行するためのSwift SDKです。CoreMLモデルを通じてApple Neural Engineで推論を実行します。プロジェクトによると、CPUやGPUで実行する場合と比べてメモリ使用量とCPU負荷を抑えられるため、バックグラウンドや常時稼働のワークロードに適しています。
- FluidAudio は無料で使えますか?ライセンスは?
- FluidAudio は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- FluidAudio は今もメンテナンスされていますか?
- 活発にメンテナンス中。FluidAudio の最終コミットは 2026年11月2日 です。
- FluidAudio は何に使えますか?
- クラウドAPIを使わずに、macOSまたはiOSアプリへオンデバイスの音声入力や文字起こしを追加する。 録音内の話者を識別する、会議メモ作成ツールを構築する。 Appleデバイスで常時稼働する音声検出や、ウェイクワード形式のパイプラインを実行する。 iOSまたはmacOSアプリにローカルの音声読み上げ機能を追加する。
- FluidAudio はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/FluidInference/FluidAudio
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
ggml上で動作するC++音声ツールキット。音声合成、音声認識、音声区間検出に対応し、Metal、Vulkan、CPUで実行できるOpenAI互換サーバーを備えています。
Whisperを基盤とするオープンソースの音声認識ツール。強制アライメントによる単語単位のタイムスタンプと、任意の話者ダイアライゼーションに対応します。
Apple Silicon上でStable DiffusionとFLUX.2 Kleinを使い、画像をローカル生成できるmacOSネイティブアプリ。
音声認識、音声合成、音声クローン・変換、音楽生成、音声補正をまとめたローカル・オフライン対応のPythonツールキット。
クラウドまたはローカルの音声サービスを使い、Claude CodeなどのMCP対応エージェントと音声で会話できるMCP音声レイヤー。