Repolode
valentinfrlch

valentinfrlch/ha-llmvision

マルチモーダルLLMでカメラ画像、動画、ライブ映像、Frigateイベントを分析するHome Assistant統合。

スター
1,523
フォーク
155
未解決の Issue
51
最終コミット
昨日

これは何?

LLM Visionは、Home AssistantにAIによる映像分析機能を追加します。スナップショット、動画ファイル、カメラのライブ映像、Frigateイベントをマルチモーダルな大規模言語モデルに送信し、入力したプロンプトに基づいて質問に回答したり、説明を生成したりします。

OpenRouter、OpenAI、Anthropic、Google Gemini、AWS Bedrock、Azure、Groq、Ollama、Open WebUI、LocalAIのほか、OpenAI API互換のエンドポイントなど、幅広いプロバイダーに対応しています。分析したイベントはタイムラインに保存され、オプションのTimeline Cardを使ってダッシュボードに表示したり、Assistから検索したりできます。また、カメラ映像、画像、動画から抽出したデータを使ってセンサーを更新することもできます。

このプロジェクトはHACSからインストールでき、AIでイベントを要約するカメラ通知用のblueprintも付属しています。

主な機能

  • 01クラウドAPIやOllama、LocalAIなどのローカルサーバーを含む、多数のAIプロバイダーに対応。
  • 02画像、動画ファイル、カメラのライブ映像、Frigateイベントについて、プロンプトに回答。
  • 03人物、ペット、物体を記憶。
  • 04カメラのイベントをタイムラインに保存し、ダッシュボードでの表示やAssistからの検索に対応。
  • 05カメラ映像から抽出したデータを使ってHome Assistantのセンサーを更新。

ユースケース

  • カメラの動きやFrigateの検知内容をAIで要約し、スマートフォンに通知。
  • カメラに現在何が映っているかを自然な言葉で質問。
  • 分析したカメライベントの検索可能な履歴をHome Assistantのダッシュボードに表示。
  • OllamaやLocalAIでローカルに画像認識モデルを実行し、カメラ映像を自分のネットワーク内にとどめる。

クイックスタート

  1. 1

    HACSからLLM Visionをインストールする

  2. 2

    Home Assistantを再起動する

  3. 3

    設定 > デバイスとサービスでLLM Visionを検索し、デフォルト設定のまま送信する

  4. 4

    LLM VisionのインテグレーションページからAIプロバイダーのエントリーを追加する

使う前に知っておきたいこと

  • 分析を行うには、APIキーまたはセルフホスト型のマルチモーダルLLMプロバイダーが必要です。
  • Home Assistant内でのみ動作するため、既存のHome Assistant環境が必要です。
  • Home Assistant Containerの実行時には、セットアップでメディアフォルダーを/mediaにマウントする必要があります。

収録されている特集

トピック

よくある質問

ha-llmvision とは?
マルチモーダルLLMでカメラ画像、動画、ライブ映像、Frigateイベントを分析するHome Assistant統合。 LLM Visionは、Home AssistantにAIによる映像分析機能を追加します。スナップショット、動画ファイル、カメラのライブ映像、Frigateイベントをマルチモーダルな大規模言語モデルに送信し、入力したプロンプトに基づいて質問に回答したり、説明を生成したりします。
ha-llmvision は無料で使えますか?ライセンスは?
ha-llmvision は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
ha-llmvision は今もメンテナンスされていますか?
活発にメンテナンス中。ha-llmvision の最終コミットは 2026年11月6日 です。
ha-llmvision は何に使えますか?
カメラの動きやFrigateの検知内容をAIで要約し、スマートフォンに通知。 カメラに現在何が映っているかを自然な言葉で質問。 分析したカメライベントの検索可能な履歴をHome Assistantのダッシュボードに表示。 OllamaやLocalAIでローカルに画像認識モデルを実行し、カメラ映像を自分のネットワーク内にとどめる。
ha-llmvision のインストール方法は?
HACSからLLM Visionをインストールする Home Assistantを再起動する 設定 > デバイスとサービスでLLM Visionを検索し、デフォルト設定のまま送信する LLM VisionのインテグレーションページからAIプロバイダーのエントリーを追加する
ha-llmvision はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/valentinfrlch/ha-llmvision

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト