Home Assistantとの連携を前提に設計された、IPカメラ映像をローカルでリアルタイム物体検出するセルフホスト型NVR。
valentinfrlch/ha-llmvision
マルチモーダルLLMでカメラ画像、動画、ライブ映像、Frigateイベントを分析するHome Assistant統合。
- スター
- 1,523
- フォーク
- 155
- 未解決の Issue
- 51
- 最終コミット
- 昨日
これは何?
LLM Visionは、Home AssistantにAIによる映像分析機能を追加します。スナップショット、動画ファイル、カメラのライブ映像、Frigateイベントをマルチモーダルな大規模言語モデルに送信し、入力したプロンプトに基づいて質問に回答したり、説明を生成したりします。
OpenRouter、OpenAI、Anthropic、Google Gemini、AWS Bedrock、Azure、Groq、Ollama、Open WebUI、LocalAIのほか、OpenAI API互換のエンドポイントなど、幅広いプロバイダーに対応しています。分析したイベントはタイムラインに保存され、オプションのTimeline Cardを使ってダッシュボードに表示したり、Assistから検索したりできます。また、カメラ映像、画像、動画から抽出したデータを使ってセンサーを更新することもできます。
このプロジェクトはHACSからインストールでき、AIでイベントを要約するカメラ通知用のblueprintも付属しています。
主な機能
- 01クラウドAPIやOllama、LocalAIなどのローカルサーバーを含む、多数のAIプロバイダーに対応。
- 02画像、動画ファイル、カメラのライブ映像、Frigateイベントについて、プロンプトに回答。
- 03人物、ペット、物体を記憶。
- 04カメラのイベントをタイムラインに保存し、ダッシュボードでの表示やAssistからの検索に対応。
- 05カメラ映像から抽出したデータを使ってHome Assistantのセンサーを更新。
ユースケース
- カメラの動きやFrigateの検知内容をAIで要約し、スマートフォンに通知。
- カメラに現在何が映っているかを自然な言葉で質問。
- 分析したカメライベントの検索可能な履歴をHome Assistantのダッシュボードに表示。
- OllamaやLocalAIでローカルに画像認識モデルを実行し、カメラ映像を自分のネットワーク内にとどめる。
クイックスタート
- 1
HACSからLLM Visionをインストールする
- 2
Home Assistantを再起動する
- 3
設定 > デバイスとサービスでLLM Visionを検索し、デフォルト設定のまま送信する
- 4
LLM VisionのインテグレーションページからAIプロバイダーのエントリーを追加する
使う前に知っておきたいこと
- 分析を行うには、APIキーまたはセルフホスト型のマルチモーダルLLMプロバイダーが必要です。
- Home Assistant内でのみ動作するため、既存のHome Assistant環境が必要です。
- Home Assistant Containerの実行時には、セットアップでメディアフォルダーを/mediaにマウントする必要があります。
収録されている特集
トピック
よくある質問
- ha-llmvision とは?
- マルチモーダルLLMでカメラ画像、動画、ライブ映像、Frigateイベントを分析するHome Assistant統合。 LLM Visionは、Home AssistantにAIによる映像分析機能を追加します。スナップショット、動画ファイル、カメラのライブ映像、Frigateイベントをマルチモーダルな大規模言語モデルに送信し、入力したプロンプトに基づいて質問に回答したり、説明を生成したりします。
- ha-llmvision は無料で使えますか?ライセンスは?
- ha-llmvision は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- ha-llmvision は今もメンテナンスされていますか?
- 活発にメンテナンス中。ha-llmvision の最終コミットは 2026年11月6日 です。
- ha-llmvision は何に使えますか?
- カメラの動きやFrigateの検知内容をAIで要約し、スマートフォンに通知。 カメラに現在何が映っているかを自然な言葉で質問。 分析したカメライベントの検索可能な履歴をHome Assistantのダッシュボードに表示。 OllamaやLocalAIでローカルに画像認識モデルを実行し、カメラ映像を自分のネットワーク内にとどめる。
- ha-llmvision のインストール方法は?
- HACSからLLM Visionをインストールする Home Assistantを再起動する 設定 > デバイスとサービスでLLM Visionを検索し、デフォルト設定のまま送信する LLM VisionのインテグレーションページからAIプロバイダーのエントリーを追加する
- ha-llmvision はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/valentinfrlch/ha-llmvision
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
OpenAI互換LLMでデバイスの操作やサービス呼び出し、自動化の作成ができるHome Assistant用カスタムコンポーネント。
マルチモーダルデータ、計算列、ベクトルインデックス、HTTPルートを1つのファイルで定義できるPythonバックエンド。
GLaDOS風のカスタム音声、カメラ映像、永続メモリ、ツール、ブラウザーコンソールを備えたローカル音声アシスタント。
Xiaomi Cloudまたはローカルの中央ハブゲートウェイ経由で、Xiaomi IoTスマートデバイスをHome Assistantに取り込む公式連携。
miIO/MIoTプロトコルでXiaomiのスマートホーム機器を操作するPythonライブラリとmiiocliコマンドラインツール。