Repolode
krisyangdev

krisyangdev/ChatLLM-Web

WebGPU経由でWebLLMモデルを端末上で動かす、バックエンドもアカウントも不要なローカルAIチャット・エージェント環境です。

代替できる製品:ChatGPT

スター
640
フォーク
48
未解決の Issue
4
最終コミット
3 か月前

これは何?

ChatLLM Webは、ブラウザー内だけで動作する大規模言語モデルとチャットできる静的Webアプリです。専用のWeb WorkerでWebLLMを使い、WebGPU経由でローカルGPU上のモデルを実行します。端末のWebGPU対応状況、メモリ、ストレージを確認し、推奨モデルを提示するとともに、ダウンロード、読み込み、キャッシュ、互換性の状態を表示します。

チャットに加えて、ネイティブの関数呼び出しに対応したモデル(Hermes 2 ProやHermes 3など)が、サンドボックス化されたローカルツールを使って添付ファイルの読み取りや検索、計算、Markdown・コード・JSON・テキスト形式の成果物の作成や更新を行えるAgentモードを備えています。成果物を書き込む際は、IndexedDBに保存する前に行単位の差分を表示し、承認を求めます。会話、ファイル、成果物はすべてブラウザー内に保存されます。また、PWAとしてインストールすれば、初回読み込み後はキャッシュ済みモデルをオフラインで再利用できます。

このプロジェクトはCloudflare Pagesにデプロイされており、アプリケーション用バックエンド、アカウント、APIキー、テレメトリーはありません。モデルの重みはHugging FaceまたはWebLLMライブラリのURLから直接取得します。英語と簡体字中国語のインターフェースに対応し、ライトテーマとダークテーマを選べます。

主な機能

  • 01専用のWorker内でWebLLMモデルを実行し、WebGPU経由でローカルGPUを利用します。
  • 02チャット、コーディング、推論、ビジョン、ツール利用に対応する厳選された20モデルと、上級者向けカタログを提供します。
  • 03サンドボックス化されたローカルツールを使い、選択したファイルの読み取り、検索、計算ができるAgentモードを備えています。
  • 04成果物をIndexedDBに書き込む前に、差分の承認を必須とします。
  • 05TXT、Markdown、JSON、一般的なコードファイルを、直接コンテキストとして添付できます。
  • 06PWAとしてインストールでき、初回読み込み後はキャッシュ済みモデルを再利用できます。

ユースケース

  • プロンプトをクラウドAPIに送信せず、プライバシーを保ちながらLLMとチャットする。
  • 対応GPUとブラウザーを備えたノートPCで、小規模なオープンモデルを試す。
  • ローカルのコードやテキストファイルをアップロードせずに、その内容について質問する。
  • 選択したファイルだけを扱う、ローカルのツール呼び出し型エージェントを試す。

クイックスタート

  1. 1

    依存関係をインストール

    npm install
  2. 2

    開発サーバーを起動

    npm run dev

使う前に知っておきたいこと

  • 最新のWebGPU対応ブラウザーと、十分なGPUメモリを備えたデバイスが必要です。
  • 3つのAgentモデルは実験段階としてマークされており、Advancedカタログは上級ユーザー向けです。

収録されている特集

トピック

よくある質問

ChatLLM-Web とは?
WebGPU経由でWebLLMモデルを端末上で動かす、バックエンドもアカウントも不要なローカルAIチャット・エージェント環境です。 ChatLLM Webは、ブラウザー内だけで動作する大規模言語モデルとチャットできる静的Webアプリです。専用のWeb WorkerでWebLLMを使い、WebGPU経由でローカルGPU上のモデルを実行します。端末のWebGPU対応状況、メモリ、ストレージを確認し、推奨モデルを提示するとともに、ダウンロード、読み込み、キャッシュ、互換性の状態を表示します。
ChatLLM-Web は無料で使えますか?ライセンスは?
ChatLLM-Web は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
ChatLLM-Web は今もメンテナンスされていますか?
半年以内に更新あり。ChatLLM-Web の最終コミットは 2026年8月12日 です。
ChatLLM-Web は何に使えますか?
プロンプトをクラウドAPIに送信せず、プライバシーを保ちながらLLMとチャットする。 対応GPUとブラウザーを備えたノートPCで、小規模なオープンモデルを試す。 ローカルのコードやテキストファイルをアップロードせずに、その内容について質問する。 選択したファイルだけを扱う、ローカルのツール呼び出し型エージェントを試す。
ChatLLM-Web のインストール方法は?
依存関係をインストール: npm install 開発サーバーを起動: npm run dev
ChatLLM-Web はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/krisyangdev/ChatLLM-Web

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト