addyosmani/chatty

これは何？

主な機能

• 01WebGPUを介してLLMをブラウザ内でローカル実行し、サーバー側で推論を行いません。
• 02モデルを一度ダウンロードすれば、オフラインで利用できます。
• 03PDFやテキストベースのファイルを読み込み、ローカルで質問に回答できます。
• 04チャット履歴を保存し、会話をJSONまたはMarkdownでエクスポートできます。
• 05カスタム指示、音声入力、応答の再生成に対応しています。

ユースケース

• プロンプトを端末の外に出さずに、オープンソースモデルと会話する。
• プライベートな文書をクラウドサービスにアップロードせずに質問する。
• インターネットに接続できないノートPCでLLMチャットを利用する。
• Next.jsアプリでのブラウザ内WebGPU推論やファイルの埋め込み処理の仕組みを学ぶ。

クイックスタート

1. 1

   リポジトリをクローンする

   git clone https://github.com/addyosmani/chatty
2. 2

   プロジェクトフォルダーを開く

   cd chatty
3. 3

   依存関係をインストールする

   npm install
4. 4

   開発サーバーを起動し、localhost:3000 を開く

   npm run dev

使う前に知っておきたいこと

• !十分なメモリを搭載した GPU が必要です。7B モデルには約 6GB が必要です。
• !Chrome や Edge など、WebGPU に対応したブラウザーが必要です。

収録されている特集

トピック

よくある質問

chatty とは？

WebGPUでオープンソースLLMをGPU上でローカル実行し、会話を端末内に保てるブラウザベースのチャットアプリ。 Chattyは、ブラウザ内だけで動作する大規模言語モデルと会話するためのNext.js製Webアプリです。WebGPUを使ってGemma、Llama、Mistralなどのモデルをユーザー自身のハードウェアで実行するため、プロンプトと応答はサーバーではなくローカルで処理されます。モデルは一度ダウンロードすれば、インターネットに接続していなくても利用できます。

chatty は無料で使えますか？ライセンスは？

chatty は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。

chatty は今もメンテナンスされていますか？

半年以内に更新あり。chatty の最終コミットは 2026年8月9日 です。

chatty は何に使えますか？

プロンプトを端末の外に出さずに、オープンソースモデルと会話する。 プライベートな文書をクラウドサービスにアップロードせずに質問する。 インターネットに接続できないノートPCでLLMチャットを利用する。 Next.jsアプリでのブラウザ内WebGPU推論やファイルの埋め込み処理の仕組みを学ぶ。

chatty のインストール方法は？

リポジトリをクローンする: git clone https://github.com/addyosmani/chatty プロジェクトフォルダーを開く: cd chatty 依存関係をインストールする: npm install 開発サーバーを起動し、localhost:3000 を開く: npm run dev

chatty はどこで入手できますか？

ソースコードとインストール手順は GitHub にあります：https://github.com/addyosmani/chatty