「local-llm」に関するオープンソースプロジェクト

ローカルまたはクラウドのLLMで複数段階の調査を行い、Webや学術データベース、自分の文書を検索するセルフホスト型AIリサーチアシスタント。

自分のハードウェアでLLMを動かすためのプラットフォーム、推論エンジン、UI、モデル、ツール、チュートリアルを集めた厳選リスト。

GPUとCPUメモリに処理を分散し、DeepSeek-V4やQwen3.6などの大規模オープンウェイトモデルをコンシューマー向けGPUで動かす、エッジネイティブなMoEサービングエンジン。

Ollamaを使ってすべて自分のマシン上で動作し、小規模モデルの段階的な回答を知識グラフとして保存するローカル推論ツール。

ローカルで大規模言語モデルを実行するためのプラットフォーム、ツール、モデル、チュートリアルをまとめた厳選リスト。

MLXベースのAnthropic APIサーバーを使い、クラウドモデルやAPIキーなしでApple Silicon Mac上のオープンモデルをClaude Codeから利用できます。

フレームワークを使わず、node-llama-cppでローカルLLMを利用してAIエージェントを一から構築する実践型チュートリアルシリーズ。

ローカルLLMを使い、クラウドAPIなしでRAGを一から学べるJavaScriptチュートリアル

ディスクから選択されたエキスパートを読み込み、一般的なハードウェアで超大規模MoEモデルを動かす純C推論エンジン。

単一のYAML設定でLLMをファインチューニング・追加学習するCLIツール。レイヤーストリーミングにより4 GB GPUで8Bモデルを学習可能。

Qwen3.5を端末上で実行し、ページ上の要素から操作を選ぶローカルファーストのブラウザー自動化エンジン兼Agent Skill。

USB-C接続したiPhoneで、Mac上のローカル27B Qwenモデルのprefillを高速化し、コンテキストを拡張します。

Spark-X2.5は、ローカルやオンデバイス環境でのエージェント型コーディングとツール利用を想定したオープンウェイト言語モデルシリーズです。

ハードウェアに合わせてカーネルを調整し、オープンモデルを最速で実行するオープンソースの推論エンジン。

ローカルまたはリモートのLLMでファイルを分類し、変更前に確認できるクロスプラットフォーム対応のデスクトップアプリ。

クリック可能な引用と、任意で完全ローカルのモデルを使って、PDFやZoteroライブラリ全体と対話できるZoteroプラグイン。

Ollamaを使い、YouTubeライブ配信にリアルタイムの英中翻訳字幕を表示するChrome拡張機能とローカルPythonサービス。