llama.cppベースの、ローカルLLMを実行するmacOSメニューバーアプリ。ローカルAPIサーバーとWebUIを搭載。
1652130SwiftMIT更新 一昨日
#llama-cpp
「llama-cpp」に関するオープンソースプロジェクト
llama-cpp に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。
6 件のリポジトリ絞り込みを解除
WindowsやLinuxで、一般向けNVIDIA・AMD GPU上に大規模なQwen3.8-Flash-Nextモデルを実行するローカル推論エンジン。OpenAI・Anthropic互換APIに対応。
2.8万2945C++MIT更新 3 日前
iPhoneをUSB-CでMacに接続し、GPUを活用してQwen 27Bをローカル実行。プロンプト処理を高速化し、コンテキストを拡張します。
1052118PythonMIT更新 6 日前
検査結果やウェアラブル、遺伝子データを追跡可能な記録に統合する、MCPサーバー搭載のセルフホスト型AI健康データエンジン。
1382242PythonApache-2.0更新 11 時間前
XHTokenのオープンウェイト汎用言語モデル。4Bと1.7Bの2サイズで、オンデバイス利用やエージェントのツール呼び出しに対応。
814110Apache-2.0更新 16 時間前
Mac、Windows、Linuxで、内容を説明するだけで写真やPDFなどをローカル検索
4902354SwiftMIT更新 一昨日