「llama-cpp」に関するオープンソースプロジェクト

USB-C接続したiPhoneで、Mac上のローカル27B Qwenモデルのprefillを高速化し、コンテキストを拡張します。

Spark-X2.5は、ローカルやオンデバイス環境でのエージェント型コーディングとツール利用を想定したオープンウェイト言語モデルシリーズです。

EmbeddingGemma 2を使い、写真やPDF、文書、音声、動画、コードを意味で検索できるオンデバイスのデスクトップアプリ。