CLI、Python、Android、Docker、またはOpenAI互換サーバーを通じて、Qualcomm SnapdragonデバイスのNPU、GPU、CPUでモデルを実行するオンデバイスLLM・VLM推論ランタイムです。
84501070GoBSD-3-Clause更新 1 時間前
#qualcomm
qualcomm に関連する厳選 GitHub リポジトリ。AI による概要と主要な指標を掲載しています。
CLI、Python、Android、Docker、またはOpenAI互換サーバーを通じて、Qualcomm SnapdragonデバイスのNPU、GPU、CPUでモデルを実行するオンデバイスLLM・VLM推論ランタイムです。