「snapdragon」に関するオープンソースプロジェクト

CLI、Python、Android、Docker、またはOpenAI互換サーバーを通じて、Qualcomm SnapdragonデバイスのNPU、GPU、CPUでモデルを実行するオンデバイスLLM・VLM推論ランタイムです。

Snapdragon NPUの高速化とCPU/GPUへのフォールバックに対応し、Stable Diffusionの画像生成を端末上で実行するAndroidアプリ。