CLI, Python, Android, Docker 또는 OpenAI 호환 서버를 통해 Qualcomm Snapdragon 기기의 NPU, GPU, CPU에서 모델을 실행하는 온디바이스 LLM 및 VLM 추론 런타임입니다.
8.5천1.1천GoBSD-3-Clause업데이트 2시간 전
#qualcomm
qualcomm 관련 엄선 GitHub 저장소. AI 요약과 주요 지표를 함께 제공합니다.
CLI, Python, Android, Docker 또는 OpenAI 호환 서버를 통해 Qualcomm Snapdragon 기기의 NPU, GPU, CPU에서 모델을 실행하는 온디바이스 LLM 및 VLM 추론 런타임입니다.