“edge-ai” 관련 오픈소스 프로젝트

비전, 음성, NLP, LLM 분야의 사전 학습 AI 모델 419개를 제공하며, 간단한 CLI 명령으로 실행하고 가중치는 자동으로 내려받습니다.

GPU와 CPU 메모리에 작업을 분산해 소비자용 GPU에서 대형 오픈 웨이트 모델을 구동하는 엣지 네이티브 MoE 서빙 엔진

휴대폰, 웨어러블, 로봇, 마이크로컨트롤러에서 실행되는 8~29MB 기초 모델입니다.

ApxInf Rust 엔진 기반 로보틱스 추론 툴킷으로, NVIDIA Jetson 및 RTX GPU에서 PI-0.5 같은 VLA 정책을 실행합니다.

Sophon, Rockchip RKNN, x86 하드웨어에서 배포 가능한 앱을 만드는 C++ 엣지 AI 엔진