Projetos open source sobre “edge-ai”

Coleção de 419 modelos de IA pré-treinados para visão, fala, NLP e LLMs, executáveis por uma CLI simples com download automático dos pesos.

Um mecanismo de serving de MoE nativo para edge que executa modelos open-weight grandes, como DeepSeek-V4 e Qwen3.6, em GPUs de consumo, dividindo o trabalho entre a memória da GPU e a da CPU.

Um modelo fundacional de 8 a 29 MB para celulares, wearables, robôs e microcontroladores, que processa chamadas de ferramentas, extração estruturada, embeddings e transcrição de fala no próprio dispositivo.

Toolkit de inferência para robótica baseado no mecanismo Rust ApxInf, que executa políticas VLA como PI-0.5 em GPUs NVIDIA Jetson e RTX.

Engine de IA de borda em C++ que transforma análise de vídeo e modelos VLM no próprio dispositivo em apps implantáveis em hardware Sophon, Rockchip RKNN e x86.