Proyectos open source sobre «on-device-ai»

Runtime de Swift y Metal que ejecuta Gemma 4 26B-A4B en Macs con Apple Silicon y unos 2 GB de RAM, transmitiendo expertos desde el SSD.

Una app de chat con documentos para macOS e iOS que responde preguntas sobre tus archivos con Apple Foundation Models, completamente en el dispositivo.

Ejecuta Claude Code con modelos de IA abiertos en una Mac con Apple Silicon mediante un servidor de API de Anthropic basado en MLX, sin modelos en la nube ni claves de API.

Un modelo fundacional de 8-29 MB para teléfonos, wearables, robots y microcontroladores que gestiona llamadas a herramientas, extracción estructurada, embeddings y voz a texto en el dispositivo.

Motor de IA en el edge escrito en C++ que convierte la analítica de video y los modelos VLM en el dispositivo en aplicaciones desplegables en hardware Sophon, Rockchip RKNN y x86.