Ejecuta el modelo Qwen3.8-Flash-Next de 125B en una PC de consumo con GPU NVIDIA o AMD y ofrece APIs compatibles con OpenAI y Anthropic en localhost.
27,4 mil2,9 milC++MITActualizado anteayer
#local-inference
Repositorios de GitHub seleccionados relacionados con local-inference, con resúmenes de IA y métricas clave.
Ejecuta el modelo Qwen3.8-Flash-Next de 125B en una PC de consumo con GPU NVIDIA o AMD y ofrece APIs compatibles con OpenAI y Anthropic en localhost.
GUI de grafo de nodos, API y backend para ejecutar modelos de difusión localmente y generar imágenes, video, audio y contenido 3D.
Lista comunitaria de modelos de IA, API y herramientas de uso gratuito: incluye planes gratis, modelos con pesos abiertos y herramientas de inferencia local.
Modelo de texto a voz ultraligero que funciona en el dispositivo, con arquitectura de 80M parámetros, salida en streaming a 32 kHz y compatibilidad con CPU, CUDA y MPS.