Proyectos open source sobre «openai-api»

Ejecuta el modelo Qwen3.8-Flash-Next de 125B en una PC de consumo con GPU NVIDIA o AMD y ofrece APIs compatibles con OpenAI y Anthropic en localhost.

Biblioteca de Python que detecta corrupción en la decodificación de LLM, como bucles de repetición y cambios de idioma a mitad de la generación, para descartar tokens defectuosos antes de que los vean los usuarios.