Projetos open source sobre “openai-api”

Executa o modelo Qwen3.8-Flash-Next de 125 bilhões de parâmetros em um PC doméstico com GPU NVIDIA ou AMD e disponibiliza APIs compatíveis com OpenAI e Anthropic no localhost.

Biblioteca Python que detecta corrupções na decodificação de LLMs, como loops de repetição e mudança de idioma no meio da geração, para cortar tokens problemáticos antes que cheguem aos usuários.