Roteador de LLM self-hosted e com código disponível que direciona prompts simples para modelos baratos ou locais e os complexos para modelos premium, por meio de um proxy compatível com OpenAI.
66180PythonOtherAtualizado há 4 horas
#ai-cost-reduction
Repositórios do GitHub selecionados relacionados a ai-cost-reduction, com resumos de IA e métricas principais.
Roteador de LLM self-hosted e com código disponível que direciona prompts simples para modelos baratos ou locais e os complexos para modelos premium, por meio de um proxy compatível com OpenAI.