Servidor de inferência MLX self-hosted para Apple Silicon, com APIs compatíveis com OpenAI, Anthropic e Ollama para LLMs, VLMs e geração de imagens.
89997PythonApache-2.0Atualizado ontem
#kvcache-compression
Projetos open source sobre “kvcache-compression”
Repositórios do GitHub selecionados relacionados a kvcache-compression, com resumos de IA e métricas principais.
Ordenar:Adicionados recentemente
1 repositório