Локальный MLX-сервер инференса для Apple Silicon с совместимыми с OpenAI, Anthropic и Ollama API для LLM, VLM и генерации изображений.
89997PythonApache-2.0Обновлён вчера
#kvcache-compression
Open source проекты по теме «kvcache-compression»
Отобранные репозитории GitHub по теме kvcache-compression с описаниями от ИИ и ключевыми метриками.
Сортировка:Недавно добавленные
1 репозиторий