Запускает модель Qwen3.8-Flash-Next с 125 млрд параметров на потребительском ПК с GPU NVIDIA или AMD и предоставляет совместимые с OpenAI и Anthropic API на localhost.
27,4 тыс.2,9 тыс.C++MITОбновлён позавчера
#local-inference
Open source проекты по теме «local-inference»
Отобранные репозитории GitHub по теме local-inference с описаниями от ИИ и ключевыми метриками.
Сортировка:Недавно добавленные
4 репозитория
Графический интерфейс на основе узлов, API и бэкенд для локального запуска diffusion-моделей, генерирующих изображения, видео, аудио и 3D-контент.
ИИ и машинное обучение#stable-diffusion#diffusion-models#image-generation#video-generation#node-editor
138,5 тыс.16,5 тыс.PythonGPL-3.0Обновлён 2 часа назад
Поддерживаемый сообществом каталог бесплатных AI-моделей, API и инструментов: от бесплатных тарифов и моделей с открытыми весами до локального инференса.
2,5 тыс.244OtherОбновлён 7 дней назад
Сверхлёгкая локальная модель синтеза речи с архитектурой на 80 млн параметров, потоковой генерацией аудио 32 кГц и поддержкой CPU, CUDA и MPS.
1,6 тыс.138PythonApache-2.0Обновлён 9 месяцев назад