LostRuins/koboldcpp

Что это?

Ключевые возможности

• 01Запускает текстовые модели GGUF на CPU или GPU с полным или частичным переносом вычислений на GPU.
• 02Поставляется одним исполняемым файлом, без установки и внешних зависимостей.
• 03Включает веб-интерфейсы KoboldAI Lite и llama.cpp с функциями памяти, сведений о мире и карточек персонажей.
• 04Генерирует изображения, видео, речь и музыку с помощью совместимых файлов моделей.
• 05Предоставляет совместимые с OpenAI, Ollama, KoboldAI и другими сервисами API endpoints.

Сценарии использования

• Общение с приватным AI-ассистентом, который целиком работает на вашем компьютере.
• Ролевые игры и интерактивная проза с персонажами, сведениями о мире и сохранёнными историями.
• Подключение существующих приложений, совместимых с OpenAI или Ollama, к локальному серверу моделей.
• Эксперименты с локальной генерацией изображений, речи и музыки наряду с текстовыми моделями.

Быстрый старт

1. 1

   Скачайте исполняемый файл KoboldCpp для вашей ОС со страницы последнего релиза

2. 2

   Отдельно скачайте текстовую модель GGUF с Hugging Face

3. 3

   Запустите KoboldCpp, указав файл модели (пример для Linux)

   ./koboldcpp-linux-x64 --model /path/to/model.gguf
4. 4

   Откройте Web UI в браузере по адресу localhost, порт 5001

Что важно знать

• !Лицензия AGPL-3.0 — лицензия с копилефтом, требующая предоставлять исходный код с изменениями при распространении или предоставлении программы по сети.
• !Файлы моделей не включены — их нужно скачивать отдельно.

В подборках

Темы

Частые вопросы

Что такое koboldcpp?

Локальный запуск GGUF-моделей в одном файле со встроенным веб-интерфейсом KoboldAI и генерацией текста, изображений, речи и музыки. KoboldCpp запускает большие языковые модели GGUF на вашем компьютере — на CPU или GPU, без установки. Дистрибутив представляет собой один исполняемый файл для Windows, Linux и macOS. После загрузки модели он предоставляет встроенный веб-интерфейс KoboldAI Lite для чата, ролевых игр, приключений и написания историй, а также веб-интерфейс llama.cpp и несколько других интерфейсов.

koboldcpp можно использовать бесплатно? Какая у него лицензия?

koboldcpp распространяется с открытым исходным кодом под лицензией AGPL-3.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.

koboldcpp всё ещё поддерживается?

Активно поддерживается. Последний коммит в koboldcpp — 6 нояб. 2026 г..

Для чего можно использовать koboldcpp?

Общение с приватным AI-ассистентом, который целиком работает на вашем компьютере. Ролевые игры и интерактивная проза с персонажами, сведениями о мире и сохранёнными историями. Подключение существующих приложений, совместимых с OpenAI или Ollama, к локальному серверу моделей. Эксперименты с локальной генерацией изображений, речи и музыки наряду с текстовыми моделями.

Как установить koboldcpp?

Скачайте исполняемый файл KoboldCpp для вашей ОС со страницы последнего релиза Отдельно скачайте текстовую модель GGUF с Hugging Face Запустите KoboldCpp, указав файл модели (пример для Linux): ./koboldcpp-linux-x64 --model /path/to/model.gguf Откройте Web UI в браузере по адресу localhost, порт 5001

Где скачать koboldcpp?

Исходный код и инструкции по установке — на GitHub: https://github.com/LostRuins/koboldcpp