Локальный запуск GGUF-моделей в одном файле со встроенным веб-интерфейсом KoboldAI и генерацией текста, изображений, речи и музыки.
ParisNeo/lollms-webui
Веб-интерфейс для запуска и использования локальных и облачных LLM на собственном сервере: поддерживает разные бэкенды, генерацию изображений и музыки, а также маршрутизацию промптов.
Open source альтернатива:ChatGPT
- Звёзды
- 4,793
- Форки
- 584
- Открытые issues
- 177
- Последний коммит
- 3 дня назад
Что это?
LoLLMs WebUI — веб-интерфейс для одного пользователя, предназначенный для работы с большими языковыми моделями и другими генеративными моделями ИИ. Он подключается к разным бэкендам, включая локальные модели Hugging Face, модели GGUF/GGML и EXLlama v2, а также сервисы Ollama, vLLM, OpenAI, Anthropic, OpenRouter и Novita AI. Переключаться между ними можно в одном интерфейсе.
Помимо текстового чата, в интерфейсе есть персонажи с заранее заданными приветственными сообщениями, хранение обсуждений в локальной базе данных и инструменты для поиска, экспорта и удаления переписок. Также доступны генерация изображений через Stable Diffusion, Flux, ComfyUI и DALL-E, генерация видео через несколько провайдеров и генерация музыки с помощью MusicGen.
В проект входят скрипты установки для Windows, Linux и macOS, а также варианты установки через Docker и вручную с Python 3.11. Разработчики отмечают, что проект уступает место новой версии lollms, в которой добавлена поддержка нескольких пользователей и совместимость с MCP.
Ключевые возможности
- 01Подключается к локальным моделям (Hugging Face, GGUF/GGML, EXLlama v2) и удалённым сервисам, таким как OpenAI, Anthropic и Ollama
- 02Позволяет выбрать модель и персонажа для каждой задачи
- 03Хранит обсуждения локально; поддерживает поиск, экспорт и массовое удаление
- 04Генерирует изображения, видео и музыку через несколько провайдеров
- 05Поддерживает маршрутизацию промптов к разным моделям в зависимости от сложности задачи
- 06Запускается с помощью скриптов установки, Docker или вручную через Python
Сценарии использования
- Общение с локальной моделью без отправки данных облачному провайдеру
- Сравнение ответов нескольких бэкендов LLM в одном интерфейсе
- Использование одного интерфейса для экспериментов с генерацией текста, изображений и музыки
- Создание личного ИИ-пространства для работы с текстами, помощи в программировании и организации данных
Быстрый старт
- 1
Убедитесь, что установлен Python 3.11
python --version - 2
Клонируйте репозиторий вместе с подмодулями
git clone --recursive https://github.com/ParisNeo/lollms-webui.git - 3
Установите зависимости и основную библиотеку
pip install -r requirements.txt - 4
Запустите сервер
python app.py
Что важно знать
- Приложение не предназначено для удалённого доступа или использования несколькими пользователями, поскольку в нём нет встроенной аутентификации.
- Для ручной настройки требуется Python 3.11 и индивидуальный выбор биндингов.
В подборках
Темы
Частые вопросы
- Что такое lollms-webui?
- Веб-интерфейс для запуска и использования локальных и облачных LLM на собственном сервере: поддерживает разные бэкенды, генерацию изображений и музыки, а также маршрутизацию промптов. LoLLMs WebUI — веб-интерфейс для одного пользователя, предназначенный для работы с большими языковыми моделями и другими генеративными моделями ИИ. Он подключается к разным бэкендам, включая локальные модели Hugging Face, модели GGUF/GGML и EXLlama v2, а также сервисы Ollama, vLLM, OpenAI, Anthropic, OpenRouter и Novita AI. Переключаться между ними можно в одном интерфейсе.
- lollms-webui можно использовать бесплатно? Какая у него лицензия?
- lollms-webui распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- lollms-webui всё ещё поддерживается?
- Активно поддерживается. Последний коммит в lollms-webui — 3 нояб. 2026 г..
- Для чего можно использовать lollms-webui?
- Общение с локальной моделью без отправки данных облачному провайдеру Сравнение ответов нескольких бэкендов LLM в одном интерфейсе Использование одного интерфейса для экспериментов с генерацией текста, изображений и музыки Создание личного ИИ-пространства для работы с текстами, помощи в программировании и организации данных
- Как установить lollms-webui?
- Убедитесь, что установлен Python 3.11: python --version Клонируйте репозиторий вместе с подмодулями: git clone --recursive https://github.com/ParisNeo/lollms-webui.git Установите зависимости и основную библиотеку: pip install -r requirements.txt Запустите сервер: python app.py
- Где скачать lollms-webui?
- Исходный код и инструкции по установке — на GitHub: https://github.com/ParisNeo/lollms-webui
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Самостоятельно размещаемый интерфейс для общения с локальными моделями Ollama и API, совместимыми с OpenAI: без привязки к провайдерам, с RAG, плагинами и доступом для нескольких пользователей.
Локально устанавливаемый интерфейс для опытных пользователей: общение со множеством API LLM, генераторами изображений и голосовыми моделями TTS.
Настольное приложение с открытым исходным кодом, выступающее MCP-хостом и подключающее LLM с вызовом функций, например ChatGPT, Claude или Ollama, к MCP-инструментам.
Бесплатное приложение с открытым исходным кодом для запуска больших языковых моделей локально: чат-интерфейс и API, совместимый с OpenAI и Anthropic.
CLI-инструмент и библиотека Python для работы с промптами и чатами на удалённых и локально установленных больших языковых моделях.