Repolode
ParisNeo

ParisNeo/lollms-webui

Веб-интерфейс для запуска и использования локальных и облачных LLM на собственном сервере: поддерживает разные бэкенды, генерацию изображений и музыки, а также маршрутизацию промптов.

Open source альтернатива:ChatGPT

Звёзды
4,793
Форки
584
Открытые issues
177
Последний коммит
3 дня назад

Что это?

LoLLMs WebUI — веб-интерфейс для одного пользователя, предназначенный для работы с большими языковыми моделями и другими генеративными моделями ИИ. Он подключается к разным бэкендам, включая локальные модели Hugging Face, модели GGUF/GGML и EXLlama v2, а также сервисы Ollama, vLLM, OpenAI, Anthropic, OpenRouter и Novita AI. Переключаться между ними можно в одном интерфейсе.

Помимо текстового чата, в интерфейсе есть персонажи с заранее заданными приветственными сообщениями, хранение обсуждений в локальной базе данных и инструменты для поиска, экспорта и удаления переписок. Также доступны генерация изображений через Stable Diffusion, Flux, ComfyUI и DALL-E, генерация видео через несколько провайдеров и генерация музыки с помощью MusicGen.

В проект входят скрипты установки для Windows, Linux и macOS, а также варианты установки через Docker и вручную с Python 3.11. Разработчики отмечают, что проект уступает место новой версии lollms, в которой добавлена поддержка нескольких пользователей и совместимость с MCP.

Ключевые возможности

  • 01Подключается к локальным моделям (Hugging Face, GGUF/GGML, EXLlama v2) и удалённым сервисам, таким как OpenAI, Anthropic и Ollama
  • 02Позволяет выбрать модель и персонажа для каждой задачи
  • 03Хранит обсуждения локально; поддерживает поиск, экспорт и массовое удаление
  • 04Генерирует изображения, видео и музыку через несколько провайдеров
  • 05Поддерживает маршрутизацию промптов к разным моделям в зависимости от сложности задачи
  • 06Запускается с помощью скриптов установки, Docker или вручную через Python

Сценарии использования

  • Общение с локальной моделью без отправки данных облачному провайдеру
  • Сравнение ответов нескольких бэкендов LLM в одном интерфейсе
  • Использование одного интерфейса для экспериментов с генерацией текста, изображений и музыки
  • Создание личного ИИ-пространства для работы с текстами, помощи в программировании и организации данных

Быстрый старт

  1. 1

    Убедитесь, что установлен Python 3.11

    python --version
  2. 2

    Клонируйте репозиторий вместе с подмодулями

    git clone --recursive https://github.com/ParisNeo/lollms-webui.git
  3. 3

    Установите зависимости и основную библиотеку

    pip install -r requirements.txt
  4. 4

    Запустите сервер

    python app.py

Что важно знать

  • Приложение не предназначено для удалённого доступа или использования несколькими пользователями, поскольку в нём нет встроенной аутентификации.
  • Для ручной настройки требуется Python 3.11 и индивидуальный выбор биндингов.

В подборках

Темы

Частые вопросы

Что такое lollms-webui?
Веб-интерфейс для запуска и использования локальных и облачных LLM на собственном сервере: поддерживает разные бэкенды, генерацию изображений и музыки, а также маршрутизацию промптов. LoLLMs WebUI — веб-интерфейс для одного пользователя, предназначенный для работы с большими языковыми моделями и другими генеративными моделями ИИ. Он подключается к разным бэкендам, включая локальные модели Hugging Face, модели GGUF/GGML и EXLlama v2, а также сервисы Ollama, vLLM, OpenAI, Anthropic, OpenRouter и Novita AI. Переключаться между ними можно в одном интерфейсе.
lollms-webui можно использовать бесплатно? Какая у него лицензия?
lollms-webui распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
lollms-webui всё ещё поддерживается?
Активно поддерживается. Последний коммит в lollms-webui — 3 нояб. 2026 г..
Для чего можно использовать lollms-webui?
Общение с локальной моделью без отправки данных облачному провайдеру Сравнение ответов нескольких бэкендов LLM в одном интерфейсе Использование одного интерфейса для экспериментов с генерацией текста, изображений и музыки Создание личного ИИ-пространства для работы с текстами, помощи в программировании и организации данных
Как установить lollms-webui?
Убедитесь, что установлен Python 3.11: python --version Клонируйте репозиторий вместе с подмодулями: git clone --recursive https://github.com/ParisNeo/lollms-webui.git Установите зависимости и основную библиотеку: pip install -r requirements.txt Запустите сервер: python app.py
Где скачать lollms-webui?
Исходный код и инструкции по установке — на GitHub: https://github.com/ParisNeo/lollms-webui

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Самостоятельно размещаемый интерфейс для общения с локальными моделями Ollama и API, совместимыми с OpenAI: без привязки к провайдерам, с RAG, плагинами и доступом для нескольких пользователей.

157,9 тыс.+671 за неделю23 тыс.PythonOtherАктивно поддерживаетсяОбновлён 8 часов назад