Repolode
mrdjohnson

mrdjohnson/llm-x

Веб-интерфейс чата для локальных LLM-серверов, таких как Ollama, LM Studio и AUTOMATIC1111; доступен как веб-приложение, PWA и расширение Chrome.

Open source альтернатива:ChatGPT

Звёзды
296
Форки
38
Открытые issues
6
Последний коммит
в прошлом месяце

Что это?

LLM X — интерфейс в стиле ChatGPT для запуска языковых и графических моделей на собственном компьютере. Он подключается к локальным серверам, таким как Ollama, llmman, LM Studio и AUTOMATIC1111, а также к любому серверу с поддержкой OpenAI API; кроме того, через Chrome можно использовать Gemini Nano. Переписки, изображения и результаты генерации хранятся в браузере, а само приложение не обращается к внешним API.

Проект доступен как размещённое в интернете веб-приложение, которое работает офлайн в режиме PWA, как расширение Chrome и как исходная сборка, запускаемая через Vite или Docker. Сообщения можно отправлять сразу нескольким моделям; пользователи могут управлять несколькими переписками, редактировать сообщения и запускать их повторно, задавать системные промпты с помощью Personas, а также импортировать и экспортировать переписки. Изображения можно отправлять мультимодальным моделям, а генерация изображений по текстовому описанию поддерживается через Ollama и AUTOMATIC1111.

Приложение создано на React, TypeScript, MobX и Tailwind/DaisyUI, а для взаимодействия с моделями использует LangChain.js. Удалённые серверы должны работать по HTTPS, поскольку веб-версия подключается только к защищённым контекстам.

Ключевые возможности

  • 01Подключается к Ollama, llmman, LM Studio, AUTOMATIC1111 и серверам с поддержкой OpenAI API.
  • 02Одновременно отправляет одну переписку нескольким моделям.
  • 03Поддерживает загрузку изображений для мультимодальных моделей и генерацию изображений по текстовому описанию.
  • 04Работает офлайн в режиме PWA и доступно как расширение Chrome.
  • 05Позволяет задавать системные промпты с помощью Personas, а также импортировать и экспортировать переписки.
  • 06Отображает подсветку синтаксиса и LaTeX в ответах.

Сценарии использования

  • Общение с моделями, запущенными на собственном ноутбуке или домашнем сервере, без отправки данных в облачный сервис.
  • Сравнение ответов нескольких локальных моделей в одной переписке.
  • Использование локальной модели компьютерного зрения для вопросов о загруженных изображениях.
  • Использование встроенной в Chrome модели Gemini Nano через расширение браузера.

Быстрый старт

  1. 1

    Установите Ollama с сайта ollama.com

  2. 2

    Запустите Ollama, разрешив origin LLM-X

    OLLAMA_ORIGINS=https://mrdjohnson.github.io ollama serve
  3. 3

    Откройте веб-приложение LLM-X в браузере и начните общаться

Что важно знать

  • Веб-приложение подключается только к удалённым серверам, использующим HTTPS. Поэтому для удалённого доступа нужен защищённый сервер.
  • Локальный сервер моделей, например Ollama, LM Studio или AUTOMATIC1111, необходимо установить и запустить самостоятельно.
  • Для поддержки Gemini Nano нужно включить экспериментальные флаги Chrome Canary.

В подборках

Темы

Частые вопросы

Что такое llm-x?
Веб-интерфейс чата для локальных LLM-серверов, таких как Ollama, LM Studio и AUTOMATIC1111; доступен как веб-приложение, PWA и расширение Chrome. LLM X — интерфейс в стиле ChatGPT для запуска языковых и графических моделей на собственном компьютере. Он подключается к локальным серверам, таким как Ollama, llmman, LM Studio и AUTOMATIC1111, а также к любому серверу с поддержкой OpenAI API; кроме того, через Chrome можно использовать Gemini Nano. Переписки, изображения и результаты генерации хранятся в браузере, а само приложение не обращается к внешним API.
llm-x можно использовать бесплатно? Какая у него лицензия?
llm-x распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
llm-x всё ещё поддерживается?
Обновлялся за последние 6 месяцев. Последний коммит в llm-x — 29 сент. 2026 г..
Для чего можно использовать llm-x?
Общение с моделями, запущенными на собственном ноутбуке или домашнем сервере, без отправки данных в облачный сервис. Сравнение ответов нескольких локальных моделей в одной переписке. Использование локальной модели компьютерного зрения для вопросов о загруженных изображениях. Использование встроенной в Chrome модели Gemini Nano через расширение браузера.
Как установить llm-x?
Установите Ollama с сайта ollama.com Запустите Ollama, разрешив origin LLM-X: OLLAMA_ORIGINS=https://mrdjohnson.github.io ollama serve Откройте веб-приложение LLM-X в браузере и начните общаться
Где скачать llm-x?
Исходный код и инструкции по установке — на GitHub: https://github.com/mrdjohnson/llm-x

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Веб-интерфейс для запуска и использования локальных и облачных LLM на собственном сервере: поддерживает разные бэкенды, генерацию изображений и музыки, а также маршрутизацию промптов.

4,8 тыс.584PythonApache-2.0Обновлён 4 дня назад