Руководство и веб-чатбот для запуска небольшой локальной LLM на обычном оборудовании через Ollama, vLLM или llama-cpp-python с API, совместимым с OpenAI.
mrdjohnson/llm-x
Веб-интерфейс чата для локальных LLM-серверов, таких как Ollama, LM Studio и AUTOMATIC1111; доступен как веб-приложение, PWA и расширение Chrome.
Open source альтернатива:ChatGPT
- Звёзды
- 296
- Форки
- 38
- Открытые issues
- 6
- Последний коммит
- в прошлом месяце
Что это?
LLM X — интерфейс в стиле ChatGPT для запуска языковых и графических моделей на собственном компьютере. Он подключается к локальным серверам, таким как Ollama, llmman, LM Studio и AUTOMATIC1111, а также к любому серверу с поддержкой OpenAI API; кроме того, через Chrome можно использовать Gemini Nano. Переписки, изображения и результаты генерации хранятся в браузере, а само приложение не обращается к внешним API.
Проект доступен как размещённое в интернете веб-приложение, которое работает офлайн в режиме PWA, как расширение Chrome и как исходная сборка, запускаемая через Vite или Docker. Сообщения можно отправлять сразу нескольким моделям; пользователи могут управлять несколькими переписками, редактировать сообщения и запускать их повторно, задавать системные промпты с помощью Personas, а также импортировать и экспортировать переписки. Изображения можно отправлять мультимодальным моделям, а генерация изображений по текстовому описанию поддерживается через Ollama и AUTOMATIC1111.
Приложение создано на React, TypeScript, MobX и Tailwind/DaisyUI, а для взаимодействия с моделями использует LangChain.js. Удалённые серверы должны работать по HTTPS, поскольку веб-версия подключается только к защищённым контекстам.
Ключевые возможности
- 01Подключается к Ollama, llmman, LM Studio, AUTOMATIC1111 и серверам с поддержкой OpenAI API.
- 02Одновременно отправляет одну переписку нескольким моделям.
- 03Поддерживает загрузку изображений для мультимодальных моделей и генерацию изображений по текстовому описанию.
- 04Работает офлайн в режиме PWA и доступно как расширение Chrome.
- 05Позволяет задавать системные промпты с помощью Personas, а также импортировать и экспортировать переписки.
- 06Отображает подсветку синтаксиса и LaTeX в ответах.
Сценарии использования
- Общение с моделями, запущенными на собственном ноутбуке или домашнем сервере, без отправки данных в облачный сервис.
- Сравнение ответов нескольких локальных моделей в одной переписке.
- Использование локальной модели компьютерного зрения для вопросов о загруженных изображениях.
- Использование встроенной в Chrome модели Gemini Nano через расширение браузера.
Быстрый старт
- 1
Установите Ollama с сайта ollama.com
- 2
Запустите Ollama, разрешив origin LLM-X
OLLAMA_ORIGINS=https://mrdjohnson.github.io ollama serve - 3
Откройте веб-приложение LLM-X в браузере и начните общаться
Что важно знать
- Веб-приложение подключается только к удалённым серверам, использующим HTTPS. Поэтому для удалённого доступа нужен защищённый сервер.
- Локальный сервер моделей, например Ollama, LM Studio или AUTOMATIC1111, необходимо установить и запустить самостоятельно.
- Для поддержки Gemini Nano нужно включить экспериментальные флаги Chrome Canary.
В подборках
Темы
Частые вопросы
- Что такое llm-x?
- Веб-интерфейс чата для локальных LLM-серверов, таких как Ollama, LM Studio и AUTOMATIC1111; доступен как веб-приложение, PWA и расширение Chrome. LLM X — интерфейс в стиле ChatGPT для запуска языковых и графических моделей на собственном компьютере. Он подключается к локальным серверам, таким как Ollama, llmman, LM Studio и AUTOMATIC1111, а также к любому серверу с поддержкой OpenAI API; кроме того, через Chrome можно использовать Gemini Nano. Переписки, изображения и результаты генерации хранятся в браузере, а само приложение не обращается к внешним API.
- llm-x можно использовать бесплатно? Какая у него лицензия?
- llm-x распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- llm-x всё ещё поддерживается?
- Обновлялся за последние 6 месяцев. Последний коммит в llm-x — 29 сент. 2026 г..
- Для чего можно использовать llm-x?
- Общение с моделями, запущенными на собственном ноутбуке или домашнем сервере, без отправки данных в облачный сервис. Сравнение ответов нескольких локальных моделей в одной переписке. Использование локальной модели компьютерного зрения для вопросов о загруженных изображениях. Использование встроенной в Chrome модели Gemini Nano через расширение браузера.
- Как установить llm-x?
- Установите Ollama с сайта ollama.com Запустите Ollama, разрешив origin LLM-X: OLLAMA_ORIGINS=https://mrdjohnson.github.io ollama serve Откройте веб-приложение LLM-X в браузере и начните общаться
- Где скачать llm-x?
- Исходный код и инструкции по установке — на GitHub: https://github.com/mrdjohnson/llm-x
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Лёгкий десктопный AI-чат-клиент на Tauri 2.0 и Next.js для работы с облачными API и локальными моделями вроде Ollama, который хранит данные локально.
Расширение для браузера с боковой панелью и веб-интерфейсом для общения с локальными AI-моделями, например Ollama, прямо во время просмотра сайтов.
Веб-интерфейс для чата с локальными LLM через Ollama; переписки хранятся в IndexedDB на вашем устройстве.
Cherry Studio — кроссплатформенный десктопный AI-клиент для работы со множеством LLM-провайдеров, локальными моделями и более чем 300 готовыми ассистентами.
Веб-интерфейс для запуска и использования локальных и облачных LLM на собственном сервере: поддерживает разные бэкенды, генерацию изображений и музыки, а также маршрутизацию промптов.