Repolode
Предложить
krisyangdev

krisyangdev/ChatLLM-Web

Локальное AI-пространство для чатов и агентов в браузере: запускает модели WebLLM на устройстве через WebGPU, без бэкенда и учётной записи.

Open source альтернатива:ChatGPT

Открыть на GitHubСайт
Звёзды
640
Форки
48
Открытые issues
4
Последний коммит
3 месяца назад

Что это?

ChatLLM Web — статическое веб-приложение для общения с большими языковыми моделями, которые работают прямо в браузере. Оно использует WebLLM в отдельном Web Worker для запуска моделей на локальном GPU через WebGPU. Приложение проверяет поддержку WebGPU, объём памяти и хранилища на устройстве, затем рекомендует модель и показывает статус её загрузки, запуска, кэширования и совместимости.

Помимо чата, есть режим Agent: модели с нативной поддержкой вызова функций (например, Hermes 2 Pro и Hermes 3) могут использовать изолированные локальные инструменты для чтения и поиска по прикреплённым файлам, выполнения арифметических операций, а также создания и изменения артефактов в форматах Markdown, code, JSON или text. Перед сохранением в IndexedDB каждое изменение артефакта показывается в виде построчного diff и требует подтверждения. Диалоги, файлы и артефакты остаются в браузере. Приложение можно установить как PWA, чтобы после первой загрузки использовать кэшированные модели офлайн.

Проект развёрнут на Cloudflare Pages и не использует бэкенд приложения, учётные записи, API-ключи или телеметрию. Веса моделей загружаются напрямую с Hugging Face или по URL библиотеки WebLLM. Поддерживаются интерфейсы на английском и упрощённом китайском языках, а также светлая и тёмная темы.

Ключевые возможности

  • 01Запускает модели WebLLM на локальном GPU через WebGPU в отдельном worker.
  • 02Предлагает тщательно подобранный набор из 20 моделей для чатов, программирования, рассуждений, работы с изображениями и вызова инструментов, а также расширенный каталог.
  • 03Режим Agent с изолированными локальными инструментами для чтения выбранных файлов, поиска и вычислений.
  • 04Перед записью любого артефакта в IndexedDB требуется подтвердить diff.
  • 05Позволяет прикреплять TXT, Markdown, JSON и распространённые файлы с кодом как контекст.
  • 06Устанавливается как PWA и повторно использует кэшированные модели после первой загрузки.

Сценарии использования

  • Общение с LLM без отправки запросов в облачный API и с сохранением приватности.
  • Запуск небольших открытых моделей на ноутбуке с поддерживаемыми GPU и браузером.
  • Получение ответов по локальным файлам с кодом или текстом без их загрузки.
  • Эксперименты с локальными агентами, вызывающими инструменты и работающими только с выбранными файлами.

Быстрый старт

  1. 1

    Установить зависимости

    npm install
  2. 2

    Запустить сервер разработки

    npm run dev

Что важно знать

  • Требуется актуальный браузер с поддержкой WebGPU и устройство с достаточным объемом памяти GPU.
  • Три модели Agent помечены как экспериментальные, а каталог Advanced предназначен для опытных пользователей.

В подборках

Open source фреймворки и приложения для ИИ-агентовЗапуск LLM локально

Темы

#local-ai#webgpu#webllm#llm#browser-ai#pwa#react#ai-agents#cloudflare-pages#llama

Частые вопросы

Что такое ChatLLM-Web?
Локальное AI-пространство для чатов и агентов в браузере: запускает модели WebLLM на устройстве через WebGPU, без бэкенда и учётной записи. ChatLLM Web — статическое веб-приложение для общения с большими языковыми моделями, которые работают прямо в браузере. Оно использует WebLLM в отдельном Web Worker для запуска моделей на локальном GPU через WebGPU. Приложение проверяет поддержку WebGPU, объём памяти и хранилища на устройстве, затем рекомендует модель и показывает статус её загрузки, запуска, кэширования и совместимости.
ChatLLM-Web можно использовать бесплатно? Какая у него лицензия?
ChatLLM-Web распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
ChatLLM-Web всё ещё поддерживается?
Обновлялся за последние 6 месяцев. Последний коммит в ChatLLM-Web — 12 авг. 2026 г..
Для чего можно использовать ChatLLM-Web?
Общение с LLM без отправки запросов в облачный API и с сохранением приватности. Запуск небольших открытых моделей на ноутбуке с поддерживаемыми GPU и браузером. Получение ответов по локальным файлам с кодом или текстом без их загрузки. Эксперименты с локальными агентами, вызывающими инструменты и работающими только с выбранными файлами.
Как установить ChatLLM-Web?
Установить зависимости: npm install Запустить сервер разработки: npm run dev
Где скачать ChatLLM-Web?
Исходный код и инструкции по установке — на GitHub: https://github.com/krisyangdev/ChatLLM-Web

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

MartinDelophy / ai-video-editor

Локальный браузерный видеоредактор с открытым исходным кодом: многодорожечный таймлайн, AI-озвучка, музыка, субтитры и восстановление видео прямо в браузере.

Продуктивность и приложения#video-editor#webgpu#webcodecs
949+23 за неделю126JavaScriptMITАктивно поддерживаетсяОбновлён 8 часов назад

Mintplex-Labs / anything-llm

Универсальное AI-приложение для общения с документами и запуска AI-агентов: локальная работа, поддержка нескольких пользователей и множество LLM-провайдеров.

ИИ и машинное обучение#ai-agents#rag#llm
68 тыс.+248 за неделю7,7 тыс.JavaScriptMITАктивно поддерживаетсяОбновлён 20 часов назад