Чат-приложение в браузере, которое запускает open-source LLM локально на GPU через WebGPU, поэтому переписка остаётся на вашем устройстве.
midudev/runonweb.ai
Открытые AI-модули для браузера: распознавание речи, удаление фона, эмбеддинги, перевод и синтез речи на устройстве через WebGPU или WASM; есть npm-пакет.
- Звёзды
- 776
- Форки
- 76
- Открытые issues
- 0
- Последний коммит
- 14 дней назад
Что это?
runonweb.ai — набор открытых AI-модулей, которые работают прямо в браузере, и npm-пакет `runonweb`, предоставляющий к ним доступ. Для каждой задачи предусмотрен отдельный путь импорта: например, для преобразования речи в текст, удаления фона, создания подписей к изображениям, оценки глубины, обнаружения объектов, создания текстовых эмбеддингов, классификации, перевода, предсказания эмодзи и синтеза речи.
Модули используют WebGPU, если браузер его поддерживает, а в противном случае переключаются на WASM. Вычисления выполняются на устройстве пользователя. Каждый модуль создан на основе открытой модели с разрешительной лицензией, а на страницах демо указаны базовая модель, её автор и лицензия.
Репозиторий организован как монорепозиторий: сайт на Astro находится в `packages/web` и развёртывается на Cloudflare Workers, а библиотека — в `packages/runonweb`. В проекте также описаны обнаруженные при тестировании особенности бэкендов: например, какие форматы квантования не работают с WebGPU и для каких моделей принудительно используется WASM.
Ключевые возможности
- 01Отдельные импорты для преобразования речи в текст, удаления фона, создания подписей к изображениям, оценки глубины, обнаружения объектов, эмбеддингов, классификации, перевода, работы с эмодзи и TTS.
- 02Использует WebGPU, если он доступен, и переключается на WASM в противном случае.
- 03Вычисления выполняются локально в браузере, поэтому входные данные не отправляются на сервер.
- 04Каждый модуль создан на основе открытой модели с лицензией Apache-2.0 или MIT.
- 05Включает функцию для проверки доступности WebGPU и функцию косинусного сходства для эмбеддингов.
Сценарии использования
- Добавление в веб-приложение распознавания речи или синтеза речи прямо в браузере без серверного API.
- Удаление фона изображений на устройстве пользователя для фотографий, требующих повышенной конфиденциальности.
- Семантический поиск или проверка сходства текстов полностью в браузере.
- Создание прототипов AI-функций, работающих на устройстве, и сравнение производительности WebGPU и WASM.
Быстрый старт
- 1
Установите зависимости с помощью pnpm
pnpm install - 2
Запустите локальный сервер разработки
pnpm dev
Что важно знать
- В метаданных проекта не указана лицензия, поэтому условия повторного использования кода неясны.
- Некоторые модули работают только на WASM, который медленнее WebGPU.
- Лицензия LFM модели субтитров бесплатна только при выручке менее 10 млн долларов США.
- Загрузка большой модели классификации занимает около 2,7 ГБ.
В подборках
Темы
Частые вопросы
- Что такое runonweb.ai?
- Открытые AI-модули для браузера: распознавание речи, удаление фона, эмбеддинги, перевод и синтез речи на устройстве через WebGPU или WASM; есть npm-пакет. runonweb.ai — набор открытых AI-модулей, которые работают прямо в браузере, и npm-пакет `runonweb`, предоставляющий к ним доступ. Для каждой задачи предусмотрен отдельный путь импорта: например, для преобразования речи в текст, удаления фона, создания подписей к изображениям, оценки глубины, обнаружения объектов, создания текстовых эмбеддингов, классификации, перевода, предсказания эмодзи и синтеза речи.
- runonweb.ai можно использовать бесплатно? Какая у него лицензия?
- У runonweb.ai не указана лицензия. Код открыт, но без лицензии нет явного разрешения на его использование — уточните у автора, прежде чем на него полагаться.
- runonweb.ai всё ещё поддерживается?
- Активно поддерживается. Последний коммит в runonweb.ai — 24 окт. 2026 г..
- Для чего можно использовать runonweb.ai?
- Добавление в веб-приложение распознавания речи или синтеза речи прямо в браузере без серверного API. Удаление фона изображений на устройстве пользователя для фотографий, требующих повышенной конфиденциальности. Семантический поиск или проверка сходства текстов полностью в браузере. Создание прототипов AI-функций, работающих на устройстве, и сравнение производительности WebGPU и WASM.
- Как установить runonweb.ai?
- Установите зависимости с помощью pnpm: pnpm install Запустите локальный сервер разработки: pnpm dev
- Где скачать runonweb.ai?
- Исходный код и инструкции по установке — на GitHub: https://github.com/midudev/runonweb.ai
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Запускайте модели Hugging Face Transformers прямо в браузере или JavaScript-среде без сервера — с помощью ONNX Runtime.
Open-source инструмент для удаления фона, который полностью работает в браузере через WebGPU или WebAssembly и не загружает изображения на сервер.
Бесплатный браузерный AI-апскейлер изображений, который запускает модели локально, поэтому загруженные изображения не покидают ваше устройство.
Офлайн-инструментарий для работы с речью на базе onnxruntime: распознавание речи, синтез речи, VAD, диаризация и другие задачи на разных платформах и языках.
Сервер инференса на чистом Rust в виде одного бинарного файла: запускает модели GGUF на любых GPU через WebGPU и предоставляет API, совместимый с OpenAI.