Repolode
Предложить
huggingface

huggingface/transformers.js

Запускайте модели Hugging Face Transformers прямо в браузере или JavaScript-среде без сервера — с помощью ONNX Runtime.

Открыть на GitHubСайт
Звёзды
16,359
Форки
1,206
Открытые issues
279
Последний коммит
24 часа назад

Что это?

Transformers.js — это JavaScript-библиотека для запуска предварительно обученных моделей Hugging Face Transformers в браузере. Её API на основе pipeline повторяет устройство Python-библиотеки transformers, поэтому код можно переносить с Python, сохраняя схожую структуру. Библиотека поддерживает задачи с текстом, изображениями, аудио и мультимодальными данными, включая классификацию, обнаружение объектов, распознавание речи, синтез речи и классификацию zero-shot.

Библиотека запускает модели с помощью ONNX Runtime: по умолчанию вычисления выполняются на CPU через WASM, а при необходимости можно задействовать GPU через WebGPU. Чтобы уменьшить размер модели и расход трафика, можно выбрать уровень квантования, например q8 или q4. Модели с Hugging Face Hub можно загружать по id, а модели PyTorch, TensorFlow и JAX — конвертировать в ONNX с помощью Optimum.

Библиотеку можно установить через npm или подключить с CDN с помощью импорта ES-модуля — сборщик не требуется. Можно настроить локальные пути к моделям и расположение файлов WASM.

Ключевые возможности

  • 01API на основе pipeline, повторяющий устройство Python-библиотеки transformers.
  • 02Поддержка задач NLP, компьютерного зрения, обработки аудио и мультимодальных данных.
  • 03По умолчанию работает на CPU через WASM; при необходимости можно использовать ускорение WebGPU.
  • 04Поддержка квантованных моделей, например q8 и q4, через параметр dtype.
  • 05Установка через npm или подключение напрямую с CDN без сборщика.

Сценарии использования

  • Добавление в веб-приложение анализа тональности или классификации на стороне клиента без бэкенда.
  • Запуск распознавания речи или синтеза речи в браузере для обработки конфиденциальных данных.
  • Вычисление текстовых эмбеддингов для семантического поиска на статическом сайте.
  • Прототипирование моделей Hugging Face на JavaScript перед развёртыванием на сервере.

Быстрый старт

  1. 1

    Установите пакет из NPM

    npm i @huggingface/transformers
  2. 2

    Импортируйте pipeline и запустите модель анализа тональности в коде JavaScript

Что важно знать

  • Во многих браузерах поддержка WebGPU всё ещё находится на экспериментальной стадии.
  • Модели должны быть в формате ONNX, поэтому модели PyTorch, TensorFlow или JAX необходимо предварительно преобразовать.

Темы

#machine-learning#javascript#browser#onnx#webgpu#transformers#nlp#inference#webml

Частые вопросы

Что такое transformers.js?
Запускайте модели Hugging Face Transformers прямо в браузере или JavaScript-среде без сервера — с помощью ONNX Runtime. Transformers.js — это JavaScript-библиотека для запуска предварительно обученных моделей Hugging Face Transformers в браузере. Её API на основе pipeline повторяет устройство Python-библиотеки transformers, поэтому код можно переносить с Python, сохраняя схожую структуру. Библиотека поддерживает задачи с текстом, изображениями, аудио и мультимодальными данными, включая классификацию, обнаружение объектов, распознавание речи, синтез речи и классификацию zero-shot.
transformers.js можно использовать бесплатно? Какая у него лицензия?
transformers.js распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
transformers.js всё ещё поддерживается?
Активно поддерживается. Последний коммит в transformers.js — 20 окт. 2026 г..
Для чего можно использовать transformers.js?
Добавление в веб-приложение анализа тональности или классификации на стороне клиента без бэкенда. Запуск распознавания речи или синтеза речи в браузере для обработки конфиденциальных данных. Вычисление текстовых эмбеддингов для семантического поиска на статическом сайте. Прототипирование моделей Hugging Face на JavaScript перед развёртыванием на сервере.
Как установить transformers.js?
Установите пакет из NPM: npm i @huggingface/transformers Импортируйте pipeline и запустите модель анализа тональности в коде JavaScript
Где скачать transformers.js?
Исходный код и инструкции по установке — на GitHub: https://github.com/huggingface/transformers.js

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты