Repolode
explosion

explosion/spacy-transformers

Компоненты и архитектуры spaCy для интеграции в пайплайны spaCy моделей-трансформеров Hugging Face, таких как BERT, RoBERTa и XLNet.

Звёзды
1,411
Форки
177
Открытые issues
3
Последний коммит
4 дня назад

Что это?

spacy-transformers предоставляет компоненты и архитектуры моделей spaCy, которые позволяют использовать модели-трансформеры из библиотеки transformers от Hugging Face в spaCy. После установки пайплайн может работать с предварительно обученными моделями, такими как BERT, RoBERTa, XLNet и GPT-2, вместо того чтобы обучать каждый компонент с нуля.

Пакет сопоставляет выходные данные трансформера с токенизацией spaCy, чтобы нижестоящие компоненты, например NER или классификатор текста, получали признаки на уровне токенов. Один трансформер может передавать данные нескольким компонентам пайплайна, а градиенты от этих компонентов — обновлять общую модель во время обучения. Для обучения используется система конфигурации spaCy v3; также можно указать, какие данные трансформера сохранять в объекте Doc и на фрагменты какой длины разбивать документы при обработке.

Для текущего релиза требуются spaCy v3, PyTorch 1.5 или новее и Python 3.6 или новее. Этот компонент не предоставляет специализированные для задач головы, например для классификации токенов или текста; для этого проект предлагает отдельный пакет spacy-huggingface-pipelines.

Ключевые возможности

  • 01Использует предварительно обученные трансформеры, например BERT, RoBERTa и XLNet, в пайплайне spaCy.
  • 02Позволяет нескольким компонентам пайплайна использовать один трансформер для обучения с несколькими задачами.
  • 03Автоматически сопоставляет выходные данные трансформера с токенизацией spaCy.
  • 04Позволяет настраивать, какие данные трансформера сохранять в объекте Doc.
  • 05Поддерживает обучение через систему конфигурации spaCy v3, а также сериализацию и упаковку моделей.

Сценарии использования

  • Обучение NER-модели или классификатора текста в spaCy с признаками трансформера для повышения точности.
  • Использование одной базовой модели-трансформера несколькими компонентами spaCy в одном пайплайне.
  • Упаковка собственной модели spaCy на основе трансформера для развёртывания.

Быстрый старт

  1. 1

    Установите пакет с помощью pip — вместе с ним установятся spaCy и PyTorch

    pip install 'spacy[transformers]'
  2. 2

    Чтобы использовать GPU, проверьте версию CUDA с помощью nvcc и добавьте соответствующую опцию в квадратных скобках (см. документацию spaCy по GPU)

  3. 3

    Если установить PyTorch не удаётся, следуйте официальным инструкциям PyTorch для вашей системы

Что важно знать

  • Требуются spaCy v3, Python 3.6 или новее и PyTorch v1.5 или новее.
  • Компонент transformer не предоставляет специализированные для классификации task heads.

В подборках

Темы

Частые вопросы

Что такое spacy-transformers?
Компоненты и архитектуры spaCy для интеграции в пайплайны spaCy моделей-трансформеров Hugging Face, таких как BERT, RoBERTa и XLNet. spacy-transformers предоставляет компоненты и архитектуры моделей spaCy, которые позволяют использовать модели-трансформеры из библиотеки transformers от Hugging Face в spaCy. После установки пайплайн может работать с предварительно обученными моделями, такими как BERT, RoBERTa, XLNet и GPT-2, вместо того чтобы обучать каждый компонент с нуля.
spacy-transformers можно использовать бесплатно? Какая у него лицензия?
spacy-transformers распространяется с открытым исходным кодом под лицензией MIT. Перед использованием в коммерческих продуктах проверьте условия лицензии.
spacy-transformers всё ещё поддерживается?
Активно поддерживается. Последний коммит в spacy-transformers — 3 нояб. 2026 г..
Для чего можно использовать spacy-transformers?
Обучение NER-модели или классификатора текста в spaCy с признаками трансформера для повышения точности. Использование одной базовой модели-трансформера несколькими компонентами spaCy в одном пайплайне. Упаковка собственной модели spaCy на основе трансформера для развёртывания.
Как установить spacy-transformers?
Установите пакет с помощью pip — вместе с ним установятся spaCy и PyTorch: pip install 'spacy[transformers]' Чтобы использовать GPU, проверьте версию CUDA с помощью nvcc и добавьте соответствующую опцию в квадратных скобках (см. документацию spaCy по GPU) Если установить PyTorch не удаётся, следуйте официальным инструкциям PyTorch для вашей системы
Где скачать spacy-transformers?
Исходный код и инструкции по установке — на GitHub: https://github.com/explosion/spacy-transformers

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Открытый детектор галлюцинаций на уровне фрагментов: находит в ответах RAG, кодовых агентов и ИИ на основе инструментов части без подтверждения в источниках.

ИИ и машинное обучение#hallucination-detection#rag#nlp
62064PythonMITОбновлён вчера

Python-библиотека для классификации текстов, которая на лету обучается на новых примерах и классах, калибрует уверенность и выявляет выход за пределы распределения.

578+1 за неделю43PythonApache-2.0Активно поддерживаетсяОбновлён 5 дней назад