Repolode
shibing624

shibing624/pycorrector

Инструментарий на Python для исправления ошибок в китайском тексте: от орфографии, фонетических и графических опечаток до грамматики, с моделями от KenLM до LLM на базе Qwen.

Звёзды
6,534
Форки
1,165
Открытые issues
25
Последний коммит
3 месяца назад

Что это?

pycorrector — это инструментарий на Python для исправления ошибок в китайском тексте. Он исправляет фонетически и графически похожие ошибки, а также грамматические ошибки; более новые модели на базе LLM умеют обрабатывать лишние или пропущенные символы и нарушения порядка слов. Готовый корректор можно вызвать несколькими строками кода или запустить встроенную CLI-утилиту для пакетной обработки файлов.

В проекте за единым интерфейсом объединены несколько подходов: языковая n-граммная модель KenLM в сочетании с наборами путаницы, корректоры seq2seq на базе MacBERT и T5, модель ERNIE-CSC на PaddlePaddle и корректоры в стиле GPT на базе ChatGLM3, Qwen2.5 и Qwen3. Для каждого метода есть отдельный каталог с примерами и скриптами обучения и предсказания. Для сравнения приводятся значения F1 на уровне предложений для наборов данных SIGHAN-2015, EC-LAW и MCSC.

Инструментарий также включает корректор английской орфографии, преобразование традиционного китайского письма в упрощённое, пользовательские наборы путаницы для внесения известных терминов в белый список или их добавления, а также демо на Gradio. При первом использовании модели скачиваются с Hugging Face.

Ключевые возможности

  • 01N-граммная модель KenLM с наборами путаницы для исправления орфографических ошибок в китайском тексте.
  • 02Корректоры MacBERT4CSC, T5, ERNIE-CSC и на базе ChatGLM/Qwen с единым интерфейсом.
  • 03Определение позиций ошибок с выводом на уровне символов или слов.
  • 04Возможность загружать пользовательские наборы путаницы и языковые модели.
  • 05Пакетная коррекция из командной строки и корректор английской орфографии.

Сценарии использования

  • Исправление опечаток во вводимом пользователями китайском тексте, например в поисковых запросах и сообщениях чата.
  • Вычитка результатов распознавания речи или OCR с фонетическими или графическими ошибками.
  • Сравнение разных моделей коррекции китайского текста на общем тестовом наборе.
  • Дообучение модели коррекции на доменном наборе данных с ошибками.

Быстрый старт

  1. 1

    Установите пакет из PyPI

    pip install -U pycorrector
  2. 2

    Запустите пример исправления kenlm на Python

Что важно знать

  • Файл языковой модели kenlm по умолчанию занимает около 2,8 ГБ, что может быть слишком много для компьютеров с небольшим объёмом памяти.
  • Для практической скорости работы более мощных моделей на основе LLM, таких как Qwen, требуется GPU.

Темы

Частые вопросы

Что такое pycorrector?
Инструментарий на Python для исправления ошибок в китайском тексте: от орфографии, фонетических и графических опечаток до грамматики, с моделями от KenLM до LLM на базе Qwen. pycorrector — это инструментарий на Python для исправления ошибок в китайском тексте. Он исправляет фонетически и графически похожие ошибки, а также грамматические ошибки; более новые модели на базе LLM умеют обрабатывать лишние или пропущенные символы и нарушения порядка слов. Готовый корректор можно вызвать несколькими строками кода или запустить встроенную CLI-утилиту для пакетной обработки файлов.
pycorrector можно использовать бесплатно? Какая у него лицензия?
pycorrector распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
pycorrector всё ещё поддерживается?
Обновлялся за последние 6 месяцев. Последний коммит в pycorrector — 25 июл. 2026 г..
Для чего можно использовать pycorrector?
Исправление опечаток во вводимом пользователями китайском тексте, например в поисковых запросах и сообщениях чата. Вычитка результатов распознавания речи или OCR с фонетическими или графическими ошибками. Сравнение разных моделей коррекции китайского текста на общем тестовом наборе. Дообучение модели коррекции на доменном наборе данных с ошибками.
Как установить pycorrector?
Установите пакет из PyPI: pip install -U pycorrector Запустите пример исправления kenlm на Python
Где скачать pycorrector?
Исходный код и инструкции по установке — на GitHub: https://github.com/shibing624/pycorrector

Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.

Похожие проекты

Открытые большие языковые модели, дообученные для финансовых задач: анализа тональности, прогнозирования и тестов по финансовой обработке естественного языка.

21,4 тыс.3 тыс.Jupyter NotebookMITОбновлён 29 дней назад