Фреймворк с определениями современных моделей машинного обучения для текста, изображений, аудио и мультимодальных задач — для обучения и инференса.
shibing624/pycorrector
Инструментарий на Python для исправления ошибок в китайском тексте: от орфографии, фонетических и графических опечаток до грамматики, с моделями от KenLM до LLM на базе Qwen.
- Звёзды
- 6,534
- Форки
- 1,165
- Открытые issues
- 25
- Последний коммит
- 3 месяца назад
Что это?
pycorrector — это инструментарий на Python для исправления ошибок в китайском тексте. Он исправляет фонетически и графически похожие ошибки, а также грамматические ошибки; более новые модели на базе LLM умеют обрабатывать лишние или пропущенные символы и нарушения порядка слов. Готовый корректор можно вызвать несколькими строками кода или запустить встроенную CLI-утилиту для пакетной обработки файлов.
В проекте за единым интерфейсом объединены несколько подходов: языковая n-граммная модель KenLM в сочетании с наборами путаницы, корректоры seq2seq на базе MacBERT и T5, модель ERNIE-CSC на PaddlePaddle и корректоры в стиле GPT на базе ChatGLM3, Qwen2.5 и Qwen3. Для каждого метода есть отдельный каталог с примерами и скриптами обучения и предсказания. Для сравнения приводятся значения F1 на уровне предложений для наборов данных SIGHAN-2015, EC-LAW и MCSC.
Инструментарий также включает корректор английской орфографии, преобразование традиционного китайского письма в упрощённое, пользовательские наборы путаницы для внесения известных терминов в белый список или их добавления, а также демо на Gradio. При первом использовании модели скачиваются с Hugging Face.
Ключевые возможности
- 01N-граммная модель KenLM с наборами путаницы для исправления орфографических ошибок в китайском тексте.
- 02Корректоры MacBERT4CSC, T5, ERNIE-CSC и на базе ChatGLM/Qwen с единым интерфейсом.
- 03Определение позиций ошибок с выводом на уровне символов или слов.
- 04Возможность загружать пользовательские наборы путаницы и языковые модели.
- 05Пакетная коррекция из командной строки и корректор английской орфографии.
Сценарии использования
- Исправление опечаток во вводимом пользователями китайском тексте, например в поисковых запросах и сообщениях чата.
- Вычитка результатов распознавания речи или OCR с фонетическими или графическими ошибками.
- Сравнение разных моделей коррекции китайского текста на общем тестовом наборе.
- Дообучение модели коррекции на доменном наборе данных с ошибками.
Быстрый старт
- 1
Установите пакет из PyPI
pip install -U pycorrector - 2
Запустите пример исправления kenlm на Python
Что важно знать
- Файл языковой модели kenlm по умолчанию занимает около 2,8 ГБ, что может быть слишком много для компьютеров с небольшим объёмом памяти.
- Для практической скорости работы более мощных моделей на основе LLM, таких как Qwen, требуется GPU.
Темы
Частые вопросы
- Что такое pycorrector?
- Инструментарий на Python для исправления ошибок в китайском тексте: от орфографии, фонетических и графических опечаток до грамматики, с моделями от KenLM до LLM на базе Qwen. pycorrector — это инструментарий на Python для исправления ошибок в китайском тексте. Он исправляет фонетически и графически похожие ошибки, а также грамматические ошибки; более новые модели на базе LLM умеют обрабатывать лишние или пропущенные символы и нарушения порядка слов. Готовый корректор можно вызвать несколькими строками кода или запустить встроенную CLI-утилиту для пакетной обработки файлов.
- pycorrector можно использовать бесплатно? Какая у него лицензия?
- pycorrector распространяется с открытым исходным кодом под лицензией Apache-2.0. Перед использованием в коммерческих продуктах проверьте условия лицензии.
- pycorrector всё ещё поддерживается?
- Обновлялся за последние 6 месяцев. Последний коммит в pycorrector — 25 июл. 2026 г..
- Для чего можно использовать pycorrector?
- Исправление опечаток во вводимом пользователями китайском тексте, например в поисковых запросах и сообщениях чата. Вычитка результатов распознавания речи или OCR с фонетическими или графическими ошибками. Сравнение разных моделей коррекции китайского текста на общем тестовом наборе. Дообучение модели коррекции на доменном наборе данных с ошибками.
- Как установить pycorrector?
- Установите пакет из PyPI: pip install -U pycorrector Запустите пример исправления kenlm на Python
- Где скачать pycorrector?
- Исходный код и инструкции по установке — на GitHub: https://github.com/shibing624/pycorrector
Описание создано ИИ на основе README проекта. Статистика GitHub обновляется ежедневно.
Похожие проекты
Библиотека Python, которая запускает большие языковые модели послойно и позволяет выполнять инференс моделей класса 70B на одной GPU с 4 ГБ памяти без квантования.
Открытые большие языковые модели, дообученные для финансовых задач: анализа тональности, прогнозирования и тестов по финансовой обработке естественного языка.
Быстрый BPE-токенизатор для моделей OpenAI: преобразует текст в токены и обратно без потерь.
Набор инструментов для поиска от BAAI: модели эмбеддингов и реранкеров BGE, а также средства обучения, оценки и руководства для поиска и RAG.
Библиотека Microsoft для Python сжимает промпты LLM и KV cache до 20 раз, удаляя несущественные токены и практически не теряя в качестве.