最先端のテキスト、画像、音声、マルチモーダル機械学習モデルの定義、推論、学習に対応するフレームワーク。
shibing624/pycorrector
KenLMからQwenベースのLLMまで、綴り・発音・字形・文法の誤りを修正する中国語テキスト向けPythonツールキット。
- スター
- 6,534
- フォーク
- 1,165
- 未解決の Issue
- 25
- 最終コミット
- 3 か月前
これは何?
pycorrectorは、中国語テキストの誤りを修正するPythonツールキットです。発音や字形が似た文字の誤り、文法ミスに対応し、新しいLLMベースのモデルでは余分な文字や欠落した文字、語順の誤りも処理できます。数行のコードで既成のcorrectorを呼び出すことも、付属のコマンドラインツールでファイルを一括処理することもできます。
複数の手法を共通のインターフェースで利用できます。KenLMのn-gram言語モデルと混同セットを組み合わせた手法、MacBERTベースおよびT5ベースのseq2seq corrector、PaddlePaddle上のERNIE-CSCモデル、ChatGLM3、Qwen2.5、Qwen3を基盤とするGPTスタイルのcorrectorが含まれます。各手法には学習・予測用スクリプトを備えた専用のサンプルディレクトリがあり、比較用にSIGHAN-2015、EC-LAW、MCSCで文単位のF1スコアを報告しています。
このツールキットには、英語のスペルチェッカー、繁体字から簡体字への変換、既知の用語を許可リストに追加したり登録したりするためのカスタム混同セット、Gradioデモも含まれます。モデルは初回利用時にHugging Faceからダウンロードされます。
主な機能
- 01混同セットと組み合わせたKenLMのn-gramモデルによる中国語のスペルミス修正。
- 02MacBERT4CSC、T5、ERNIE-CSC、ChatGLM/Qwenベースのcorrectorを共通インターフェースで利用可能。
- 03誤りの位置を検出し、文字単位または単語単位で出力。
- 04カスタム混同セットと言語モデルを読み込み可能。
- 05コマンドラインからの一括修正と英語スペルチェッカー。
ユースケース
- 検索クエリやチャットメッセージなど、中国語のユーザー入力に含まれる誤字の修正。
- 発音や字形に由来する誤りを含む音声認識・OCRの出力の校正。
- 共通のテストセットを使った中国語修正モデルの比較。
- ドメイン固有の誤りデータセットを使った修正モデルのfine-tuning。
クイックスタート
- 1
PyPIからパッケージをインストールする
pip install -U pycorrector - 2
Pythonでkenlmの訂正例を実行する
使う前に知っておきたいこと
- kenlmのデフォルトの言語モデルファイルは約2.8 GBあり、メモリの少ないマシンでは負荷になる場合があります。
- Qwenなど、より高性能なLLMベースのモデルを実用的な速度で動かすにはGPUが必要です。
トピック
よくある質問
- pycorrector とは?
- KenLMからQwenベースのLLMまで、綴り・発音・字形・文法の誤りを修正する中国語テキスト向けPythonツールキット。 pycorrectorは、中国語テキストの誤りを修正するPythonツールキットです。発音や字形が似た文字の誤り、文法ミスに対応し、新しいLLMベースのモデルでは余分な文字や欠落した文字、語順の誤りも処理できます。数行のコードで既成のcorrectorを呼び出すことも、付属のコマンドラインツールでファイルを一括処理することもできます。
- pycorrector は無料で使えますか?ライセンスは?
- pycorrector は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- pycorrector は今もメンテナンスされていますか?
- 半年以内に更新あり。pycorrector の最終コミットは 2026年7月25日 です。
- pycorrector は何に使えますか?
- 検索クエリやチャットメッセージなど、中国語のユーザー入力に含まれる誤字の修正。 発音や字形に由来する誤りを含む音声認識・OCRの出力の校正。 共通のテストセットを使った中国語修正モデルの比較。 ドメイン固有の誤りデータセットを使った修正モデルのfine-tuning。
- pycorrector のインストール方法は?
- PyPIからパッケージをインストールする: pip install -U pycorrector Pythonでkenlmの訂正例を実行する
- pycorrector はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/shibing624/pycorrector
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
量子化なしで、レイヤー単位に大規模言語モデルを実行し、70Bクラスのモデルを4GB GPU 1枚で推論できるPythonライブラリ。
センチメント分析、予測、金融NLPベンチマークなどの金融タスク向けにファインチューニングされた、オープンソースの大規模言語モデル。
OpenAIのモデル向けに設計された高速なBPEトークナイザーで、テキストをトークンに変換し、元に戻せます。
BAAIが提供する検索ツールキット。BGE埋め込み・再ランキングモデルに加え、検索やRAG向けの学習、評価、チュートリアルを備えています。
Microsoft製のPythonライブラリ。重要度の低いトークンを取り除き、性能をほぼ維持しながらLLMのプロンプトとKV cacheを最大20倍圧縮します。