PDF、Office文書、HTMLなどを構造化データに変換し、生成AIのパイプラインで活用できるオープンソースのドキュメントパーサー。
opendataloader-project/opendataloader-pdf
PDFをMarkdown、バウンディングボックス付きJSON、HTMLに変換し、AIパイプラインで活用できるオープンソースPDFパーサー。タグなしPDFの自動タグ付けにも対応。
代替できる製品:Adobe Acrobat
- スター
- 29,752
- フォーク
- 2,825
- 未解決の Issue
- 90
- 最終コミット
- 14 時間前
これは何?
OpenDataLoader PDFは、PDFファイルから読み順に沿ったテキスト、見出し、リスト、表、画像、数式などの構造化コンテンツを抽出し、Markdown、各要素のバウンディングボックス付きJSON、HTML、または注釈付きPDFとして出力します。RAGやLLMのパイプラインにドキュメントを取り込むことを想定しています。デフォルトのローカルモードでは、GPUを使わずJavaコアで決定論的に処理します。オプションのハイブリッドモードでは、罫線のない表やスキャンページなどの複雑なページを、OCR対応のAIバックエンドに振り分けます。
PDFのアクセシビリティにも対応しています。レイアウト解析によってタグなしPDFを自動的にTagged PDFにでき、PDF/UA準拠に向けた最初のステップとなります。PDF/UA-1およびPDF/UA-2へのエクスポートとビジュアルアクセシビリティエディターは、エンタープライズ向けアドオンとして提供されています。Python、Node.js、Java向けの公式SDKがあり、LangChain用のドキュメントローダーも利用できます。
主な機能
- 01複数段組みを含め、正しい読み順でテキストを抽出します。
- 02Markdown、バウンディングボックス付きJSON、HTML、注釈付きPDFを出力します。
- 03デフォルトモードではGPUを使わず、CPU上でローカル実行できます。
- 04ハイブリッドモードでは、複雑なページに対する表の処理、OCR、数式処理、画像の説明生成に対応します。
- 05Apache 2.0ライセンスのもと、タグなしPDFを自動的にTagged PDFにします。
- 06プロンプトインジェクションフィルターと、任意で有効化できる機密データのサニタイズ機能を提供します。
ユースケース
- RAGシステム向けに、出典の座標情報付きチャンクとしてPDF文書を準備する。
- 研究論文やレポートをMarkdownに変換し、LLMのコンテキストウィンドウに取り込む。
- 既存のPDFアーカイブに一括でタグを付け、スクリーンリーダーでのアクセシビリティを高める。
- 科学論文のPDFから表や数式を構造化JSONとして抽出する。
クイックスタート
- 1
Java 11以降がインストールされていることを確認します(java -version)
java -version - 2
Pythonパッケージをインストールします
pip install -U opendataloader-pdf - 3
PythonでPDFをMarkdownとJSONに変換します
python -c "import opendataloader_pdf; opendataloader_pdf.convert(input_path=['file1.pdf'], output_dir='output/', format='markdown,json')"
使う前に知っておきたいこと
- 各変換でJVMプロセスを起動するため、Java 11以降がインストールされている必要があります。
- Word、Excel、PowerPointファイルには対応していません。
- 複雑な表、OCR、数式を扱うには、別のバックエンドサーバーを使用するハイブリッドモードが必要です。
- PDF/UAへのエクスポートはエンタープライズ向けアドオンであり、Apache-2.0のコアには含まれません。
トピック
よくある質問
- opendataloader-pdf とは?
- PDFをMarkdown、バウンディングボックス付きJSON、HTMLに変換し、AIパイプラインで活用できるオープンソースPDFパーサー。タグなしPDFの自動タグ付けにも対応。 OpenDataLoader PDFは、PDFファイルから読み順に沿ったテキスト、見出し、リスト、表、画像、数式などの構造化コンテンツを抽出し、Markdown、各要素のバウンディングボックス付きJSON、HTML、または注釈付きPDFとして出力します。RAGやLLMのパイプラインにドキュメントを取り込むことを想定しています。デフォルトのローカルモードでは、GPUを使わずJavaコアで決定論的に処理します。オプションのハイブリッドモードでは、罫線のない表やスキャンページなどの複雑なページを、OCR対応のAIバックエンドに振り分けます。
- opendataloader-pdf は無料で使えますか?ライセンスは?
- opendataloader-pdf は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- opendataloader-pdf は今もメンテナンスされていますか?
- 活発にメンテナンス中。opendataloader-pdf の最終コミットは 2026年10月20日 です。
- opendataloader-pdf は何に使えますか?
- RAGシステム向けに、出典の座標情報付きチャンクとしてPDF文書を準備する。 研究論文やレポートをMarkdownに変換し、LLMのコンテキストウィンドウに取り込む。 既存のPDFアーカイブに一括でタグを付け、スクリーンリーダーでのアクセシビリティを高める。 科学論文のPDFから表や数式を構造化JSONとして抽出する。
- opendataloader-pdf のインストール方法は?
- Java 11以降がインストールされていることを確認します(java -version): java -version Pythonパッケージをインストールします: pip install -U opendataloader-pdf PythonでPDFをMarkdownとJSONに変換します: python -c "import opendataloader_pdf; opendataloader_pdf.convert(input_path=['file1.pdf'], output_dir='output/', format='markdown,json')"
- opendataloader-pdf はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/opendataloader-project/opendataloader-pdf
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
PDF、Officeファイル、画像をLLMやエージェントのワークフロー向けにMarkdownまたはJSONへ変換するオープンソースの文書パーサー。
PDFなどのドキュメントをMarkdown、JSON、チャンク、HTMLに変換し、オプションでLLMを使って精度を高められます。
バウンディングボックス付きテキスト抽出、TesseractまたはHTTP OCR、複数形式の出力に対応する高速なRust製ローカル文書パーサー。
エアギャップ環境で使えるオープンソースのデスクトップアプリ。NotebookLMのように、ローカル文書を調査・変換・編集するAIエージェントです。
生の文書を相互リンク付きのLLM管理Markdown Wikiに変換するCLI・Webワークベンチ。長いファイルにはPageIndexのツリー検索を利用します。