Repolode
opendataloader-project

opendataloader-project/opendataloader-pdf

PDFをMarkdown、バウンディングボックス付きJSON、HTMLに変換し、AIパイプラインで活用できるオープンソースPDFパーサー。タグなしPDFの自動タグ付けにも対応。

代替できる製品:Adobe Acrobat

スター
29,752
フォーク
2,825
未解決の Issue
90
最終コミット
14 時間前

これは何?

OpenDataLoader PDFは、PDFファイルから読み順に沿ったテキスト、見出し、リスト、表、画像、数式などの構造化コンテンツを抽出し、Markdown、各要素のバウンディングボックス付きJSON、HTML、または注釈付きPDFとして出力します。RAGやLLMのパイプラインにドキュメントを取り込むことを想定しています。デフォルトのローカルモードでは、GPUを使わずJavaコアで決定論的に処理します。オプションのハイブリッドモードでは、罫線のない表やスキャンページなどの複雑なページを、OCR対応のAIバックエンドに振り分けます。

PDFのアクセシビリティにも対応しています。レイアウト解析によってタグなしPDFを自動的にTagged PDFにでき、PDF/UA準拠に向けた最初のステップとなります。PDF/UA-1およびPDF/UA-2へのエクスポートとビジュアルアクセシビリティエディターは、エンタープライズ向けアドオンとして提供されています。Python、Node.js、Java向けの公式SDKがあり、LangChain用のドキュメントローダーも利用できます。

主な機能

  • 01複数段組みを含め、正しい読み順でテキストを抽出します。
  • 02Markdown、バウンディングボックス付きJSON、HTML、注釈付きPDFを出力します。
  • 03デフォルトモードではGPUを使わず、CPU上でローカル実行できます。
  • 04ハイブリッドモードでは、複雑なページに対する表の処理、OCR、数式処理、画像の説明生成に対応します。
  • 05Apache 2.0ライセンスのもと、タグなしPDFを自動的にTagged PDFにします。
  • 06プロンプトインジェクションフィルターと、任意で有効化できる機密データのサニタイズ機能を提供します。

ユースケース

  • RAGシステム向けに、出典の座標情報付きチャンクとしてPDF文書を準備する。
  • 研究論文やレポートをMarkdownに変換し、LLMのコンテキストウィンドウに取り込む。
  • 既存のPDFアーカイブに一括でタグを付け、スクリーンリーダーでのアクセシビリティを高める。
  • 科学論文のPDFから表や数式を構造化JSONとして抽出する。

クイックスタート

  1. 1

    Java 11以降がインストールされていることを確認します(java -version)

    java -version
  2. 2

    Pythonパッケージをインストールします

    pip install -U opendataloader-pdf
  3. 3

    PythonでPDFをMarkdownとJSONに変換します

    python -c "import opendataloader_pdf; opendataloader_pdf.convert(input_path=['file1.pdf'], output_dir='output/', format='markdown,json')"

使う前に知っておきたいこと

  • 各変換でJVMプロセスを起動するため、Java 11以降がインストールされている必要があります。
  • Word、Excel、PowerPointファイルには対応していません。
  • 複雑な表、OCR、数式を扱うには、別のバックエンドサーバーを使用するハイブリッドモードが必要です。
  • PDF/UAへのエクスポートはエンタープライズ向けアドオンであり、Apache-2.0のコアには含まれません。

トピック

よくある質問

opendataloader-pdf とは?
PDFをMarkdown、バウンディングボックス付きJSON、HTMLに変換し、AIパイプラインで活用できるオープンソースPDFパーサー。タグなしPDFの自動タグ付けにも対応。 OpenDataLoader PDFは、PDFファイルから読み順に沿ったテキスト、見出し、リスト、表、画像、数式などの構造化コンテンツを抽出し、Markdown、各要素のバウンディングボックス付きJSON、HTML、または注釈付きPDFとして出力します。RAGやLLMのパイプラインにドキュメントを取り込むことを想定しています。デフォルトのローカルモードでは、GPUを使わずJavaコアで決定論的に処理します。オプションのハイブリッドモードでは、罫線のない表やスキャンページなどの複雑なページを、OCR対応のAIバックエンドに振り分けます。
opendataloader-pdf は無料で使えますか?ライセンスは?
opendataloader-pdf は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
opendataloader-pdf は今もメンテナンスされていますか?
活発にメンテナンス中。opendataloader-pdf の最終コミットは 2026年10月20日 です。
opendataloader-pdf は何に使えますか?
RAGシステム向けに、出典の座標情報付きチャンクとしてPDF文書を準備する。 研究論文やレポートをMarkdownに変換し、LLMのコンテキストウィンドウに取り込む。 既存のPDFアーカイブに一括でタグを付け、スクリーンリーダーでのアクセシビリティを高める。 科学論文のPDFから表や数式を構造化JSONとして抽出する。
opendataloader-pdf のインストール方法は?
Java 11以降がインストールされていることを確認します(java -version): java -version Pythonパッケージをインストールします: pip install -U opendataloader-pdf PythonでPDFをMarkdownとJSONに変換します: python -c "import opendataloader_pdf; opendataloader_pdf.convert(input_path=['file1.pdf'], output_dir='output/', format='markdown,json')"
opendataloader-pdf はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/opendataloader-project/opendataloader-pdf

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト