Repolode
aryn-ai

aryn-ai/sycamore

非構造化文書向けのETL、RAG、分析を実現するPythonフレームワーク。AIを活用して文書を分割・チャンク化し、ベクトル検索やハイブリッド検索のデータベースに読み込みます。

スター
605
フォーク
71
未解決の Issue
56
最終コミット
3 か月前

これは何?

Sycamoreは、PDF、レポート、プレゼンテーション、文字起こし、マニュアルなどの非構造化ファイルを、整ったチャンク化データに変換する文書処理エンジンです。埋め込みテーブル、図、インフォグラフィックを含む複雑なレイアウトを処理でき、データを保存する前にLLMベースのエンリッチメント、変換、クリーニングを適用できます。

処理はDocSetという抽象化を中心に構成されています。DocSetは関数型のPythonベースのパイプラインで、スケーラブルなRayバックエンド上で動作します。文書の分割にはホスト型のAryn DocParseサービスかローカルで実行するパーティショナーを利用でき、変換処理に使うLLMはユーザーが選択できます。

処理結果をOpenSearch、Elasticsearch、Pinecone、DuckDB、Qdrant、Weaviateなどのベクトル検索・ハイブリッド検索ストアに読み込むためのコネクターを、pip extrasとしてインストールできます。LinuxとmacOSに対応しています。

主な機能

  • 01レイアウト検出モデルを使い、テーブル、図、インフォグラフィックを含むPDFや画像を分割
  • 02スケーラブルで関数型の文書変換を実現するDocSet抽象化
  • 03抽出、エンリッチメント、クリーニングに使える、LLMを活用したユーザー定義関数
  • 04チャンクをOpenSearch、Elasticsearch、Pinecone、DuckDB、Qdrant、Weaviateに読み込み
  • 05Rayバックエンド上で処理をスケール

ユースケース

  • RAGアプリケーション向けにPDFのレポートやマニュアルを準備
  • OpenSearchで企業文書を対象とするハイブリッド検索インデックスを構築
  • LLMを使って文字起こしやプレゼンテーションから構造化フィールドを抽出
  • ベクトルデータベースへの読み込み前に、Jupyter notebookで文書ETLジョブを実行

クイックスタート

  1. 1

    pipでコアパッケージをインストールします

    pip install sycamore-ai
  2. 2

    必要に応じて、DuckDBなどのベクトルデータベースコネクタをインストールします

    pip install sycamore-ai[duckdb]
  3. 3

    Aryn DocParseの無料アカウントに登録して、APIキーを取得します

使う前に知っておきたいこと

  • READMEによると、LinuxとMac OSで動作します。
  • Aryn DocParseサービスを利用するには、登録してAPIキーを取得する必要があります。

トピック

よくある質問

sycamore とは?
非構造化文書向けのETL、RAG、分析を実現するPythonフレームワーク。AIを活用して文書を分割・チャンク化し、ベクトル検索やハイブリッド検索のデータベースに読み込みます。 Sycamoreは、PDF、レポート、プレゼンテーション、文字起こし、マニュアルなどの非構造化ファイルを、整ったチャンク化データに変換する文書処理エンジンです。埋め込みテーブル、図、インフォグラフィックを含む複雑なレイアウトを処理でき、データを保存する前にLLMベースのエンリッチメント、変換、クリーニングを適用できます。
sycamore は無料で使えますか?ライセンスは?
sycamore は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
sycamore は今もメンテナンスされていますか?
半年以内に更新あり。sycamore の最終コミットは 2026年8月1日 です。
sycamore は何に使えますか?
RAGアプリケーション向けにPDFのレポートやマニュアルを準備 OpenSearchで企業文書を対象とするハイブリッド検索インデックスを構築 LLMを使って文字起こしやプレゼンテーションから構造化フィールドを抽出 ベクトルデータベースへの読み込み前に、Jupyter notebookで文書ETLジョブを実行
sycamore のインストール方法は?
pipでコアパッケージをインストールします: pip install sycamore-ai 必要に応じて、DuckDBなどのベクトルデータベースコネクタをインストールします: pip install sycamore-ai[duckdb] Aryn DocParseの無料アカウントに登録して、APIキーを取得します
sycamore はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/aryn-ai/sycamore

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト