自然言語で記述した大規模な構造化・非構造化データ向けの、LLMを活用するPython製map-reduce/ETLパイプラインシステム。
aryn-ai/sycamore
非構造化文書向けのETL、RAG、分析を実現するPythonフレームワーク。AIを活用して文書を分割・チャンク化し、ベクトル検索やハイブリッド検索のデータベースに読み込みます。
- スター
- 605
- フォーク
- 71
- 未解決の Issue
- 56
- 最終コミット
- 3 か月前
これは何?
Sycamoreは、PDF、レポート、プレゼンテーション、文字起こし、マニュアルなどの非構造化ファイルを、整ったチャンク化データに変換する文書処理エンジンです。埋め込みテーブル、図、インフォグラフィックを含む複雑なレイアウトを処理でき、データを保存する前にLLMベースのエンリッチメント、変換、クリーニングを適用できます。
処理はDocSetという抽象化を中心に構成されています。DocSetは関数型のPythonベースのパイプラインで、スケーラブルなRayバックエンド上で動作します。文書の分割にはホスト型のAryn DocParseサービスかローカルで実行するパーティショナーを利用でき、変換処理に使うLLMはユーザーが選択できます。
処理結果をOpenSearch、Elasticsearch、Pinecone、DuckDB、Qdrant、Weaviateなどのベクトル検索・ハイブリッド検索ストアに読み込むためのコネクターを、pip extrasとしてインストールできます。LinuxとmacOSに対応しています。
主な機能
- 01レイアウト検出モデルを使い、テーブル、図、インフォグラフィックを含むPDFや画像を分割
- 02スケーラブルで関数型の文書変換を実現するDocSet抽象化
- 03抽出、エンリッチメント、クリーニングに使える、LLMを活用したユーザー定義関数
- 04チャンクをOpenSearch、Elasticsearch、Pinecone、DuckDB、Qdrant、Weaviateに読み込み
- 05Rayバックエンド上で処理をスケール
ユースケース
- RAGアプリケーション向けにPDFのレポートやマニュアルを準備
- OpenSearchで企業文書を対象とするハイブリッド検索インデックスを構築
- LLMを使って文字起こしやプレゼンテーションから構造化フィールドを抽出
- ベクトルデータベースへの読み込み前に、Jupyter notebookで文書ETLジョブを実行
クイックスタート
- 1
pipでコアパッケージをインストールします
pip install sycamore-ai - 2
必要に応じて、DuckDBなどのベクトルデータベースコネクタをインストールします
pip install sycamore-ai[duckdb] - 3
Aryn DocParseの無料アカウントに登録して、APIキーを取得します
使う前に知っておきたいこと
- READMEによると、LinuxとMac OSで動作します。
- Aryn DocParseサービスを利用するには、登録してAPIキーを取得する必要があります。
トピック
よくある質問
- sycamore とは?
- 非構造化文書向けのETL、RAG、分析を実現するPythonフレームワーク。AIを活用して文書を分割・チャンク化し、ベクトル検索やハイブリッド検索のデータベースに読み込みます。 Sycamoreは、PDF、レポート、プレゼンテーション、文字起こし、マニュアルなどの非構造化ファイルを、整ったチャンク化データに変換する文書処理エンジンです。埋め込みテーブル、図、インフォグラフィックを含む複雑なレイアウトを処理でき、データを保存する前にLLMベースのエンリッチメント、変換、クリーニングを適用できます。
- sycamore は無料で使えますか?ライセンスは?
- sycamore は Apache-2.0 ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- sycamore は今もメンテナンスされていますか?
- 半年以内に更新あり。sycamore の最終コミットは 2026年8月1日 です。
- sycamore は何に使えますか?
- RAGアプリケーション向けにPDFのレポートやマニュアルを準備 OpenSearchで企業文書を対象とするハイブリッド検索インデックスを構築 LLMを使って文字起こしやプレゼンテーションから構造化フィールドを抽出 ベクトルデータベースへの読み込み前に、Jupyter notebookで文書ETLジョブを実行
- sycamore のインストール方法は?
- pipでコアパッケージをインストールします: pip install sycamore-ai 必要に応じて、DuckDBなどのベクトルデータベースコネクタをインストールします: pip install sycamore-ai[duckdb] Aryn DocParseの無料アカウントに登録して、APIキーを取得します
- sycamore はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/aryn-ai/sycamore
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
会話履歴をそのまま保存し、セマンティック検索で取得するローカルファーストのAIメモリシステム。MCPサーバーとCLIを提供します。
AIアプリ向けのオープンソース埋め込みデータベース。文書とベクトルを保存し、セマンティック検索、ハイブリッド検索、全文検索を実現します。
Qdrantにドキュメントを埋め込み、セマンティック検索とハイブリッド検索を実行し、LLMで質問に回答する会話型RAGエージェントのFastAPIバックエンド。
BAAIが提供する検索ツールキット。BGE埋め込み・再ランキングモデルに加え、検索やRAG向けの学習、評価、チュートリアルを備えています。
Epsillaは、メタデータフィルタリング、ハイブリッド検索、LLM検索連携に対応した、埋め込みベクトルの類似検索向けオープンソースC++ベクトルデータベースです。