Webサイトから構造化データを抽出するスクレイパーやクローラーを作成するためのGoフレームワーク。
alirezamika/autoscraper
サンプルデータから抽出ルールを学習し、似たページや新しいページにも適用できるPython製Webスクレイパーです。
- スター
- 8,076
- フォーク
- 831
- 未解決の Issue
- 2
- 最終コミット
- 3 か月前
これは何?
AutoScraperは、セレクターを手書きせずにWebページからデータを抽出できるPythonライブラリです。URLまたはHTMLコンテンツと、取得したいサンプル値のリストを渡します。サンプル値には、テキストやリンク、特定のHTMLタグの値などを指定できます。ライブラリが要素を特定するルールを学習し、ページ内の類似項目を返します。
スクレイパーを作成したら、オブジェクトをディスクに保存し、後から読み込めます。同じレイアウトの別ページから類似コンテンツを取得したり、サンプルを指定した順序で、新しいURLから同じ要素を取得したりできます。プロキシやカスタムヘッダーなどのRequestsオプションは、内部で使われるrequestsの呼び出しに渡せます。
このライブラリはPython 3を対象としており、PyPIまたはGitリポジトリから直接インストールできます。
主な機能
- 01セレクターを手作業で指定する代わりに、少数のサンプル値からスクレイピングルールを学習します。
- 02テキスト、URL、または特定のHTMLタグの値を抽出します。
- 03同じ構造を持つ別のページから類似要素を取得します。
- 04学習済みのスクレイパーモデルを保存・読み込みできます。
- 05プロキシやヘッダーなどのカスタムrequestsパラメーターを渡せます。
ユースケース
- 同じレイアウトの複数ページからタイトルや価格を取得する。
- 保存済みのスクレイパーをWebフレームワークでラップし、Webサイトを簡易APIとして利用する。
- CSSやXPathのセレクターを書かずに、スクレイパーをすばやく試作する。
クイックスタート
- 1
PyPIからライブラリをインストールする
pip install autoscraper - 2
AutoScraperをインポートし、URLとサンプルデータからスクレイパーを作成して、類似する結果を取得する
使う前に知っておきたいこと
- ページのHTML構造が変わると、学習したルールが機能しなくなることがあります。
- READMEにはJavaScriptのレンダリングについて記載がないため、動的に読み込まれるコンテンツは取得できない場合があります。
トピック
よくある質問
- autoscraper とは?
- サンプルデータから抽出ルールを学習し、似たページや新しいページにも適用できるPython製Webスクレイパーです。 AutoScraperは、セレクターを手書きせずにWebページからデータを抽出できるPythonライブラリです。URLまたはHTMLコンテンツと、取得したいサンプル値のリストを渡します。サンプル値には、テキストやリンク、特定のHTMLタグの値などを指定できます。ライブラリが要素を特定するルールを学習し、ページ内の類似項目を返します。
- autoscraper は無料で使えますか?ライセンスは?
- autoscraper は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
- autoscraper は今もメンテナンスされていますか?
- 半年以内に更新あり。autoscraper の最終コミットは 2026年7月29日 です。
- autoscraper は何に使えますか?
- 同じレイアウトの複数ページからタイトルや価格を取得する。 保存済みのスクレイパーをWebフレームワークでラップし、Webサイトを簡易APIとして利用する。 CSSやXPathのセレクターを書かずに、スクレイパーをすばやく試作する。
- autoscraper のインストール方法は?
- PyPIからライブラリをインストールする: pip install autoscraper AutoScraperをインポートし、URLとサンプルデータからスクレイパーを作成して、類似する結果を取得する
- autoscraper はどこで入手できますか?
- ソースコードとインストール手順は GitHub にあります:https://github.com/alirezamika/autoscraper
概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。
関連プロジェクト
単発のHTTPリクエストからステルスブラウザー、解析、並行クロールとエクスポートまで対応するPython製Webスクレイピングフレームワーク。
ニュース記事をダウンロードし、本文、著者、公開日、画像、キーワード、要約を抽出するPython 3ライブラリ。
WebサイトをLLM向けのMarkdownに変換するオープンソースのPythonクローラー。構造化抽出やホスト型APIにも対応。
Scrapyは、Webサイトから構造化データを抽出するためのPython製スクレイピング・クローリングフレームワークです。
Webサイトを構造化APIに変換し、スクレイピングやクロール、検索、監視、AI抽出を行うオープンソース基盤。