Repolode
alirezamika

alirezamika/autoscraper

サンプルデータから抽出ルールを学習し、似たページや新しいページにも適用できるPython製Webスクレイパーです。

スター
8,076
フォーク
831
未解決の Issue
2
最終コミット
3 か月前

これは何?

AutoScraperは、セレクターを手書きせずにWebページからデータを抽出できるPythonライブラリです。URLまたはHTMLコンテンツと、取得したいサンプル値のリストを渡します。サンプル値には、テキストやリンク、特定のHTMLタグの値などを指定できます。ライブラリが要素を特定するルールを学習し、ページ内の類似項目を返します。

スクレイパーを作成したら、オブジェクトをディスクに保存し、後から読み込めます。同じレイアウトの別ページから類似コンテンツを取得したり、サンプルを指定した順序で、新しいURLから同じ要素を取得したりできます。プロキシやカスタムヘッダーなどのRequestsオプションは、内部で使われるrequestsの呼び出しに渡せます。

このライブラリはPython 3を対象としており、PyPIまたはGitリポジトリから直接インストールできます。

主な機能

  • 01セレクターを手作業で指定する代わりに、少数のサンプル値からスクレイピングルールを学習します。
  • 02テキスト、URL、または特定のHTMLタグの値を抽出します。
  • 03同じ構造を持つ別のページから類似要素を取得します。
  • 04学習済みのスクレイパーモデルを保存・読み込みできます。
  • 05プロキシやヘッダーなどのカスタムrequestsパラメーターを渡せます。

ユースケース

  • 同じレイアウトの複数ページからタイトルや価格を取得する。
  • 保存済みのスクレイパーをWebフレームワークでラップし、Webサイトを簡易APIとして利用する。
  • CSSやXPathのセレクターを書かずに、スクレイパーをすばやく試作する。

クイックスタート

  1. 1

    PyPIからライブラリをインストールする

    pip install autoscraper
  2. 2

    AutoScraperをインポートし、URLとサンプルデータからスクレイパーを作成して、類似する結果を取得する

使う前に知っておきたいこと

  • ページのHTML構造が変わると、学習したルールが機能しなくなることがあります。
  • READMEにはJavaScriptのレンダリングについて記載がないため、動的に読み込まれるコンテンツは取得できない場合があります。

トピック

よくある質問

autoscraper とは?
サンプルデータから抽出ルールを学習し、似たページや新しいページにも適用できるPython製Webスクレイパーです。 AutoScraperは、セレクターを手書きせずにWebページからデータを抽出できるPythonライブラリです。URLまたはHTMLコンテンツと、取得したいサンプル値のリストを渡します。サンプル値には、テキストやリンク、特定のHTMLタグの値などを指定できます。ライブラリが要素を特定するルールを学習し、ページ内の類似項目を返します。
autoscraper は無料で使えますか?ライセンスは?
autoscraper は MIT ライセンスのオープンソースです。商用製品で使う前にライセンス条件を確認してください。
autoscraper は今もメンテナンスされていますか?
半年以内に更新あり。autoscraper の最終コミットは 2026年7月29日 です。
autoscraper は何に使えますか?
同じレイアウトの複数ページからタイトルや価格を取得する。 保存済みのスクレイパーをWebフレームワークでラップし、Webサイトを簡易APIとして利用する。 CSSやXPathのセレクターを書かずに、スクレイパーをすばやく試作する。
autoscraper のインストール方法は?
PyPIからライブラリをインストールする: pip install autoscraper AutoScraperをインポートし、URLとサンプルデータからスクレイパーを作成して、類似する結果を取得する
autoscraper はどこで入手できますか?
ソースコードとインストール手順は GitHub にあります:https://github.com/alirezamika/autoscraper

概要はプロジェクトの README をもとに AI が生成しています。GitHub の数値は毎日更新されます。

関連プロジェクト