React と Python を使用して強力な Web クローラー アプリケーションを構築する方法
はじめに:
Web クローラーは、Web ページ データをクロールするために使用される自動プログラムです。インターネット 。インターネットの継続的な発展とデータの爆発的な増加に伴い、Web クローラーの人気はますます高まっています。この記事では、React と Python という 2 つの人気のあるテクノロジーを使用して、強力な Web クローラー アプリケーションを構築する方法を紹介します。フロントエンド フレームワークとしての React とクローラー エンジンとしての Python の利点を探り、具体的なコード例を示します。
1. React と Python を選択する理由:
2. React フロントエンド アプリケーションのビルド:
React プロジェクトの作成:
まず、Create React App ツールを使用してReact プロジェクト。ターミナルを開き、次のコマンドを実行します:
npx create-react-app web-crawler cd web-crawler
コンポーネントの書き込み:
Crawler.js という名前のファイルを src ディレクトリに作成し、次のコードを書き込みます:
import React, { useState } from 'react'; const Crawler = () => { const [url, setUrl] = useState(''); const [data, setData] = useState(null); const handleClick = async () => { const response = await fetch(`/crawl?url=${url}`); const result = await response.json(); setData(result); }; return (setUrl(e.target.value)} /> {data &&}{JSON.stringify(data, null, 2)}ログイン後にコピー
ルーティングの構成:
App.js という名前のファイルを src ディレクトリに作成し、次のコードを記述します:
import React from 'react'; import { BrowserRouter as Router, Route } from 'react-router-dom'; import Crawler from './Crawler'; const App = () => { return (); }; export default App;
アプリケーションを開始します:
ターミナルを開き、次のコマンドを実行してアプリケーションを開始します:
npm start
3. Python クローラー エンジンを作成します:
依存関係をインストールします:
プロジェクト ルートで、ディレクトリにrequirements.txtという名前のファイルを作成し、次の内容を追加します。
flask requests beautifulsoup4
次に、次のコマンドを実行して依存関係をインストールします。
pip install -r requirements.txt
クローラ スクリプトを作成します:
プロジェクトのルート ディレクトリにクローラ.py という名前のファイルを作成し、次のコードを作成します:
from flask import Flask, request, jsonify import requests from bs4 import BeautifulSoup app = Flask(__name__) @app.route('/crawl') def crawl(): url = request.args.get('url') response = requests.get(url) soup = BeautifulSoup(response.text, 'html.parser') # 解析网页,获取需要的数据 return jsonify({'data': '爬取的数据'}) if __name__ == '__main__': app.run()
4. アプリケーションをテストします:
アプリケーションの実行:
ターミナルを開き、次のコマンドを実行して Python クローラー エンジンを開始します:
python crawler.py
結論:
この記事では、React と Python を使用して強力な Web クローラー アプリケーションを構築する方法を紹介します。 React のフロントエンド フレームワークと Python の強力なクローラー エンジンを組み合わせることで、ユーザーフレンドリーなインターフェイスと効率的なデータ クローリングを実現できます。この記事が Web クローラー アプリケーションの学習と実践に役立つことを願っています。
以上がReact と Python を使用して強力な Web クローラー アプリケーションを構築する方法の詳細内容です。詳細については、PHP 中国語 Web サイトの他の関連記事を参照してください。