PHP クローラーはどのようにして動的クローラー エージェントにアクセスしますか?

php クローラーはどのようにしてクローラー エージェントにアクセスしますか? 以前に Python を使用したことがありますか? php と同じアクセス方法ですか?

Laical 2020-03-13 17:10:19 0  0  1073

Python - Alibaba クローラーのソース コードに関するアプリケーションの疑問

1. 現在の問題: py ファイルを実行しても何も起こりません。何が問題ですか? 2. 私は完全な初心者で、py に触れたことはなく、html+css の基本を学んだだけです。しかし、会社のプロジェクトで地域のサプライヤー情報を収集する必要があったため、py クローラーを思いついたところ、科学オタクの Web サイトでクローラーを見つけました。

阿神 2017-06-22 11:51:27 0  1  1864

Web クローラー - Python リクエスト クローラーの問題

リクエスト クローラーを使用しているときに問題が発生しました。アカ​​ウントとパスワードを送信しても、最初に Web ページが送信されず、代わりにスワイプ防止の標識が表示され、URL が変更されませんでした。その後、更新しても、ウェブページのデータは「別のページに送信」になります。直接送信する方法を教えてください。または...

仅有的幸福 2017-05-27 17:39:37 0  1  542

Web クローラー - node.js クローラー 外部呼び出し関数が変数値を取得できません

最近、いくつかの小説を読むためのクローラーを作成したいと思ったのですが、console.log(catalogUrl) は必要な URL を出力できますが、関数 var xxx = getCatalogUrl を呼び出すことで、catalogUrl を取得できることが期待されています。 (本) この変数の値を外部で試してみます...

習慣沉默 2017-05-16 13:25:17 0  2  512

Web クローラー - Python のrequests.get クローラーセットのプロキシ IP アドレスは変更されていません

この作業には Amazon 上の情報をクローリングする必要がありますが、Amazon のアンチクローラーが強力すぎるため、同じ IP アドレスはブロックされてしまいます。 Python バージョン: 3.6、IDE: Pycharm 2017.1. ネットで色々調べたり、リクエストライブラリのマニュアルを読んだりしましたが、どれも同じ方法で、コードは次の通りです: {code...}.. 。

typecho 2017-06-12 09:24:11 0  1  1184

Python - csdn クローラーのレビュー

https://github.com/xchaoinfo/fuck-login/blob/master/015%20CSDN/csdn.py 87〜88行目のコメントによると、クローラを使用してリンクを行うときに、なぜこのリンクに変換する必要があるのですか？ csdn の記事にコメントしますか? このリンクをどのように取得しましたか? Web ページのコードを確認しましたが、関連するリンクがありません...

仅有的幸福 2017-05-18 10:53:42 0  2  840

Python - クローラーのコンテンツをテキスト ファイルに保存する エンコーディングの問題

非常にシンプルな Web ページのテキスト コンテンツをローカル コンピューターに保存する、非常に単純なクローラーをテストします。最後にエラーが発生しました: {code...} コードは次のとおりです: {code...}

欧阳克 2017-06-12 09:26:21 0  1  832

PHP クローラーを使用して Amazon を収集するにはどうすればよいですか?

Amazon の Web サイトの前回のアップグレードによりクローラーがハングアップして以来、Amazon のポケッティング対策ポリシーはさらに厳しくなりました。そのため、正常な収集ができなくなります。新しい買収戦略はありますか?

Laical 2020-03-26 17:20:49 0  0  1172

Web クローラー - Java クローラーはイメージのリンクを取得しましたが、イメージをダウンロードできません

クローラーが取得した対応する画像リソースsrcのHTMLコードは以下の通りですが、画像をダウンロードするコードを通してリソースをリンクに変換すると400エラーが報告されますが、Chromeを使用して画像リソースが取得できるかどうかをテストしています。リンクが存在します。相手の Web サイト サーバーが実際に識別できるのは...

黄舟 2017-05-17 10:01:58 0  2  563

Web クローラー - Python3.4.1 リクエスト モジュールがエラー「リ​​スト」オブジェクトに属性「get」がありませんと報告する

Python を使用して IP アドレスをクロールするクローラーを作成しました。Web サイトはアンチクローラーであるため、エージェントを作成し、スレッド プールを使用して IP アドレスをクロールする 10 個のスレッドを開きました。しかし、エラー 'list' オブジェクトには属性 ' がありませんget' が直接報告されました。解決方法をご存知の場合は、コードを投稿してください。 BS4 インポートから...

世界只因有你 2017-06-12 09:24:16 0  3  3477

selenium - Python クローラー ツールについて質問します。

1) キャプチャしたいのは、Instagram 上の特定の有名人のファンです 2) Instagram の PC サイトは、js レンダリングを多用しています 3) クローラーを書いたことがなく、上司が明日データを必要とするので、現在 BeautifulSoup を使用しています、selenium、および phantomjs。コード デモはおそらく { Code...} です。質問は次のとおりです: 1) わかりません...

阿神 2017-06-28 09:22:20 0  1  974

node.js - ノード クローラー、IP プールを使用してアンチクロールを防ぐにはどうすればよいですか?

問題はこれです。私はノードを学び始めたばかりの初心者です。もちろん、これは明らかにクローラー用です。それで、最近小説を読んでいたのですが、無料小説サイトでは広告が多すぎるので、小説全体をクロールするクローラーを書こうと思ったのですが、URL リクエストが多すぎて逆になってしまいました。 - クロールされてブロックされました。

为情所困 2017-06-05 11:13:33 0  1  1197

Python - クローラーを使用して Web ページから画像をバッチでクロールするにはどうすればよいですか?

画像のように、ネットワーク経由で画像を閲覧して読み込み、1枚ずつ右クリックで保存するのは面倒なので、ここで画像を一括取得するクローラーを記述する方法はありますか？

给我你的怀抱 2017-06-28 09:25:48 0  3  1159

redis - Python クローラーを実行すると、MySQL バージョンは 5.7 であり、常にエラーが報告されます

Python クローラーを実行すると、MySQL バージョンは 5.7 で、常にエラー {code...} が報告されます。何が問題ですか?どうやって解決すればいいでしょうか？

扔个三星炸死你 2017-06-12 09:19:42 0  2  897