python - 爬虫在爬取网页的时候出现了302要如何解决?
ringa_lee
ringa_lee 2017-04-18 09:48:26
0
3
838

在抓取360问答的时候,前面抓取得好好的,但是每次抓到大约40条的时候,就打不开了,所有的问题都打不开了,直接全部跳转到首页!我抓包了看了下,是被302了,请问下,除了换ip,还有什么比较好的方法来突破这种限制?

我设置了时间间隔,现在也不行了

ringa_lee
ringa_lee

ringa_lee

全部回覆(3)
小葫芦

sleep(10)
暫停一下,別爬太快~

迷茫

1樓說得對,設定抓取延遲

阿神

簡單方案是上代理。

設定時間間距一般也不是很有用,在大規模爬取的情況下,一個IP訪問數百次一般就會被跳轉驗證碼了。

熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板
關於我們 免責聲明 Sitemap
PHP中文網:公益線上PHP培訓,幫助PHP學習者快速成長!