python - scrapy 爬取pages比實際進入items的多得多?
PHP中文网
PHP中文网 2017-05-18 10:47:40
0
1
674

#
2017-05-12 23:39:52 [scrapy.extensions.logstats] INFO:
Crawled 3000 pages (at 61 pages/min), scraped 454 items (at 10 items/min)

為什麼我使用scrapy爬取的時候訪問pages要比實際進入items的的多的多?
就是爬了半天items裡沒有幾條數據入庫的
有什麼辦法解決麼?

PHP中文网
PHP中文网

认证高级PHP讲师

全部回覆(1)
左手右手慢动作

重定向了,你看到了吧,重定向就得請求兩個頁面啊。還有就是看有不有頁面解析發生了錯誤。

熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板