Python – Scrapy crawlt viel mehr Seiten, als tatsächlich Elemente eingibt?
PHP中文网
PHP中文网 2017-05-18 10:47:40
0
1
675

2017-05-12 23:39:52 [scrapy.extensions.logstats] INFO:
Crawled 3000 pages (at 61 pages/min), scraped 454 items (at 10 items/min)

Warum besuche ich mehr Seiten, als ich tatsächlich Elemente eingebe?
Es ist nur so, dass die Elemente nach längerem Crawlen nicht viele Daten enthalten.
Gibt es eine Möglichkeit, das Problem zu lösen?

PHP中文网
PHP中文网

认证高级PHP讲师

Antworte allen(1)
左手右手慢动作

重定向了,你看到了吧,重定向就得请求两个页面啊。还有就是看有不有页面解析发生了错误。

Neueste Downloads
Mehr>
Web-Effekte
Quellcode der Website
Website-Materialien
Frontend-Vorlage