pyspider 遇到防爬页面怎么处理?
高洛峰
高洛峰 2016-11-04 10:43:20
0
1
541

遇到页面防爬,返回页面说需要验证是否是机器人输入验证码这种情况要怎么处理?这时候这个页面返回的是200,爬虫认为正常爬过页面了,但是实际并没有获得有效数据。是通过判断抓没抓到数据,然后抛异常重新爬吗?这种情应该怎么处理

不知道我通过抛异常重爬这种方法是否正确?


高洛峰
高洛峰

拥有18年软件开发和IT教学经验。曾任多家上市公司技术总监、架构师、项目经理、高级软件工程师等职务。 网络人气名人讲师,...

reply all(1)
三叔

我认为应该加上相应的header信息,伪装成浏览器来进行访问。

Latest Downloads
More>
Web Effects
Website Source Code
Website Materials
Front End Template
About us Disclaimer Sitemap
php.cn:Public welfare online PHP training,Help PHP learners grow quickly!