pyspider 遇到防爬页面怎么处理?
高洛峰
高洛峰 2016-11-04 10:43:20
0
1
556

遇到页面防爬,返回页面说需要验证是否是机器人输入验证码这种情况要怎么处理?这时候这个页面返回的是200,爬虫认为正常爬过页面了,但是实际并没有获得有效数据。是通过判断抓没抓到数据,然后抛异常重新爬吗?这种情应该怎么处理

不知道我通过抛异常重爬这种方法是否正确?


高洛峰
高洛峰

拥有18年软件开发和IT教学经验。曾任多家上市公司技术总监、架构师、项目经理、高级软件工程师等职务。 网络人气名人讲师,...

全部回复(1)
三叔

我认为应该加上相应的header信息,伪装成浏览器来进行访问。

热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责声明 Sitemap
PHP中文网:公益在线PHP培训,帮助PHP学习者快速成长!