python - pyspider遇到不能识别的url时报错
PHP中文网
PHP中文网 2017-04-17 17:43:16
0
1
460

大家好,我遇到一个很棘手的问题想请教大家是怎么解决的。

问题描述:

pyspider遇到不规则的html页面时,只要其实包含不能正常解析的url时就会报错,如页面http://www.jb51.net/os/windows/win2008/18272.html,其中就有<p>作者:<a href="http://www.locoy.com 字体:[<a href="javascript:turnbig()">增加</a> <a href="javascript:turnsmall()">减小</a>] 来源:互联网 时间:07-02 01:51:10<a href="#comments"> 我要评论</a></p>,这里页面的链接不能正常解析就会报Invalid IPv6 URL错误
如下图:

PHP中文网
PHP中文网

认证高级PHP讲师

모든 응답(1)
大家讲道理

더 자세히 알아보려면 lxml, pyquery 및 urlparse 표준 라이브러리의 버그를 살펴보세요.

그것을 잡은 다음 수동으로 트리를 만드는 것만 가능합니다.

최신 다운로드
더>
웹 효과
웹사이트 소스 코드
웹사이트 자료
프론트엔드 템플릿