multiprocessing - python多进程爬虫报错
高洛峰
高洛峰 2017-04-18 09:42:47
0
1
1043

周末在家撸代码了,写了一个小脚本爬取alexa网上的top500的域名,使用了多进程,但是报错了,

Traceback (most recent call last):
  File "alexa.py", line 116, in <module>
    site.multiprocess()
  File "alexa.py", line 83, in multiprocess
    self.domain = multiprocessing.Manager().list()
  File "/home/rocky/python/lib/python2.7/multiprocessing/managers.py", line 667, in temp
    token, exp = self._create(typeid, *args, **kwds)
  File "/home/rocky/python/lib/python2.7/multiprocessing/managers.py", line 565, in _create
    conn = self._Client(self._address, authkey=self._authkey)
  File "/home/rocky/python/lib/python2.7/multiprocessing/connection.py", line 175, in Client
    answer_challenge(c, authkey)
  File "/home/rocky/python/lib/python2.7/multiprocessing/connection.py", line 432, in answer_challenge
    message = connection.recv_bytes(256)         # reject large message
IOError: [Errno 11] Resource temporarily unavailable

脚本地址alexaTop500

高洛峰
高洛峰

拥有18年软件开发和IT教学经验。曾任多家上市公司技术总监、架构师、项目经理、高级软件工程师等职务。 网络人气名人讲师,...

모든 응답(1)
迷茫

프로세스가 너무 많아서 발생합니다

최신 다운로드
더>
웹 효과
웹사이트 소스 코드
웹사이트 자료
프론트엔드 템플릿