python - scrapy 如何组合2个不同页面的数据,一并存储
女神的闺蜜爱上我
女神的闺蜜爱上我 2017-06-12 09:25:36
0
1
821

1 比如有博客列表页 a ,获取文章列表
2 博客内容详情页 b , 获取文章正文
3 如何依次获取到文章 + 内容 到数据库 ?
4 当前问题主要是不知道如何组合2个不同页面的数据

女神的闺蜜爱上我
女神的闺蜜爱上我

全部回复(1)
巴扎黑

可以用request.meta来存储额外的信息, 比如


def parse_x1(self, response):
    extra = {}
    ...
    req = scrapy.Request(url2)
    req.callback = self.parse_x2
    ...
    req.meta['extra'] = extra 
    yield req
 
def parse_x2(self, response):
    item = {}
    extra = response.meta['extra']
    item.update(extra)
    ...
    
    yield item
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责声明 Sitemap
PHP中文网:公益在线PHP培训,帮助PHP学习者快速成长!