Python爬取豆瓣电影数据并且提取值xpath和lxml模块（代码）-Tutorial Python-php.cn

Python爬取豆瓣电影数据并且提取值xpath和lxml模块（代码）

不言

Lepaskan： 2018-09-28 14:45:33

ke hadapan

3840 orang telah melayarinya

本篇文章给大家带来的内容是关于Python爬取豆瓣电影数据并且提取值xpath和lxml模块（代码），有一定的参考价值，有需要的朋友可以参考一下，希望对你有所帮助。

工具：Python 3.6.5、PyCharm开发工具、Windows 10 操作系统、谷歌浏览器

目的：爬取豆瓣电影排行榜中电影的title、链接地址、图片、评价人数、评分等

网址：https://movie.douban.com/chart

语法要点：

xpath语法：

谷歌浏览器安装 xpath helper插件：帮助我们从elements中定位数据

1、选择节点（标签）

　　（1）、/html/head/meta：能够选中html下的所有的meta标签

　　（2）、//li：当前页面上的所有的li标签

　　（3）、/html/head//link：head下的所有link标签

2、//：能够从任意节点开始选择

　　（1）、//li：当前页面上的所有的li标签

　　（2）、/html/head//link：head下的所有的link标签

3、@符号的用途

　　（1）、选择具体某个元素：//p[@class='feed']/ul/li，选择class='feed'的p下的ul下的li

　　（2）、a/@href：选择a的href的值

4、获取文本

　　（1）、/a/text()：获取a下的文本

　　（2）、/a//text()：获取a下的所有文本

示例：

lxml语法：

1、安装：pip install lxml

2、使用

　　from lxml import etree

　　element = etree.HTML("html字符串")

　　element.xpath("")

代码：

from lxml import etree
import requests

url = "https://movie.douban.com/chart"

headers = {
"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.81 Safari/537.36"
}
response = requests.get(url,headers=headers)
html_str = response.content.decode()

#print(html_str)

html = etree.HTML(html_str)
print(html)

#1.获取所有的电影的URL地址
#url_list = html.xpath("//div[@class=&#39;indent&#39;]/div/table//div[@class=&#39;pl2&#39;]/a/@href")
#print(url_list)

#2.所有图片的地址
#img_list = html.xpath("//div[@class=&#39;indent&#39;]/div/table//a[@class=&#39;nbg&#39;]/img/@src")
#print(img_list)
ret1 = html.xpath("//div[@class=&#39;indent&#39;]/div/table")
print(ret1)
for table in ret1:
    item = {}
    item["title"] = table.xpath(".//div[@class=&#39;pl2&#39;]/a/text()")[0].replace("/","").strip()
    item["href"] = table.xpath(".//div[@class=&#39;pl2&#39;]/a/@href")[0]
    item["img"] = table.xpath(".//a[@class=&#39;nbg&#39;]/img/@src")[0]
    item["comment_num"] = table.xpath(".//span[@class=&#39;pl&#39;]/text()")[0]
    item["rating_num"] = table.xpath(".//span[@class=&#39;rating_nums&#39;]/text()")[0]
    print(item)

Salin selepas log masuk

运行效果：