首頁 > 後端開發 > Python教學 > Python爬取豆瓣電影資料並且提取值xpath和lxml模組(程式碼)

Python爬取豆瓣電影資料並且提取值xpath和lxml模組(程式碼)

不言
發布: 2018-09-28 14:45:33
轉載
3840 人瀏覽過

這篇文章帶給大家的內容是關於Python爬取豆瓣電影資料並且提取值xpath和lxml模組(程式碼),有一定的參考價值,有需要的朋友可以參考一下,希望對你有所幫助。

工具:Python 3.6.5、PyCharm開發工具、Windows 10 作業系統、Google瀏覽器

目的:爬取豆瓣電影排行榜中電影的title、連結地址、圖片、評價人數、評分等

網址:https://movie.douban.com/chart

語法重點:

##xpath語法:

Google瀏覽器安裝xpath helper外掛:幫助我們從elements定位資料

1、選擇節點(標籤)

  (1)、/html/ head/meta:能夠選取html下的所有的meta標籤

  (2)、//li:目前頁面上的所有的li標籤

#  (3)、/html/head//link:head下的所有link標籤

2、//:能夠從任意節點開始選擇

  (1)、//li:目前頁面上的所有的li標籤

  (2)、/html/head//link:head下的所有的link標籤

3、@符號的用途

  (1)、選擇具體某個元素://p[ @class='feed']/ul/li,選擇class='feed'的p下的ul下的li

## (2)、a/@href:選擇a的href的值

4、取得文字

  ( 1)、/a/text():取得a下的文字

#  (2)、/a//text():取得a下的所有文字

範例

lxml語法:

1、安裝:pip install lxml

##2、使用

  from lxml import etree


##  element = etree.HTML("html字串")


  element.xpath("")

程式碼:

from lxml import etree
import requests

url = "https://movie.douban.com/chart"

headers = {
"User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/69.0.3497.81 Safari/537.36"
}
response = requests.get(url,headers=headers)
html_str = response.content.decode()

#print(html_str)

html = etree.HTML(html_str)
print(html)

#1.获取所有的电影的URL地址
#url_list = html.xpath("//div[@class='indent']/div/table//div[@class='pl2']/a/@href")
#print(url_list)

#2.所有图片的地址
#img_list = html.xpath("//div[@class='indent']/div/table//a[@class='nbg']/img/@src")
#print(img_list)
ret1 = html.xpath("//div[@class='indent']/div/table")
print(ret1)
for table in ret1:
    item = {}
    item["title"] = table.xpath(".//div[@class='pl2']/a/text()")[0].replace("/","").strip()
    item["href"] = table.xpath(".//div[@class='pl2']/a/@href")[0]
    item["img"] = table.xpath(".//a[@class='nbg']/img/@src")[0]
    item["comment_num"] = table.xpath(".//span[@class='pl']/text()")[0]
    item["rating_num"] = table.xpath(".//span[@class='rating_nums']/text()")[0]
    print(item)
登入後複製

#運行效果:

#

以上是Python爬取豆瓣電影資料並且提取值xpath和lxml模組(程式碼)的詳細內容。更多資訊請關注PHP中文網其他相關文章!

相關標籤:
來源:cnblogs.com
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
作者最新文章
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板