首頁 > web前端 > js教程 > Node.js如何爬取豆瓣資料實例分享

Node.js如何爬取豆瓣資料實例分享

小云云
發布: 2018-03-06 09:18:16
原創
1291 人瀏覽過

一直自以為自己vue還可以,一直自以為webpack還可以,今天在慕課逛node的時候,才發現,自己還差的很遠。眾所周知,vue-cli是基於webpack,而webpack基於node,對node不了解,談什麼了解webpack。所以就自己給自己出了一道題,爬取豆瓣數據,目前還處於初級階段。今天就淺談爬取到豆瓣的數據,再另一個頁面用自己的方式展現,後續會跟進。

1、需要解決的問題

  1. 建造服務

  2. 怎麼處理爬到的數據

  3. 怎麼自動開啟預設瀏覽器

#2、建置服務

建置服務好幾種方式,一開始我用的http,但是http有個弊端就是不能解析https協議的url,所以就用了express,解析https協議的網址我用了request包,豆瓣的網址是https的,

今天爬取的是https://movie.douban.com/chart這個網址;如下圖,我要取得的有三個部分,圖片、電影名字、電影連結.

3、怎麼處理爬到的資料

我們用request爬到的數據,怎麼處理呢? cheerio套件可以讓我們像Jq一樣處理爬到的html資料。

①、先解析數據,取到爬取網頁的html數據;

#②、然後利用cheerio套件操作爬到的數據,取到你想要的數據。

③、取到數據,建立html,輸出到頁面。如下圖,我用的字串拼接,辦法有點笨,還沒找到更好的方法。

4、怎麼自動開啟預設瀏覽器

不知道你有沒有看vue-cli中webpack的配置,自動開啟瀏覽器,vue-cli用的opn套件.

這個套件用起來很方便,引入套件,直接呼叫opn(url)即可;

5、展示

#相關推薦:

##php如何爬取天貓和淘寶商品資料

nodejs實作爬取網站圖片功能_node.js

##有關爬取圖片的課程推薦5篇

以上是Node.js如何爬取豆瓣資料實例分享的詳細內容。更多資訊請關注PHP中文網其他相關文章!

相關標籤:
來源:php.cn
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板