> 백엔드 개발 > PHP 튜토리얼 > php爬虫:百万级别知乎用户数据爬取与分析

php爬虫:百万级别知乎用户数据爬取与分析

WBOY
풀어 주다: 2016-06-06 15:35:13
원래의
1167명이 탐색했습니다.

php爬虫:百万级别知乎用户数据爬取与分析

代码托管地址:https:////m.sbmmt.com/hhqcontinue/zhihuSpider

文/Hector

这次抓取了110

php爬虫:百万级别知乎用户数据爬取与分析

万的用户数据,数据分析结果如下:

开发前的准备

安装linux系统(Ubuntu14.04),在VMWare虚拟机下安装一个Ubuntu;

安装PHP5.6或以上版本;

安装curl、pcntl扩展。

使用PHP的curl扩展抓取页面数据

PHP的curl扩展是PHP支持的允许你与各种服务器使用各种类型的协议进行连接和通信的库。

本程序是抓取知乎的用户数据,要能访问用户个人页面,需要用户登录后的才能访问。当我们在浏览器的页面中点击一个用户头像链接进入用户个人中心页面的时候,之所以能够看到用户的信息,是因为在点击链接的时候,浏览器帮你将本地的cookie带上一齐提交到新的页面,所以你就能进入到用户的个人中心页面。因此实现访问个人页面之前需要先获得用户的cookie信息,然后在每次

원천:php.cn
본 웹사이트의 성명
본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.
인기 튜토리얼
더>
최신 다운로드
더>
웹 효과
웹사이트 소스 코드
웹사이트 자료
프론트엔드 템플릿