为什么用curl或file_get_content抓取不到数据。-PHP-Tutorial-php.cn

为什么用curl或file_get_content抓取不到数据。

WBOY

Freigeben： 2016-06-23 13:43:21

Original

1200 Leute haben es durchsucht

为什么用curl或file_get_content抓取不到数据。

百度经验里，比如http://jingyan.baidu.com/article/00a07f38441c3782d028dc04.html，
直接看页面源代码，是有文章数据。
但是用curl ，file_get_content.都无法正常获取文章内容。
这是为什么？已经伪造了IP，来路等，但还是抓取不到。百度是通过什么防止抓取数据的？

以下是代码：

function fcontents( $url, $timeout = 5, $referer = "" ){    $ch = curl_init();    $header = array (        'User-Agent: Mozilla/5.0 (Windows NT 5.2) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/35.0.1916.153 Safari/537.36','X-FORWARDED-FOR:154.125.25.15', 'CLIENT-IP:154.125.25.15'    );    curl_setopt($ch, CURLOPT_URL, $url);    curl_setopt($ch, CURLOPT_TIMEOUT, $timeout);    curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);    curl_setopt($ch, CURLOPT_HTTPHEADER, $header); //构造用户IP    curl_setopt($ch, CURLOPT_REFERER, "http://www.baidu.com/");//构造来路     $result = curl_exec($ch);    curl_close($ch);    return $result;}$html = fcontents('http://jingyan.baidu.com/article/00a07f38441c3782d028dc04.html');echo $html;

Nach dem Login kopieren

回复讨论(解决方案)

curl 只是抓取这个页面内容，但这个页面有其它许多的动态内容是不能通过抓取去填充的

文章数据应该不是动态的吧，我们查看页面源代码，应该是能查看到的代码通过curl都能抓取到吧，而且这个页面不用登陆也能看到，搜索引擎的蜘蛛也能抓取，为什么我现在用curl抓取不到呢？

没有cookie的原因吧。先把cookie加上。

$url = "http://jingyan.baidu.com/article/00a07f38441c3782d028dc04.html";$cookie_jar = dirname(__FILE__)."/jy.cookie";/* 获取cookie */$ch = curl_init();curl_setopt($ch, CURLOPT_URL, $url);curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);curl_setopt($ch, CURLOPT_COOKIEJAR, $cookie_jar);curl_exec($ch);curl_close($ch);

Nach dem Login kopieren

然后请求的时候带上cookie:

$ch = curl_init();curl_setopt($ch, CURLOPT_URL, $url);curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie_jar);curl_setopt($ch, CURLOPT_HEADER, 0);$res = curl_exec($ch);curl_close($ch);echo $res;

Nach dem Login kopieren

没有cookie的原因吧。先把cookie加上。

$url = "http://jingyan.baidu.com/article/00a07f38441c3782d028dc04.html";$cookie_jar = dirname(__FILE__)."/jy.cookie";/* 获取cookie */$ch = curl_init();curl_setopt($ch, CURLOPT_URL, $url);curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);curl_setopt($ch, CURLOPT_COOKIEJAR, $cookie_jar);curl_exec($ch);curl_close($ch);

Nach dem Login kopieren

然后请求的时候带上cookie:

$ch = curl_init();curl_setopt($ch, CURLOPT_URL, $url);curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie_jar);curl_setopt($ch, CURLOPT_HEADER, 0);$res = curl_exec($ch);curl_close($ch);echo $res;

Nach dem Login kopieren

加了也不行。在本地环境和三个不同IP的服务器上试了，都抓不到。

没有cookie的原因吧。先把cookie加上。

$url = "http://jingyan.baidu.com/article/00a07f38441c3782d028dc04.html";$cookie_jar = dirname(__FILE__)."/jy.cookie";/* 获取cookie */$ch = curl_init();curl_setopt($ch, CURLOPT_URL, $url);curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);curl_setopt($ch, CURLOPT_COOKIEJAR, $cookie_jar);curl_exec($ch);curl_close($ch);

Nach dem Login kopieren

然后请求的时候带上cookie:

$ch = curl_init();curl_setopt($ch, CURLOPT_URL, $url);curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie_jar);curl_setopt($ch, CURLOPT_HEADER, 0);$res = curl_exec($ch);curl_close($ch);echo $res;

Nach dem Login kopieren

加了也不行。在本地环境和三个不同IP的服务器上试了，都抓不到。

使用我上面的代码，抓取到的就是百度经验的页面。你为何不把你的代码贴出来（加上cookie的代码）。

没有cookie的原因吧。先把cookie加上。

$url = "http://jingyan.baidu.com/article/00a07f38441c3782d028dc04.html";$cookie_jar = dirname(__FILE__)."/jy.cookie";/* 获取cookie */$ch = curl_init();curl_setopt($ch, CURLOPT_URL, $url);curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);curl_setopt($ch, CURLOPT_COOKIEJAR, $cookie_jar);curl_exec($ch);curl_close($ch);

Nach dem Login kopieren

然后请求的时候带上cookie:

$ch = curl_init();curl_setopt($ch, CURLOPT_URL, $url);curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);curl_setopt($ch, CURLOPT_COOKIEFILE, $cookie_jar);curl_setopt($ch, CURLOPT_HEADER, 0);$res = curl_exec($ch);curl_close($ch);echo $res;

Nach dem Login kopieren

加了也不行。在本地环境和三个不同IP的服务器上试了，都抓不到。

使用我上面的代码，抓取到的就是百度经验的页面。你为何不把你的代码贴出来（加上cookie的代码）。

非常感谢，是我自己弄错了。少加了一行代码。