首页 > 后端开发 > php教程 > 求高手,模拟浏览器抓取网页,该如何处理

求高手,模拟浏览器抓取网页,该如何处理

WBOY
发布: 2016-06-13 11:46:28
原创
909 人浏览过

求高手,模拟浏览器抓取网页
如抓取http://map.sogou.com/api/这个网页,我写的程序,如果不带网址后面的"/",会抓取得不到,但是站上网(http://tool.chinaz.com/Tools/PageCode.aspx),不带最后面的"/"即可抓取到(即:http://map.sogou.com/api),他是什么原理?下面贴出我的代码,请改进

<br /><br />function file_get($url){<br />	 ob_start();<br />	 $ch = curl_init();<br />	 <br />	 curl_setopt($ch, CURLOPT_COOKIEJAR, "./cookie.txt");<br />	 curl_setopt($ch, CURLOPT_USERAGENT, "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 5.1; .NET CLR 2.0.50727; InfoPath.1; CIBA)");<br />	curl_setopt($ch, CURLOPT_URL, $url);<br />	 curl_setopt($ch, CURLOPT_HEADER, FALSE);<br />	 curl_setopt($ch, CURLOPT_COOKIESESSION, TRUE);<br />	 curl_setopt($ch, CURLOPT_NOBODY, FALSE);<br /><br />	 curl_exec($ch);<br />	 curl_close($ch);<br />	 $content = ob_get_clean();<br />	 <br />	 <br /><br />	return $content;<br /><br />}<br />
登录后复制

------解决方案--------------------
CURLOPT_FOLLOWLOCATION

相关标签:
来源:php.cn
本站声明
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板