> 백엔드 개발 > PHP 튜토리얼 > 네트워크 데이터를 크롤링하는 PHP의 고전적인 방법 index.php forum.php phpno

네트워크 데이터를 크롤링하는 PHP의 고전적인 방법 index.php forum.php phpno

WBOY
풀어 주다: 2016-07-29 08:53:38
원래의
1754명이 탐색했습니다.

1. file_get_contents

get 방식으로 데이터 가져오기

$url = 'blog.csdn.net/guugle2010';
$html = file_get_contents($url);
echo $html;
로그인 후 복사

post 방식으로 데이터 가져오기

        $data = array(
                'name' => 'guugle',
                'blog' => 'blog.csdn.net/guugle2010'
        );      
        $data = http_build_query($data);
        $options = array(
                'http' => array(
                        'method' => 'POST',
                        'header' => 'Content-type:application/x-www-form-urlencode',
                        'content' => $data
                )
        );
        $url = "http://localhost/test.php";
        $context = stream_context_create($options);
        $result = file_get_contents($url, false, $context);
        echo $result;
로그인 후 복사
2. 컬 라이브러리, You 컬 확장 프로그램을 열어야 합니다
$url = 'http://blog.csdn.net/guugle2010';
$handle = fopen($url, r);
$html = '';
while(!feof($handle)){
    $html .= fgets($handle);
}
echo $html;
fclose($handle);
로그인 후 복사
$url = 'http://blog.csdn.net/guugle2010';
$ch = curl_init();
$timeout = 5;
curl_setopt ($ch, CURLOPT_URL, $url);
curl_setopt ($ch, CURLOPT_RETURNTRANSFER, 1);
curl_setopt ($ch, CURLOPT_CONNECTTIMEOUT, $timeout);
$file_contents = curl_exec($ch);
curl_close($ch);
 
echo $file_contents;
로그인 후 복사
4. fsocketopen으로 링크 열기
get 메소드로 전체 데이터(헤더 및 본문 포함) 가져오기

$url = 'http://blog.csdn.net/guugle2010';
function get_url($url,$cookie=false)
{
    $url = parse_url($url);
    $query = $url['path']."?".$url['query'];
    echo "Query:".$query;
    $fp = fsockopen( $url['host'], $url['port']?$url['port']:80 , $errno, $errstr, 30);
    if (!$fp)
    {
        return false;
    }
    else {
        $request = "GET $query HTTP/1.1\r\n";
        $request .= "Host: $url[host]\r\n";
        $request .= "Connection: Close\r\n";
        if($cookie) $request.="Cookie:   $cookie\n";
        $request.="\r\n";
        fwrite($fp,$request);
		$result = '';
        while(!feof($fp))
        {
            $result .= @fgets($fp, 1024);
        }
        fclose($fp);
        return $result;
    }
}
//获取url的html部分,去掉header
function GetUrlHTML($url,$cookie=false)
{
    $rowdata = get_url($url,$cookie);
    if($rowdata)
    {
        $body= stristr($rowdata,"\r\n\r\n");
        $body=substr($body,4,strlen($body));
        return $body;
    }

    return false;
}

echo get_url($url);

echo GetUrlHTML($url);
로그인 후 복사
전체 데이터 가져오기(포함) 게시 방법) 헤더 및 본문)
$url = 'http://blog.csdn.net/guugle2010';
function HTTP_Post($URL,$data,$cookie, $referer="")
{

	// parsing the given URL
    $URL_Info=parse_url($URL);

	// Building referrer
    if($referer=="") // if not given use this script as referrer
        $referer="<span style="font-family: Arial, Helvetica, sans-serif;">blog.csdn.net</span><span style="font-family: Arial, Helvetica, sans-serif;">";</span>

	// making string from $data
    foreach($data as $key=> $value)
    $values[]="$key=".urlencode($value);
    $data_string=implode("&",$values);

	// Find out which port is needed - if not given use standard (=80)
    if(!isset($URL_Info["port"]))
        $URL_Info["port"]=80;
	
	$request = '';
	// building POST-request:
    $request.="POST ".$URL_Info["path"]." HTTP/1.1\n";
    $request.="Host: ".$URL_Info["host"]."\n";
    $request.="Referer: $referer\n";
    $request.="Content-type: application/x-www-form-urlencoded\n";
    $request.="Content-length: ".strlen($data_string)."\n";
    $request.="Connection: close\n";

    $request.="Cookie:   $cookie\n";

    $request.="\n";
    $request.=$data_string."\n";

    $fp = fsockopen($URL_Info["host"],$URL_Info["port"]);
    fputs($fp, $request);
	$result = '';
    while(!feof($fp))
    {
        $result .= fgets($fp, 1024);
    }
    fclose($fp);

    return $result;
}

$data = array(
	'site'=>'<span style="font-family: Arial, Helvetica, sans-serif;">blog.csdn.net/guugle2010</span><span style="font-family: Arial, Helvetica, sans-serif;">', </span>
	'name'=>'guugle'); 
	
$cookie = '';
$referer = 'http://blog.csdn.net/';
	
echo HTTP_Post($url, $data, $cookie, $referer);
로그인 후 복사

위 내용은 PHP 및 네트워크 콘텐츠를 포함하여 네트워크 데이터를 캡처하는 고전적인 PHP 방법을 소개합니다. PHP 튜토리얼에 관심이 있는 친구들에게 도움이 되기를 바랍니다.

관련 라벨:
원천:php.cn
본 웹사이트의 성명
본 글의 내용은 네티즌들의 자발적인 기여로 작성되었으며, 저작권은 원저작자에게 있습니다. 본 사이트는 이에 상응하는 법적 책임을 지지 않습니다. 표절이나 침해가 의심되는 콘텐츠를 발견한 경우 admin@php.cn으로 문의하세요.
인기 튜토리얼
더>
최신 다운로드
더>
웹 효과
웹사이트 소스 코드
웹사이트 자료
프론트엔드 템플릿