首頁 > 後端開發 > php教程 > dede採集器 利用PHP製作簡單的內容擷取器的原理分析

dede採集器 利用PHP製作簡單的內容擷取器的原理分析

WBOY
發布: 2016-07-29 08:38:55
原創
1270 人瀏覽過

前幾天做了個小說連載的程序,因為怕更新麻煩,順帶就寫了個採集器,採集八路中文網的,功能比較簡單,不能自訂規則,不過大概思路都在裡面了,自訂規則可以自己來擴充。
  用php來做採集器主要用到兩個函數:file_get_contents()和preg_match_all(),前一個是遠端讀取網頁內容的,不過只在php5以上的版本才能用,後一個是正規函數,用來提取需要的內容的。
  下面就一步一步來講功能實作。
  因為是採集小說,所以首先要將書名、作者、類型這三個提取出來,別的資訊可根據需要提取。
  這裡以《回到明朝當王爺》為目標,先打開書目頁,連結:http://www.86zw.com/Book/3727/Index.aspx
  多打開幾本書會發現,書名的基本格式是:http://www.86zw.com/Book/書號/Index.aspx,所以我們可以做一個開始頁,定義一個,用來輸入需要採集的書號,以後就可以透過$_POST['number']這種格式來接收需要採集的書號了。接收到書號,以下要做的就是建構書目頁:$url=http://www.86zw.com/Book/$_POST['number']/Index.aspx,當然這裡是舉個例子,主要是為了講解方便,實際製作的時候最好檢查$_POST['number']的合法性。
  構造好URL以後就可以開始採集書籍資訊了。使用file_get_contents() 函數開啟書目頁:$c 打開書目頁,查看原始文件,找到“《回到明朝當王爺》”,這就是要提取出來的書名了。提取書名的正規表示式:/(.*?)/is,使用preg_match_all()函數將書名取出:preg_match_all("/(.*?)/is",$contents,$title);這樣$title[0][0]的內容就是我們要的標題了(preg_match_all函數的用法可以去百度查,這裡就不詳細說明了)。取出了書籍信息,接下來就是取章節內容了,要取章節內容,首先要做的就是找到每一章的地址,然後遠程打開章節,用正則將內容取出來,入庫或者直接生成html靜態文件。這是章節清單的網址:http://www.86zw.com/Html/Book/18/3727/List.shtm,可以看出這篇和書目頁一樣,是有規律可尋的:http://www .86zw.com/Html/Book/分類號碼/書號/List.shtm。書號前面已經取得,這裡的關鍵是找到分類號,分類號可以在前面的書目頁找到,提取分類號:
  preg_match_all("/Html/Book/[0-9]{1,}/[0 -9]{1,}/List.shtm/is",$contents,$typeid);這樣還不夠,還需要一個切取函數:
PHP程式碼如下:
function cut($string,$start ,$end){
$message = explode($start,$string);
$message = explode($end,$message[1]); return $message[0];}其中$string為要被切取的內容,$start為開始的地方,$end為結束的地方。取出分類號碼:
$start = "Html/Book/";
$end
= "List.shtm";
$typeid = cut($typeid[0][0],$ start,$end);
$typeid = explode("/",$typeid);[/php]
  這樣,$typeid[0]就是我們要找的分類號碼了。接下來就是建構章節清單的網址了:$chapterurl = http://www.86zw.com/Html/Book/.$typeid[0]/$_POST[‘number']/List.shtm。有了這個就能找到每一章節的地址了。方法如下:
$ustart = """;
$uend
= """;
//t表示title的縮寫
$tstart = ">";
$ tend
= "//取路徑,例如:123.shtm,2342.shtm,233.shtm
preg_match_all("/"[0-9]{1,}.(shtm )"/is",$chapterurl,$url);
//取標題,例如:第一章九世善人
preg_match_all("//is",$file,$title);
$count = count($url[0]);
for($i=0;$i {
$u = cut($url[0][$i],$ustart,$uend);
$t = cut($title[0] [$i],$tstart,$tend);
$array[$u] = $t;
}
  $array數組就是所有的章節位址了,到這裡,採集器就完成一半了,剩下的就是循環打開每個章節地址,讀取,然後將內容匹配出來。這個比較簡單,這裡就不詳細敘述了。好了,今天就先寫到這吧,第一次寫這麼長的文章,語言組織方面難免有問題,還請大家多包涵!

以上就介紹了dede採集器 利用PHP製作簡單的內容採集器的原理分析,包括了dede採集器方面的內容,希望對PHP教程有興趣的朋友有所幫助。

相關標籤:
來源:php.cn
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
最新問題
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板