php curl 自定義get方法抓取網(wǎng)頁
假設(shè)我們使用get方法請(qǐng)求一個(gè)網(wǎng)頁,得到網(wǎng)頁內(nèi)容後可以符合出對(duì)應(yīng)的內(nèi)容。
我們可以使用curl封裝一個(gè)函數(shù),假設(shè)函數(shù)名稱就是get。傳入url就能請(qǐng)求指定的網(wǎng)頁,將指定網(wǎng)頁的HTML程式碼回傳回來。程式碼如下:
function get($url) { //初使化curl $ch = curl_init(); //請(qǐng)求的url,由形參傳入 curl_setopt($ch, CURLOPT_URL, $url); //將得到的數(shù)據(jù)返回 curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); //不處理頭信息 curl_setopt($ch, CURLOPT_HEADER, 0); //連接超過10秒超時(shí) curl_setopt($ch, CURLOPT_TIMEOUT, 10); //執(zhí)行curl $output = curl_exec($ch); //關(guān)閉資源 curl_close($ch); //返回內(nèi)容 return $output; }
我們現(xiàn)在使用我們所寫的get方法,請(qǐng)求網(wǎng)易的一個(gè)列表,將標(biāo)題和url抓取出來。
我們可以先用get方法中傳入一個(gè)URL。得到這個(gè)網(wǎng)址所對(duì)應(yīng)網(wǎng)頁的html。
網(wǎng)址為新媒體觀察網(wǎng)站的新聞列表頁:http://www.xmtnews.com/events?。
將紅色區(qū)域採(cǎi)集下來:
一、得到採(cǎi)紅色區(qū)間的html?
這個(gè)區(qū)間從下面的HTML程式碼開始:
<section class="ov">
在以下程式碼結(jié)束:
<div class="hr-10"></div>
使用preg_match寫一個(gè)正規(guī)表示示就符合就符合就得到了紅色區(qū)間的HTML。將符合到的HTML賦值給變數(shù)$area。
匹配的正規(guī)表示如下:
<section class="ov">(.*?)<div class="hr-10"><\/div>/mis'
二、在紅色區(qū)域匹配標(biāo)題和標(biāo)題的URL
我們發(fā)現(xiàn)所有的標(biāo)題都在<h3>標(biāo)籤裡面。我們使用preg_match_all寫一個(gè)正規(guī)表示示。
preg_match_all('/<h3><a href="(.*?)" title=".*?" class="headers" target="_blank">(.*?)<\/a><\/h3>/mis', $area, $find);
將url和內(nèi)容配對(duì)出來的內(nèi)容放置到$find中,將$find數(shù)組,印出來就可以看到匹配的結(jié)果了。
如果需要,也可以循環(huán)讀取顯示每一行標(biāo)題和每一行URL。
全部程式碼示範(fàn)如下:
<?php $content = get('http://www.xmtnews.com/events'); preg_match('/<section class="ov">(.*?)<div class="hr-10"><\/div>/mis', $content, $match); //將正則匹配到的內(nèi)容賦值給$area $area = $match[1]; preg_match_all('/<h3><a href="(.*?)" title=".*?" class="headers" target="_blank">(.*?)<\/a><\/h3>/', $area, $find); var_dump($find); function get($url) { //初使化curl $ch = curl_init(); //請(qǐng)求的url,由形參傳入 curl_setopt($ch, CURLOPT_URL, $url); //將得到的數(shù)據(jù)返回 curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); //不處理頭信息 curl_setopt($ch, CURLOPT_HEADER, 0); //連接超過10秒超時(shí) curl_setopt($ch, CURLOPT_TIMEOUT, 10); //執(zhí)行curl $output = curl_exec($ch); //關(guān)閉資源 curl_close($ch); //返回內(nèi)容 return $output; } ?>