php curl 自定義get方法抓取網(wǎng)頁
假設(shè)我們使用get方法請求一個(gè)網(wǎng)頁,得到網(wǎng)頁內(nèi)容后可以匹配出對應(yīng)的內(nèi)容。
我們可以使用curl封裝一個(gè)函數(shù),假設(shè)函數(shù)名就為get。傳入url就能請求指定的網(wǎng)頁,將指定網(wǎng)頁的HTML代碼返回回來。代碼如下:
function get($url) { //初使化curl $ch = curl_init(); //請求的url,由形參傳入 curl_setopt($ch, CURLOPT_URL, $url); //將得到的數(shù)據(jù)返回 curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); //不處理頭信息 curl_setopt($ch, CURLOPT_HEADER, 0); //連接超過10秒超時(shí) curl_setopt($ch, CURLOPT_TIMEOUT, 10); //執(zhí)行curl $output = curl_exec($ch); //關(guān)閉資源 curl_close($ch); //返回內(nèi)容 return $output; }
我們現(xiàn)在使用我們所寫的get方法,請求網(wǎng)易的一個(gè)列表,將標(biāo)題和url抓取出來。
我們可以先用get方法中傳入一個(gè)URL。得到這個(gè)網(wǎng)址所對應(yīng)網(wǎng)頁的html。
網(wǎng)址為新媒體觀察網(wǎng)的新聞列表頁:http://www.xmtnews.com/events 。
將紅色區(qū)域采集下來:
一、得到采紅色區(qū)間的html
這個(gè)區(qū)間從下面的HTML代碼開始:
<section class="ov">
在以下代碼結(jié)束:
<div class="hr-10"></div>
使用preg_match寫一個(gè)正則表達(dá)示就匹配就得到了紅色區(qū)間的HTML。將匹配到的HTML賦值給變量$area。
匹配的正則表達(dá)示如下:
<section class="ov">(.*?)<div class="hr-10"><\/div>/mis'
二、在紅色區(qū)域匹配標(biāo)題和標(biāo)題的URL
我們發(fā)現(xiàn)所有的標(biāo)題都在<h3>標(biāo)簽里面。我們使用preg_match_all寫一個(gè)正則表達(dá)示。
preg_match_all('/<h3><a href="(.*?)" title=".*?" class="headers" target="_blank">(.*?)<\/a><\/h3>/mis', $area, $find);
將url和內(nèi)容匹配出來的內(nèi)容放置到$find中,將$find數(shù)組,打印出來就可以看到匹配的結(jié)果了。
如果需要,也可以循環(huán)讀取顯示每一行標(biāo)題和每一行URL。
全部代碼演示如下:
<?php $content = get('http://www.xmtnews.com/events'); preg_match('/<section class="ov">(.*?)<div class="hr-10"><\/div>/mis', $content, $match); //將正則匹配到的內(nèi)容賦值給$area $area = $match[1]; preg_match_all('/<h3><a href="(.*?)" title=".*?" class="headers" target="_blank">(.*?)<\/a><\/h3>/', $area, $find); var_dump($find); function get($url) { //初使化curl $ch = curl_init(); //請求的url,由形參傳入 curl_setopt($ch, CURLOPT_URL, $url); //將得到的數(shù)據(jù)返回 curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1); //不處理頭信息 curl_setopt($ch, CURLOPT_HEADER, 0); //連接超過10秒超時(shí) curl_setopt($ch, CURLOPT_TIMEOUT, 10); //執(zhí)行curl $output = curl_exec($ch); //關(guān)閉資源 curl_close($ch); //返回內(nèi)容 return $output; } ?>