初学php,需要做一些信息抓取的工作,刚开始用的是simple-html-dom做的网页的解析,发现虽然使用起来会比较方法,但是缺点也是致命的,速度慢,控制不精准,后来也接触了snoopy,效果还是不怎么好,所以选择了使用curl+正则来做网页的抓取和解析工作。 functi
初学php,需要做一些信息抓取的工作,刚开始用的是simple-html-dom做的网页的解析,发现虽然使用起来会比较方法,但是缺点也是致命的,速度慢,控制不精准,后来也接触了snoopy,效果还是不怎么好,所以选择了使用curl+正则来做网页的抓取和解析工作。
function dangdang ($keywords) { //$keywords="java";//搜索关键词 $urls='http://search.dangdang.com/?key='.$keywords.'&category_path=01.00.00.00.00.00&type=01.00.00.00.00.00/'; //echo $urls; $st=curl_init(); curl_setopt($st, CURLOPT_URL, $urls); curl_setopt($st, CURLOPT_RETURNTRANSFER,1);//返回内容为字符串 curl_setopt($st,CURLOPT_FOLLOWLOCATION,TRUE); curl_setopt($st,CURLOPT_MAXREDIRS,2);//设置重定向最大两次 curl_setopt($st,CURLOPT_TIMEOUT,100);//等待时间不超过五秒 $dl_page=curl_exec($st); $info_arr=curl_getinfo($st); //var_dump($info_arr); preg_match_all("/<a title=.*/",$dl_page,$matches_all); //var_dump($matches_all); $num= count($matches_all[0]); for($count=0;$count<$num;$count++) { echo $count.'<br>'; preg_match_all("/title="([^"]*)"s*class/",$matches_all[0][$count],$matches_title); echo($matches_title[1][0]); echo '<br>'; preg_match_all("/http://img.*jpg/",$matches_all[0][$count],$matches_img); echo ('@@##@@'); echo '<br>'; preg_match_all("/http([^A]*)A/",$matches_all[0][$count],$matches_url); echo($matches_url[0][0]); echo '<br>'; preg_match_all("/http://comm([^"]*)/",$matches_all[0][$count],$matches_plurl); //preg_match_all("/<as*href="([^"]*)"/",$matches_all[0][$count],$matches_plurl); //var_dump($matches_plurl);//评论url echo($matches_plurl[0][0]); echo '<br>'; preg_match_all("/detail"s*>([^<]*)</",$matches_all[0][$count],$matches_jianjie); echo($matches_jianjie[1][0]); echo '<br>'; preg_match_all("/¥d+.dd/",$matches_all[0][$count],$matches_price); preg_match_all("/d+.dd/",$matches_price[0][0],$matches_price); echo($matches_price[0][0]); //echo($matches_price[0][0]); echo '<br>'; preg_match_all("/num">d*/",$matches_all[0][$count],$matches_pinglun); preg_match_all("/d+/",$matches_pinglun[0][0],$matches_pinglun); echo($matches_pinglun[0][0]); echo '<br>'; preg_match_all("/title='([^']*)'/",$matches_all[0][$count],$matches_price); echo($matches_price[1][0]); echo '<br>'; } }
以上代码实现了对当当网搜索数据的抓取和分析,取出了书名,作者价格简介等信息,下面介绍一下正则的使用技巧。
以亚马逊网站为例:
查看亚马逊网站搜索结果页面的源码,找到搜索商品结果部分代码
看到这个源码后相信大多数人头都大了,我们可以仔细分析网站页面的特点,我们发现每个商品的信息都是保存在li标签里面,而且每个li都有自己固定的ID
,这就是我们的突破口,即匹配li和ID即可确定每个商品的位置,还需要注意的是在每个li标签中还有换行和空行这样的地方普通的.*模糊匹配无法匹配,所以在进行模糊匹配时还需要进行换行
和空行的匹配
preg_match_all("/<lis+id="result_[0-9]*.*([. ]*)\n.*\n.*\n[\s| ]*.*/",$dl_page,$matches_all);
这样就可以确定每个商品的信息,然后再进行商品名称和价格的匹配,这样可以减少错误的匹配。
?
?
原文地址:PHP正则表达式的使用技巧, 感谢原作者分享。
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号