初学php,需要做一些信息抓取的工作,刚开始用的是simple-html-dom做的网页的解析,发现虽然使用起来会比较方法,但是缺点也是致命的,速度慢,控制不精准,后来也接触了snoopy,效果还是不怎么好,所以选择了使用curl+正则来做网页的抓取和解析工作。 functi
初学php,需要做一些信息抓取的工作,刚开始用的是simple-html-dom做的网页的解析,发现虽然使用起来会比较方法,但是缺点也是致命的,速度慢,控制不精准,后来也接触了snoopy,效果还是不怎么好,所以选择了使用curl+正则来做网页的抓取和解析工作。
function dangdang ($keywords)
{
//$keywords="java";//搜索关键词
$urls='http://search.dangdang.com/?key='.$keywords.'&category_path=01.00.00.00.00.00&type=01.00.00.00.00.00/';
//echo $urls;
$st=curl_init();
curl_setopt($st, CURLOPT_URL, $urls);
curl_setopt($st, CURLOPT_RETURNTRANSFER,1);//返回内容为字符串
curl_setopt($st,CURLOPT_FOLLOWLOCATION,TRUE);
curl_setopt($st,CURLOPT_MAXREDIRS,2);//设置重定向最大两次
curl_setopt($st,CURLOPT_TIMEOUT,100);//等待时间不超过五秒
$dl_page=curl_exec($st);
$info_arr=curl_getinfo($st);
//var_dump($info_arr);
preg_match_all("/<a title=.*/",$dl_page,$matches_all);
//var_dump($matches_all);
$num= count($matches_all[0]);
for($count=0;$count<$num;$count++)
{
echo $count.'<br>';
preg_match_all("/title="([^"]*)"s*class/",$matches_all[0][$count],$matches_title);
echo($matches_title[1][0]);
echo '<br>';
preg_match_all("/http://img.*jpg/",$matches_all[0][$count],$matches_img);
echo ('@@##@@');
echo '<br>';
preg_match_all("/http([^A]*)A/",$matches_all[0][$count],$matches_url);
echo($matches_url[0][0]);
echo '<br>';
preg_match_all("/http://comm([^"]*)/",$matches_all[0][$count],$matches_plurl);
//preg_match_all("/<as*href="([^"]*)"/",$matches_all[0][$count],$matches_plurl);
//var_dump($matches_plurl);//评论url
echo($matches_plurl[0][0]);
echo '<br>';
preg_match_all("/detail"s*>([^<]*)</",$matches_all[0][$count],$matches_jianjie);
echo($matches_jianjie[1][0]);
echo '<br>';
preg_match_all("/¥d+.dd/",$matches_all[0][$count],$matches_price);
preg_match_all("/d+.dd/",$matches_price[0][0],$matches_price);
echo($matches_price[0][0]);
//echo($matches_price[0][0]);
echo '<br>';
preg_match_all("/num">d*/",$matches_all[0][$count],$matches_pinglun);
preg_match_all("/d+/",$matches_pinglun[0][0],$matches_pinglun);
echo($matches_pinglun[0][0]);
echo '<br>';
preg_match_all("/title='([^']*)'/",$matches_all[0][$count],$matches_price);
echo($matches_price[1][0]);
echo '<br>';
}
}
以上代码实现了对当当网搜索数据的抓取和分析,取出了书名,作者价格简介等信息,下面介绍一下正则的使用技巧。
以亚马逊网站为例:
查看亚马逊网站搜索结果页面的源码,找到搜索商品结果部分代码
看到这个源码后相信大多数人头都大了,我们可以仔细分析网站页面的特点,我们发现每个商品的信息都是保存在li标签里面,而且每个li都有自己固定的ID
,这就是我们的突破口,即匹配li和ID即可确定每个商品的位置,还需要注意的是在每个li标签中还有换行和空行这样的地方普通的.*模糊匹配无法匹配,所以在进行模糊匹配时还需要进行换行
和空行的匹配
Dbsite企业网站管理系统V1.5.0 秉承"大道至简 邦达天下"的设计理念,以灵巧、简单的架构模式构建本管理系统。可根据需求可配置多种类型数据库(当前压缩包支持Access).系统是对多年企业网站设计经验的总结。特别适合于中小型企业网站建设使用。压缩包内包含通用企业网站模板一套,可以用来了解系统标签和设计网站使用。QQ技术交流群:115197646 系统特点:1.数据与页
0
preg_match_all("/<lis+id="result_[0-9]*.*([.
]*)\n.*\n.*\n[\s| ]*.*/",$dl_page,$matches_all);这样就可以确定每个商品的信息,然后再进行商品名称和价格的匹配,这样可以减少错误的匹配。
?
?
原文地址:PHP正则表达式的使用技巧, 感谢原作者分享。
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号