一个新闻采集功能,朋友们指教!解决思路

php中文网
发布: 2016-06-13 13:30:15
原创
1080人浏览过

一个新闻采集功能,朋友们指教!
批量采集的时候有时候会有一些新闻不能采集到(只是少部分),不清楚什么原因,朋友们帮看下
我是采集腾讯的新闻

PHP code
<!--

Code highlighting produced by Actipro CodeHighlighter (freeware)
http://www.CodeHighlighter.com/

-->
$url = "http://news.qq.com/newsgn/zhxw/shizhengxinwen.htm";
$urlcontent = file_get_contents($url);

preg_match_all("/<a.{1,20}href=\"(http:\/\/news\.qq\.com\/.{1,50}\/\d{1,20}\.htm)\".{1,80}<span class=\"pub\_time\">/isU", $urlcontent, $urlcontent);
//程序运行到此正常,能拿出列表页要采集新闻的连接
$urllength=count($urlcontent[1]);

$conpattern = "/<div id=\"C-Main-Article-QQ\" class=\"mod-left\">.+<h1>(.+)<\/h1>.+<span class=\"pubTime\">(.+)<\/span>.+<div id=\"Cnt-Main-Article-QQ\" bossZone=\"content\">(.+)<div class=\"ft\">/isU";
for($i=0;$i<=$urllength-1;$i++){
    $newstr = file_get_contents($urlcontent[1][$i]);
    preg_match_all($conpattern, $newstr, $art_arr);
    if(isset($art_arr[1][0])){ //因为有时候采集不到,所以我在这里判断下,问题就在这里,不知道什么原因采集不到,朋友们帮分析下。谢谢了
        echo $art_arr[1][0]."<br />";
    }
    
}

登录后复制


------解决方案--------------------
你怎么也认真的判断一下file_get_contents的返回值吧。
------解决方案--------------------
file_get_contents换curl吧,

$url = "http://news.qq.com/newsgn/zhxw/shizhengxinwen.htm";
$ch = curl_init(); 
curl_setopt($ch, CURLOPT_URL, $url);
curl_setopt($ch, CURLOPT_RETURNTRANSFER, 1);
$urlcontent = curl_exec($ch); 
curl_close($ch);
相关标签:
最佳 Windows 性能的顶级免费优化软件
最佳 Windows 性能的顶级免费优化软件

每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。

下载
来源:php中文网
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
热门推荐
开源免费商场系统广告
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新 English
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号