php下通过curl抓取yahoo boss 搜索结果的实现代码

高洛峰
发布: 2016-11-30 10:23:19
原创
968人浏览过

1.编写curl类,进行网页内容抓取 
复制代码 代码如下: 
class curlutil 

private $curl; 
private $timeout = 10; 
/** 
* 初始化curl对象 
*/ 
public function __construct() 

$this-youjiankuohaophpcncurl = curl_init(); 
curl_setopt($this->curl, curlopt_returntransfer, 1); 
curl_setopt($this->curl, curlopt_useragent, "mozilla/4.0 (compatible; msie 6.0; windows nt 5.1; sv1)"); 
curl_setopt($this->curl, curlopt_header, false); //设定是否显示头信息 
curl_setopt($this->curl, curlopt_nobody, false); //设定是否输出页面内容 
curl_setopt($this->curl, curlopt_connecttimeout, $this->timeout); 
curl_setopt($this->curl, curlopt_followlocation, true); 
curl_setopt($this->curl, curlopt_autoreferer, true); 

/** 
* 注销函数 关闭curl对象 
*/ 
public function __destruct() 

curl_close($this->curl); 

/** 
* 获取网页的内容 
*/ 
public function getwebpagecontent($url) 

curl_setopt($this->curl, curlopt_url, $url); 
return curl_exec($this->curl); 




2.创建curl对象 
复制代码 代码如下: 
$curlutil = new curlutil(); 

3.抓取yahoo搜索结果 
复制代码 代码如下: 
function getyahoosearch(curlutil $curl, $key) 

$key = urlencode($key); 
$searchurl = "http://boss.yahooapis.com/ysearch/web/v1/$key?appid=你的雅虎appid&lang=tzh®ion=hk&abstract=long&count=20&format=json&start=0&count=10"; 
$josnstr = $curl->getwebpagecontent($searchurl); 
$searchdatainfo = json_decode($josnstr, true); 
$searchdata = $searchdatainfo['ysearchresponse']['resultset_web']; 
$returnarray = array(); 
if (!empty($searchdata)) { 
foreach ($searchdata as $data) { 
$returnarray[] = array("url" => $data['url'], "date" => $data['date'], 'title' => strip_tags($data['title']), 'description' => strip_tags($data['abstract'])); 


return $returnarray; 


4.测试结果 
var_dump(getyahoosearch($curlutil, "百度")); 

相关标签:
php
PHP速学教程(入门到精通)
PHP速学教程(入门到精通)

PHP怎么学习?PHP怎么入门?PHP在哪学?PHP怎么学才快?不用担心,这里为大家提供了PHP速学教程(入门到精通),有需要的小伙伴保存下载就能学习啦!

下载
来源:php中文网
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
开源免费商场系统广告
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新 English
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号