自己写的php curl库实现整站克隆功能-php手册-PHP中文网

自己写的php curl库实现整站克隆功能

php中文网

发布： 2016-06-06 20:10:28

原创

1326人浏览过

这篇文章主要介绍了自己写的php curl库实现整站克隆功能,本文给出工具库源码下载和使用示例,需要的朋友可以参考下

有时候经常会用到一些在线手册，比如国内或国外的，有些是访问速度慢，有些是作者直接吧网站关闭了，，有些是服务器总是宕机，所以还是全盘克隆到自己服务器比较爽。

库特点：

给定一初始连接，初始链接以下的层级所有文件会拷贝到本地。
多次克隆可以配置是否覆盖。
可以配置是否下载图片。
所有链接替换为相对链接，所以可以随便rewrite。
绝对不会出现文件覆盖等问题。
最NB的特点是，没有比这更NB的库了。

SVN：

本站下载：

克隆结果展示(这个克隆操作几秒钟就完成了)：

立即学习“PHP免费学习笔记（深入）”；

PHPB2B

PHP-B2B(原友邻b2b)是一套能够帮助用户,快速建立高效、多功能电子商务网站的php应用程序，本程序采用目前互联网上最流行的LAMP组合（Linux+Apache+Mysql+PHP)开发完成，同时利用Smarty模板技术实现了网站前台与后台的有效分离，用户可以快速地在此基础上开发自己的模板。友邻php提供了电子商务应用最常见求购、供应、商品、公司库等模块,同时为企业用户提供了一个发布信

查看详情

克隆源网站：
克隆结果：

Demo代码：

复制代码代码如下:

class Controller_Spider extends MyYaf_Controller_Base{
function init(){
  parent::init();
  if(!$this->getRequest()->isCli()){
      Ares_Http::error403();
  }
  include 'CurlMulti/CurlMulti.php';
  include 'CurlMulti/MyCurl.php';
  include 'phpQuery.php';
}
}

复制代码代码如下:

class YafdocController extends Controller_Spider {
function init() {
  parent::init ();
  include 'CurlMulti/MyCurl/Clone.php';
}
function indexAction() {
  $url = 'http://www.laruence.com/manual';
  $dir = Yaf_Application::app ()->getAppDirectory () . '/data/manual';
  $cacheDir = $this->getBaseDir () . '/cache/curl';
  if (! is_dir ( $cacheDir )) {
   mkdir ( $cacheDir );
  }
  $curl = new CurlMulti ();
  $curl->maxThread = 10;
  $curl->cache ['enable'] = true;
  $curl->cache ['enableDownload'] = true;
  $curl->cache ['dir'] = $cacheDir;
  $curl->cache ['compress'] = true;
  $clone = new MyCurl_Clone ( $curl, $url, $dir );
  $clone->overwrite = true;
  $clone->start ();
  return false;
}
}