0

0

PHP Simple HTML DOM 抓取启用缓存的网站返回乱码的解决方案

聖光之護

聖光之護

发布时间:2025-08-15 18:26:35

|

388人浏览过

|

来源于php中文网

原创

php simple html dom 抓取启用缓存的网站返回乱码的解决方案

本文旨在解决在使用 PHP Simple HTML DOM 库抓取启用了 WordPress 内部缓存的网站时,遇到的返回乱码问题。通过使用 cURL 并设置 CURLOPT_ACCEPT_ENCODING 选项,或使用 gzdecode() 函数,可以有效解决首次抓取正常,后续抓取出现乱码的情况,确保数据抓取的准确性。

在使用 PHP Simple HTML DOM 库进行网页抓取时,可能会遇到一种特殊情况:当目标网站启用了缓存机制(例如 WordPress 内部缓存)后,首次抓取能够正常获取页面内容,但后续的抓取却返回乱码。这通常是由于服务器返回了经过压缩的内容,而 Simple HTML DOM 库没有自动处理压缩数据导致的。

以下提供两种解决方案:

方案一:使用 cURL 并设置 CURLOPT_ACCEPT_ENCODING

立即学习PHP免费学习笔记(深入)”;

cURL 是一个强大的网络请求库,通过设置 CURLOPT_ACCEPT_ENCODING 选项,可以告诉服务器客户端支持的压缩格式,并自动解压缩服务器返回的内容。

load($html_content);

echo $html;

?>

代码解释:

神笔马良
神笔马良

神笔马良 - AI让剧本一键成片。

下载
  1. curl_init(): 初始化一个 cURL 会话。
  2. curl_setopt($curl, CURLOPT_URL, $url): 设置要抓取的 URL。
  3. curl_setopt($curl, CURLOPT_RETURNTRANSFER, true): 设置 cURL 返回结果为字符串,而不是直接输出。
  4. curl_setopt($curl, CURLOPT_USERAGENT, 'Chrome/94.0.4606.81'): 设置 User-Agent,模拟浏览器请求。 建议根据实际情况设置合适的 User-Agent。
  5. curl_setopt($curl, CURLOPT_ACCEPT_ENCODING, ""): 关键步骤,设置 CURLOPT_ACCEPT_ENCODING 为空字符串,表示接受服务器支持的所有编码格式,cURL 会自动处理压缩数据。
  6. curl_exec($curl): 执行 cURL 请求,获取网页内容。
  7. curl_close($curl): 关闭 cURL 会话。
  8. $html = new simple_html_dom();: 创建 Simple HTML DOM 对象。
  9. $html->load($html_content): 将抓取的 HTML 内容加载到 Simple HTML DOM 对象中。
  10. echo $html;: 输出解析后的 HTML 内容。

方案二:使用 gzdecode() 函数

如果服务器返回的内容是 gzip 压缩的,可以使用 gzdecode() 函数手动解压缩。

 array('header' => "User-Agent:Chrome/94.0.4606.81\r\n")
);
$context = stream_context_create($opts);
$html = new simple_html_dom();
$get = file_get_contents($url, false, $context);

// 检查是否是 gzip 压缩的数据
if (substr($get, 0, 2) == "\x1f\x8b") {
    $get = gzdecode($get);
}

$html->load($get);

echo $html;

?>

代码解释:

  1. substr($get, 0, 2) == "\x1f\x8b": 检查返回的内容的前两个字节是否为 gzip 压缩文件的标志位 \x1f\x8b。
  2. $get = gzdecode($get): 如果检测到是 gzip 压缩的数据,则使用 gzdecode() 函数进行解压缩。

注意事项:

  • 确保 PHP 环境已启用 cURL 扩展。如果使用 gzdecode() 函数,确保 PHP 环境支持 zlib 扩展。
  • 在某些情况下,服务器可能会返回其他类型的压缩数据(例如 deflate),需要使用相应的解压缩函数进行处理。
  • 建议优先使用 cURL 方案,因为它能够自动处理多种压缩格式,更加灵活。
  • 在抓取网站内容时,请遵守网站的 robots.txt 协议,避免过度抓取,以免对服务器造成不必要的负担。

总结:

当使用 PHP Simple HTML DOM 抓取启用缓存的网站出现乱码时,通常是由于服务器返回了压缩数据。 通过使用 cURL 并设置 CURLOPT_ACCEPT_ENCODING 选项,或使用 gzdecode() 函数,可以有效地解决这个问题,确保能够正确抓取和解析网页内容。 在实际应用中,应根据具体情况选择合适的解决方案。

相关文章

HTML速学教程(入门课程)
HTML速学教程(入门课程)

HTML怎么学习?HTML怎么入门?HTML在哪学?HTML怎么学才快?不用担心,这里为大家提供了HTML速学教程(入门课程),有需要的小伙伴保存下载就能学习啦!

下载

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

相关专题

更多
php文件怎么打开
php文件怎么打开

打开php文件步骤:1、选择文本编辑器;2、在选择的文本编辑器中,创建一个新的文件,并将其保存为.php文件;3、在创建的PHP文件中,编写PHP代码;4、要在本地计算机上运行PHP文件,需要设置一个服务器环境;5、安装服务器环境后,需要将PHP文件放入服务器目录中;6、一旦将PHP文件放入服务器目录中,就可以通过浏览器来运行它。

2395

2023.09.01

php怎么取出数组的前几个元素
php怎么取出数组的前几个元素

取出php数组的前几个元素的方法有使用array_slice()函数、使用array_splice()函数、使用循环遍历、使用array_slice()函数和array_values()函数等。本专题为大家提供php数组相关的文章、下载、课程内容,供大家免费下载体验。

1546

2023.10.11

php反序列化失败怎么办
php反序列化失败怎么办

php反序列化失败的解决办法检查序列化数据。检查类定义、检查错误日志、更新PHP版本和应用安全措施等。本专题为大家提供php反序列化相关的文章、下载、课程内容,供大家免费下载体验。

1442

2023.10.11

php怎么连接mssql数据库
php怎么连接mssql数据库

连接方法:1、通过mssql_系列函数;2、通过sqlsrv_系列函数;3、通过odbc方式连接;4、通过PDO方式;5、通过COM方式连接。想了解php怎么连接mssql数据库的详细内容,可以访问下面的文章。

951

2023.10.23

php连接mssql数据库的方法
php连接mssql数据库的方法

php连接mssql数据库的方法有使用PHP的MSSQL扩展、使用PDO等。想了解更多php连接mssql数据库相关内容,可以阅读本专题下面的文章。

1414

2023.10.23

html怎么上传
html怎么上传

html通过使用HTML表单、JavaScript和PHP上传。更多关于html的问题详细请看本专题下面的文章。php中文网欢迎大家前来学习。

1233

2023.11.03

PHP出现乱码怎么解决
PHP出现乱码怎么解决

PHP出现乱码可以通过修改PHP文件头部的字符编码设置、检查PHP文件的编码格式、检查数据库连接设置和检查HTML页面的字符编码设置来解决。更多关于php乱码的问题详情请看本专题下面的文章。php中文网欢迎大家前来学习。

1445

2023.11.09

php文件怎么在手机上打开
php文件怎么在手机上打开

php文件在手机上打开需要在手机上搭建一个能够运行php的服务器环境,并将php文件上传到服务器上。再在手机上的浏览器中输入服务器的IP地址或域名,加上php文件的路径,即可打开php文件并查看其内容。更多关于php相关问题,详情请看本专题下面的文章。php中文网欢迎大家前来学习。

1305

2023.11.13

c++主流开发框架汇总
c++主流开发框架汇总

本专题整合了c++开发框架推荐,阅读专题下面的文章了解更多详细内容。

80

2026.01.09

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
第二十三期_前端开发
第二十三期_前端开发

共98课时 | 7.3万人学习

WordPress视频教程
WordPress视频教程

共23课时 | 9.6万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号