Python requests库连接中断:如何解决获取网页源码时遇到的RemoteDisconnected错误?

聖光之護
发布: 2025-02-27 17:28:10
原创
1001人浏览过

python requests库连接中断:如何解决获取网页源码时遇到的remotedisconnected错误?

Python requests库:有效应对远程连接中断 (RemoteDisconnected) 错误

在使用Python的requests库抓取网页数据时,经常会遇到令人头疼的requests.exceptions.ConnectionError: ('Connection aborted.', RemoteDisconnected('Remote end closed connection without response'))错误,导致程序无法获取网页源码。本文将通过一个实际案例,分析该错误的成因并提供可靠的解决方案。

问题:

假设您尝试使用以下代码从剑桥词典网站获取网页:

立即学习Python免费学习笔记(深入)”;

import requests
url = "https://dictionary.cambridge.org/us/dictionary/english-arabic/hi"
r = requests.get(url)
登录后复制

运行代码后,却出现requests.exceptions.ConnectionError,提示远程连接中断,服务器在未返回任何响应的情况下关闭了连接。 根本原因在于服务器识别出这是一个简单的请求,缺乏必要的身份信息,从而拒绝了连接。

解决方案:

解决方法是添加请求头,模拟浏览器访问。通过设置User-Agent,告知服务器请求来自浏览器,避免被识别为恶意请求或爬虫而被拒绝。修改后的代码如下:

import requests
url = "https://dictionary.cambridge.org/us/dictionary/english-arabic/hi"
headers = {'User-Agent': 'Mozilla/5.0 (Macintosh; Intel Mac OS X 10_15_7) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/111.0.0.0 Safari/537.36'}
r = requests.get(url, headers=headers)
登录后复制

通过在requests.get()函数中添加headers参数,并使用一个常见的浏览器User-Agent字符串(此处模拟Chrome浏览器),可以有效模拟浏览器行为,从而成功获取网页源码。您可以根据需要选择其他浏览器或自定义User-Agent。添加请求头后,服务器将识别请求为正常的浏览器请求,从而允许连接并返回网页数据。

通过以上方法,您可以有效地避免RemoteDisconnected错误,顺利地使用requests库获取网页内容。 记住,选择合适的User-Agent并尊重网站的robots.txt文件是负责任的网络爬取行为。

以上就是Python requests库连接中断:如何解决获取网页源码时遇到的RemoteDisconnected错误?的详细内容,更多请关注php中文网其它相关文章!

最佳 Windows 性能的顶级免费优化软件
最佳 Windows 性能的顶级免费优化软件

每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。

下载
来源:php中文网
本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
最新问题
开源免费商场系统广告
热门教程
更多>
最新下载
更多>
网站特效
网站源码
网站素材
前端模板
关于我们 免责申明 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号 技术交流群
PHP中文网订阅号
每天精选资源文章推送
PHP中文网APP
随时随地碎片化学习
PHP中文网抖音号
发现有趣的

Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号