Python requests库连接失败及RemoteDisconnected错误解决方案
在使用Python的requests库抓取网页时,经常会遇到连接中断的问题,例如requests.exceptions.ConnectionError: ('Connection aborted.', RemoteDisconnected('Remote end closed connection without response'))。本文将通过一个实际案例,讲解如何解决此类错误。
问题:
用户使用以下代码从剑桥词典(https://www.php.cn/link/860c3d76487bb4686b25f3ae8c0957e4:
立即学习“Python免费学习笔记(深入)”;
import requests url = "https://dictionary.cambridge.org/us/dictionary/english-arabic/hi" r = requests.get(url)
执行后出现RemoteDisconnected错误,提示远程连接在无响应的情况下关闭。使用wget工具却能正常访问,说明问题并非网站本身。
解决方案:
该错误通常是因为目标网站识别请求为机器人请求,从而主动断开连接。解决方法是在请求中添加User-Agent头部信息,模拟浏览器行为。修改后的代码如下:
import requests url = "https://dictionary.cambridge.org/us/dictionary/english-arabic/hi" headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/111.0.0.0 Safari/537.36'} r = requests.get(url, headers=headers)
通过添加User-Agent,requests库发送的请求将被网站识别为来自浏览器的正常请求,避免被误判为机器人请求而导致连接中断。 代码中使用了Chrome浏览器的User-Agent,您可以根据实际情况修改为其他浏览器或自定义User-Agent。
通过以上修改,即可有效解决requests.get()方法连接特定网站时出现的RemoteDisconnected错误,成功获取网页HTML源码。
以上就是Python requests库连接剑桥词典失败:如何解决RemoteDisconnected错误?的详细内容,更多请关注php中文网其它相关文章!
每个人都需要一台速度更快、更稳定的 PC。随着时间的推移,垃圾文件、旧注册表数据和不必要的后台进程会占用资源并降低性能。幸运的是,许多工具可以让 Windows 保持平稳运行。
Copyright 2014-2025 https://www.php.cn/ All Rights Reserved | php.cn | 湘ICP备2023035733号