Python requests库连接失败及RemoteDisconnected错误解决方案
在使用Python的requests库抓取网页时,经常会遇到连接中断的问题,例如requests.exceptions.ConnectionError: (‘Connection aborted.’, RemoteDisconnected(‘Remote end closed connection without response’))。本文将通过一个实际案例,讲解如何解决此类错误。
问题:
用户使用以下代码从剑桥词典(https://www.php.cn/link/860c3d76487bb4686b25f3ae8c0957e4:
立即学习“Python免费学习笔记(深入)”;
import requestsurl = "https://dictionary.cambridge.org/us/dictionary/english-arabic/hi"r = requests.get(url)
登录后复制
执行后出现RemoteDisconnected错误,提示远程连接在无响应的情况下关闭。使用wget工具却能正常访问,说明问题并非网站本身。
解决方案:
该错误通常是因为目标网站识别请求为机器人请求,从而主动断开连接。解决方法是在请求中添加User-Agent头部信息,模拟浏览器行为。修改后的代码如下:
import requestsurl = "https://dictionary.cambridge.org/us/dictionary/english-arabic/hi"headers = {'User-Agent': 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/111.0.0.0 Safari/537.36'}r = requests.get(url, headers=headers)
登录后复制
通过添加User-Agent,requests库发送的请求将被网站识别为来自浏览器的正常请求,避免被误判为机器人请求而导致连接中断。 代码中使用了Chrome浏览器的User-Agent,您可以根据实际情况修改为其他浏览器或自定义User-Agent。
通过以上修改,即可有效解决requests.get()方法连接特定网站时出现的RemoteDisconnected错误,成功获取网页HTML源码。
以上就是Python requests库连接剑桥词典失败:如何解决RemoteDisconnected错误?的详细内容,更多请关注【创想鸟】其它相关文章!
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至253000106@qq.com举报,一经查实,本站将立刻删除。
发布者:PHP中文网,转转请注明出处:https://www.chuangxiangniao.com/p/2528105.html