Python问题：requests.exceptions.ConnectionError

作者：free

2022年8月23日 20:04 星期二

字号：小中大

在爬虫中报如下的错误：
requests.exceptions.ConnectionError: (‘Connection aborted.’, RemoteDisconnected(‘Remote end closed connection without response’,))

发现该错误是因为如下：
1、http的连接数超过最大限制，默认的情况下连接是Keep-alive的，所以这就导致了服务器保持了太多连接而不能再新建连接。

2、ip被封

3、程序请求速度过快。

解决办法如下：

第一种方法：

try:
    page1 = requests.get(ap)
except requests.exceptions.ConnectionError:
    r.status_code = "Connection refused"

第二种方法：

request的连接数过多而导致Max retries exceeded

在header中不使用持久连接

'Connection': 'close'
或
requests.adapters.DEFAULT_RETRIES = 5

第三种方法：
1）随机切换User-Agent：

 user_agent_list = ["Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/68.0.3440.106 Safari/537.36",
                    "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/67.0.3396.99 Safari/537.36",
                    "Mozilla/5.0 (Windows NT 10.0; …) Gecko/20100101 Firefox/61.0",
                    "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/64.0.3282.186 Safari/537.36",
                    "Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/62.0.3202.62 Safari/537.36",
                    "Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/45.0.2454.101 Safari/537.36",
                    "Mozilla/4.0 (compatible; MSIE 7.0; Windows NT 6.0)",
                    "Mozilla/5.0 (Macintosh; U; PPC Mac OS X 10.5; en-US; rv:1.9.2.15) Gecko/20110303 Firefox/3.6.15",
                    ]
                headers['User-Agent'] = random.choice(user_agent_list)

2）访问频率的设置：

time.sleep(6)

#测试一下，如果是与访问频率有关可设置时间长一点

3）使用代理ip:

self.proxies = {
            "http": ip,
            "https":ip,
        }

您阅读这篇文章共花了：

Python Tkinter bg/fg 颜色值

Python中strptime()和strftime()的区别和用法

本文无需标签！

本文作者：free 文章标题： Python问题：requests.exceptions.ConnectionError
本文地址：https://renchuanchuan.com/?post=27
版权声明：若无注明，本文皆为“RCC”原创，转载请保留文章出处。