代理IP请求过于频繁的原因是什么

2020-06-23

极光小编

相信许多朋友在爬虫工作者时常会碰到“您的请求过于频繁,请稍后再试”,这个时候心里莫名的一慌,爬虫代码完全没有问题呀,但是为何爬着爬着突然之间爬不动了呢?那么,很有可能,你的爬虫被识破了,轻则友好提示警告,重则将IP关入小黑屋。

那么,怎么办呢,有人认为用代理IP呀,专治各种不服。不错,用代理IP的确不失为一个解决问题的好办法。IP被封了就换新IP继续爬,或是用许多IP同时多线程爬,都很给力的。

于是,爬虫工作者用上了代理IP,重整旗鼓继续爬,但好景不长,没爬多久又被提示“您的请求过于频繁,请稍后再试”。再换IP还是被封,再换再封,封的越来越快,效率非常低下,这是为什么呢?

那是因为,你用的代理IP凑巧也是别人用于访问同样的网站的,并且用的还较频繁,这类情况一般出现在免费代理IP、普通代理IP或是开放代理IP,也有一些IP池比较小的共享IP池上。许多朋友总感觉IP池太大,我也用不了那多啊,不是浪费吗?能否给个小点的IP池,价格再降低一些呢。如此的念头是不对的,IP池小,用的人多,那么项目冲突的几率也就越大,因此我们在找代理IP的时候,在保证IP有效率的同时IP池越大越好的,如此能够保证IP的新鲜度。

除了更大的共享IP池能够缓解或是避免这类情况,独享IP池和极光代理优质代理也是一个不错的选择,独享IP池是一个人独自享用,那么就没人会和你冲突,当你控制每个IP都在目标网站设置的阈值内,就不会因为访问过于频繁地而被封IP;私密代理做了项目隔离,每个人做不同的项目,互不干扰,互不冲突,如此还可以避免和别人的项目冲突,碰到这类错误的几率也很小。

因此 ,当您碰到“您的请求过于频繁,请稍后再试”时,不要慌,要镇定,检查下自己的爬虫策略,是否真的访问太过过于频繁地,检查下自己的代理IP是否真的较为干净,调整自己的策略,选择更加纯净的IP,就能有效的避免这个错误了。


极光IP代理软件支持电脑客户端,安卓手机、ios手机,模拟器,虚拟机,云手机一键更换全国IP地址,欢迎访问:www.jiguangdaili.com

关注极光公众号

免费领取更多福利