限制单ip每分钟请求数,会不会影响搜索引擎收录
比如我设置了一个规则,单个ip每60秒访问数超过100次,就会封禁5分钟。那么搜索引擎在爬取的过程中,会不会因为触发规则而爬取失败? 什么搜索引擎60秒爬100次? "我不是很懂搜索引擎,所以来问一下,只要不会出现这种情况就好。我之前一直很信任Cloudflare,直到昨天晚上我随手对签名站来了一发CC,结果真是一打就挂,看来免费版对CC没有半点防护能力,还是在服务器做防护靠谱。 小站可以这样做 大站的话现在很多地方都是共用出口 会误封
搜索引擎不是同一IP爬站,是N个IP爬 一般不会影响蜘蛛 蜘蛛一般不会影响,以百度为例,都是整个段来爬的。每个IP,要好久才能轮一次。 不用吊搜索。淘宝就不叼搜索 "
那是你策略不对,CF可不背这个锅! 搜索引擎正常是没事,不会一个ip一直爬,都是非常多ip分布式的爬取
页:
[1]