今天一个客户反映服务器长期高负载,有时候还会宕机导致数据库停止运行。

查看网站日志的时候,发现了一个爬行频率超高的蜘蛛爬虫BLEXBot,初一看这个蜘蛛爬虫觉得爬行频率那叫一个高,快的时候一秒钟爬几次,慢的时候几十秒钟爬行一次,这样的爬行频率,服务器哪会受得了,所以决定先看看这个BLEXBot是个啥玩意爬虫,然后再对这个垃圾爬虫进行禁止,所以就有了这篇文章。

BLEXBot是什么蜘蛛爬虫?
BLEXBot是WebMeUp的蜘蛛爬虫,而WebMeUp是美国某公司的一个查询反向链接的蜘蛛程序,只要爬到了我们的站上真的就是不停的狂爬。
这样的蜘蛛爬虫对于国人来说,也没有什么作用,而且还占用机器的带宽,所以还是应该对这个蜘蛛进行禁止。
首先在京策盾高防CDN控制台打开网站列表
在我的网站里,找到被爬取的网站
在网站的安全配置里,点击自定义规则

在自定义规则里匹配项选择浏览器UA,操作符选择包含,匹配值填写BLEXBot,如下图

规则添加成功之后,即可在拦截记录里查看到有大量垃圾蜘蛛被阻断和拦截









