SemrushBot robot (identified by 'spider')是什么蜘蛛？
一般的蜘蛛都会在后台控制面板中显示名字，例如baidu，google，yahoo，alexa等等，但是如果你用的虚拟主机是cpanel的控制面板，那么发现Unknown robot (identified by 'spider')这个蜘蛛消耗很大的网站流量，那么可以推测这个是百度蜘蛛，因为cpanel的控制面板默认是不识别百度蜘蛛的，所以就会显示为Unknown robot (identified by 'spider')。而且通过robots.txt是无法禁止这个蜘蛛抓取网站内容的——这些垃圾爬虫不可能老老实实遵守robots规则，君不见新浪和字节前段时间还因为robots.txt打了官司，大厂都如此，其他爬虫更别指望。
宝塔屏蔽常见垃圾蜘蛛和扫描工具的两种办法：最近观察网站后台网站蜘蛛爬取状况，除了我们常见的搜索引擎如百度、Google、Sogou、360等搜索引擎蜘蛛之外，还发现有很多垃圾的蜘蛛平繁的爬取本站，通常这些搜索引擎不仅不会带来流量，因为大量的抓取请求，还会造成主机的CPU和带宽资源浪费，屏蔽方法也很简单，按照下面步骤操作即可，原理就是分析指定UA然后屏蔽。
下面给大家带来两种屏蔽垃圾蜘蛛的方法
