不要看所谓的IP段，IP也不是一沉不变的，过去开头有220.181的 大家都知道，但是后面百度方面在不同的城市都建立了更多的服务器，总要有IP的增加，而IP段不可能一直是固定的那几个。所以单纯的以IP段来看，是非常不严谨的。
那么如何查看呢？可以使用cmd命令： nslookup IP地址 的方式来进行查看，如果返回的信息中，有百度子域名，那么说明是百度的IP，如果无法返回，或者返回了诸如114.114.114.114 等等，都跟百度无关，则是虚假的百度IP了。
来源：A5营销
头条搜索的爬虫UA为“Bytespider”首写字母为大写,例如：PCMozilla/5.0 (compatible; Bytespider; https://zhanzhang.toutiao.com/) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/70.0.0.0 Safari/537.36AndroidMozilla/5.0 (Linux; A
要屏蔽百度爬虫，可以采取以下方法： 1. 使用robots.txt文件：在网站的根目录下创建一个名为robots.txt的文件，并在其中设置百度爬虫的访问限制。例如，可以使用以下指令来禁止百度爬虫访问整个网站： User-agent: Baiduspider Disallow: / 2. 使用meta标签：在网站的HTML代码中添加以下meta标签，告诉百度爬虫不要访问当前页面： 3. 使
网络爬虫（又被称为网页蜘蛛，网络机器人，查找引擎蜘蛛，在FOAF社区中心，更常常的称为网页追逐者），是一种依照必定的规矩，主动的抓取万维网信息的程序或许脚本，别的一些不常运用的姓名还有蚂蚁，主动索引，模拟程序或许蠕虫
1. 重新编辑robots.txt文件，将网站中不需要抓取的页面和目录添加进去； 2. 如果抓取的网站带有反爬虫功能，建议可以设置User-Agent，以区分人为访问和爬虫程序进行访问； 3. 设置深度抓取，让程序对某个网页进行抓取时，只抓取它指定难度及深度的URL； 4. 不定时发起网站扫描任务，用来检查异常的URL，以及分析抓取URL的情况，同时将发现的问题处理掉； 5. 合理设置
