内容优良而独特的页面，如果您的页面内容和互联网上已存在的其他页面有高度的相似性，可能不会被 sogou spider 收录。
链接层次较浅的页面，过深的链接层次，尤其是动态网页的链接，会被丢弃而不收录。
如果是动态网页，请控制一下参数的数量和URL的长度。搜狗更偏好收录静态网页。
重定向次数越多的页面，越有可能被 sogou spider 丢弃。
sogou spider 支持 robots 协议，您可以在网站的根目录放置 robots.txt。robots.txt 的规则请参阅 http://www.robotstxt.org/。需要注意的是，最新更新的 robots.txt 可能需要几个星期才能体现出效果来，另外，被您禁止 sogou spider 收录的网页将不能在搜狗搜索引擎上检索到。
1. 在 Robots.txt文件中添加屏蔽百度爬虫代码。 User-agent: Baiduspider Disallow: / 2. 在HTTP请求头里加入User-Agent字段 User-Agent:123 3. 使用IP段黑名单来屏蔽来自百度的爬虫 拒绝127.0.0.1 - 127.255.255.255
搜狗是一家中国的互联网公司，旗下拥有搜狗搜索引擎。蜘蛛爬虫是搜索引擎中用来抓取网页内容的程序。搜狗搜索的蜘蛛爬虫被称为"Sogou web spider"。 蜘蛛爬虫抓取网页的过程中，会按照一定的规则遍历网页，获取网页的内容并存储在搜索引擎的数据库中，以便用户在搜索时能够得到相应的结果。 如果你想了解搜狗搜索的蜘蛛爬虫抓取的更多细节，可以查阅搜狗搜索的官方技术文档，或者参考相关的网络资源和教程
sogou spider对于同一个IP地址的服务器主机，只建立一个连接，抓取间隔速度控制在几秒一次。一个网页被收录后，最快也要几天以后才会去更新。如果sogou spider持续不断地抓取您的网站，请注意您的网站上的网页是否每次访问都产生新的链接。
