Categories

Tags

【官方说法】只需两步，正确识别百度蜘蛛（User-Agent）

步骤一：查看 User-Agent 信息 在你的网站后台查看日志或者使用网站统计工具，可以查到每次访问你网站的 User-Agent 信息。百度蜘蛛的 User-Agent 格式如下： Baiduspider/数字（+版本信息） 例如：Baiduspider/2.0、Baiduspider/2.0b等。 步骤二：验证 IP 地址 验证访问你网站的 IP 是否是百度蜘蛛的 IP。可以在百度搜索“百度蜘蛛IP”或者访问百度站点蜘蛛ip地址库，查找是否是百度蜘蛛的 IP 地址。 百度蜘蛛的 IP 地址格式如下： IPv4：180.76.15.xxx、180.76.16.xxx、220.181.108.xxx、220.181.111.xxx 等； IPv6：2400:da00::6667:2c68、2400:da00::6667:2c69、2400:da00::6667:2c6b 等。 若 User-Agent 信息和 IP 地址都是百度蜘蛛的，则说明此次访问是由百度蜘蛛发起，可以放心地允许其访问你的网站。

 Public @ 2023-04-11 07:50:16

百度Spider渲染UA在移动端全流量上线

百度Spider在2017年3月同时推出渲染UA在移动端和PC端进行内测（《百度Spider新增渲染UA抓取公告》），内测期间分析了多个抓取量异常的case，均非渲染UA造成。本周百度Spider渲染UA在移动端全流量上线，PC端还未全部覆盖。特提醒PC站长，截止目前，对搜索引擎和用户有价值的内容，还是尽量不要使用JS加载的方式，以免造成不能索引等损失。来源：百度搜索资源平台

 Public @ 2014-04-27 15:38:47

sogou spider 喜欢收录什么样的页面

内容优良而独特的页面。如果您的页面内容和互联网上已存在的其他页面有高度的相似性，可能不会被 sogou spider 收录。链接层次较浅的页面。过深的链接层次，尤其是动态网页的链接，会被丢弃而不收录。如果是动态网页，请控制参数的数量和URL的长度。搜狗更偏好收录静态网页。重定向次数越多的页面，越有可能被 sogou spider 丢弃。来源：搜狗资源平台

 Public @ 2021-05-15 15:38:49

我不想我的网站被Baiduspider访问，我该怎么做？

Baiduspider遵守互联网robots协议。您可以利用robots.txt文件完全禁止Baiduspider访问您的网站，或者禁止 Baiduspider访问您网站上的部分文件。 注意：禁止Baiduspider访问您的网站，将使您的网站上的网页，在百度搜索引擎以及所有百度提供搜索引擎服务的搜索引擎中无法被搜索到。关于 robots.txt的写作方法，请参看我们的介绍：robots.txt写

 Public @ 2017-02-03 15:38:41

更多您感兴趣的搜索

0.442656s