点 HTTP状态代码是指网站服务器对用户请求的响应结果。根据不同的HTTP状态代码，搜索引擎可以了解网页更新的频率，以及网页存在的情况，从而判断是否应该继续Crawl你的站点： HTTP 200：这是最常见的状态码，表示请求成功。搜索引擎会解析服务器返回的网页内容，并继续向您的站点爬取其他页面。 HTTP 301/302：这些状态码表示链接已经更改，搜索引擎会更新当前网页的链接，并继续爬取新的链接。 HTTP 404：这个状态码表示网页不存在，搜索引擎会忽略这个页面，并爬取其它可用的页面。 HTTP 403：这个状态码表示服务器拒绝了用户请求，搜索引擎会终止此次爬取行为，并跳过此页面。
站长可以输入自己网站上的任何一个网址，网管工具会发出Google蜘蛛，实时抓取页面内容，并显示出抓取的HTML代码，包括服务器头信息和页面代码。另外工具也可以用来检查页面是否被黑。有时候黑客放入的代码会检查浏览器类型，如果是用户使用普通浏览器访问则返回正常内容，如果是搜索引擎蜘蛛访问，才返回黑客加上去的垃圾内容和垃圾链接。所以站长自己访问网站看不出异样，Google蜘蛛抓取到的却不是站长自己看到的
如此 实际上，搜索引擎蜘蛛抓取越多并不一定是越好的。这取决于您的网站是做什么的。如果您的网站有重要的动态内容，那么如果您的搜索引擎蜘蛛抓取过多，将会给您的网站带来压力，导致网站性能和速度下降。如果您的网站是基于静态内容的，例如博客，则搜索引擎蜘蛛抓取更多是没有问题的。
我认为503状态码最大的作用是告知搜索引擎：现在服务器压力过大，网站(某个网页)稍后再抓取，503是指目前无法使用服务器(由于超载或进行停机维护)。通常，这只是一种暂时的状态。按照百度的说法，网站关闭或其他临时情况，这个时候网站应该返回：“503 Service Temporarily Unavailable”!使用503状态码，而不是404错误页面。如果网站需要临时维护或者未建立好就上线的页面，
HTTP状态码：是服务器和客户端之间交流信息的语言。访问除了用户以外还有蜘蛛，用户通过浏览器访问的话会生成网站日志，蜘蛛在爬取网站的时候也会生成网站日志。举个例子：“200”这个HTTP状态码代表的是，“你的请求，已经成功发送”。 如果客户端向服务器发送一个链接，服务器返回“200”。 说明服务器正常返回了客户端需要的信息。HTTP状态码有什么用？HTTP状态码是Web Server服务器用来告诉
