点 HTTP状态代码是指网站服务器对用户请求的响应结果。根据不同的HTTP状态代码，搜索引擎可以了解网页更新的频率，以及网页存在的情况，从而判断是否应该继续Crawl你的站点： HTTP 200：这是最常见的状态码，表示请求成功。搜索引擎会解析服务器返回的网页内容，并继续向您的站点爬取其他页面。 HTTP 301/302：这些状态码表示链接已经更改，搜索引擎会更新当前网页的链接，并继续爬取新的链接。 HTTP 404：这个状态码表示网页不存在，搜索引擎会忽略这个页面，并爬取其它可用的页面。 HTTP 403：这个状态码表示服务器拒绝了用户请求，搜索引擎会终止此次爬取行为，并跳过此页面。
Baiduspider的user-agent为：Mozilla/5.0 (compatible; Baiduspider/2.0; +http://www.baidu.com/search/spider.html)。
HTTP状态码是用以表示网页服务器HTTP响应状态的3位数字代码。各位站长在平时维护网站过程中，可能会在站长工具后台抓取异常里面或者服务器日志里看到各种各样的响应状态码，有些甚至会影响网站的SEO效果，下面百度工程师为大家整理了一些常见的HTTP状态码及处理解决的方法：301：（永久移动）请求的网页已被永久移动到新位置。服务器返回此响应（作为对GET或HEAD请求的响应）时，会自动将请求者转到新位
这四种情况下，需查询域名或链接的http状态码：1、域名做了https，需查询http的域名是否301到https的域名上；2、多个域名解析同一个网站上，需查询次要域名是否301到主域名上；3、查询老域名内页是否301给新域名的对应内页；4、查询网站内部死链接，是否正确返回404；5、查询不带www的域名是否301给带www的域名。来源：搜外网
