Robots.txt 是一个网站管理员可通过在站点根目录中放置一个名为robots.txt的文件来让搜索引擎（及其爬虫）知道该如何来收录并处理某些目录或页面，并使索引过程更加有效更加规范。 Robots.txt 的作用是向搜索引擎解释网站中哪些目录和文件希望被搜索引擎收录、哪些不希望收录，以避免搜索引擎抓取到网站误差的内容。如果 robots.txt 被恰当地设置，可以有效提高收录质量和网站索引效率，从而表现出良好的搜索引擎优化效果。
死链（Dead Link）是指网页上已经失效但仍然出现在超链接中的链接，或者指向网页内的地址。 死链的标准通常有以下几点： 1. 服务器错误或页面不存在：点击链接后页面无法正常打开，出现404等错误页面。 2. 指向过期或已删除的网页：点击链接后打开网页内容已不存在或已过期。 3. 指向被禁止访问的网页：点击链接后无法打开，可能是因为网页被禁止访问或需要权限才能访问。 4. 指向已更改地
canonical标签是页面html代码head部分的一个标签，2009年2月由搜索引擎们推出，主要用于解决网址规范化问题。什么是网址规范化问题？网址规范化一直是困扰站长以及搜索引擎的一个问题。据估计，网上有10%-30%的URL是内容相同但URL不一样的不规范化网址。这就造成几个问题。比如:对站长来说，多个URL存在分散了页面权重，不利于排名。对搜索引擎来说，浪费资源，浪费带宽。搜索引擎发现多个
要防止所有搜索引擎显示您网站的快照，请将此元标记置入网页的 <HEAD> 部分:<meta name="robots" content="noarchive">要允许其他搜索引擎显示快照，但仅防止搜索引擎显示，请使用以下标记:<meta name="Baiduspider" content="noa
通过网站日志分析，会发现搜索引擎蜘蛛抓取了一些网站上不存在的文件后缀，如：.php、.asp、.aspx等。搜外网站后台日志分析结果如下图：image.搜外主站实际上不存在php后缀的URL地址。可通过robots.txt文件禁止蜘蛛抓取不存在的后缀，减少出现404返回值。在robots.txt文件填写屏蔽规则如下：Disallow: /*.asp$Disallow: /*.php$Disallo
