1. 下面是一个拒绝所有机器人访问的robots.txt： ``` User-agent: * Disallow: / ``` 2. 下面的robots.txt用于阻止百度搜索引擎访问整个站点： ``` User-agent: Baiduspider Disallow: / ``` 3. 下面的robots.txt文件用于阻止所有搜索引擎访问以private开头的任何URL： ``` User-agent: * Disallow: /private/ ```
页面已经无效，无法对用户提供任何有价值信息的页面就是死链接，包括协议死链和内容死链两种形式：1）协议死链：页面的TCP协议状态/HTTP协议状态明确表示的死链，常见的如404、403、503状态等。2）内容死链：服务器返回状态是正常的，但内容已经变更为不存在、已删除或需要权限等与原内容无关的信息页面。目前内容死链召回存在召回率的风险，所以建议各位站长尽量使用协议死链，以保证平台工具更好地发挥其作用
URL标准化，英文：url canonicalization来自matt cutts的博客文章：SEO advice: url canonicalization 中文翻译：SEO的建议：URL标准化 “URL标准化”是一个动名词，不好直接解释，我把它反过来一下：URL标准化是什么意思？很多情况下，我们认为以下这几个链接都指向同一个页面（首页）：www.example.comexample.com/
设置搜索robots协议的后果针对短视频类内容，视频搜索将不再索引、展现网站的视频资源，历史已索引部分会从搜索中屏蔽。若设置部分目录不希望被收录 ，该目录下内容将从搜索中屏蔽，其余内容在搜索中则以正常结果展示。来源：百度搜索资源平台
