用几个最常见的情况，直接举例说明:
1. 允许所有SE收录本站:robots.txt为空就可以，什么都不要写。
2. 禁止所有SE收录网站的某些目录:
User-agent: *
Disallow: /目录名1/
Disallow: /目录名2/
Disallow: /目录名3/
3. 禁止某个SE收录本站，例如禁止百度:
User-agent: Baiduspider
Disallow: /
4. 禁止所有SE收录本站:
User-agent: *
Disallow: /
5. 加入sitemap.xml路径,例如:
来源：360站长平台
绝对路径的优点是：1.网站有RSS输出时，内容会被一些Feed聚合网站抓取显示。同样，页面里指向原网站的链接会被保留。2.如果有人抄袭、采集你的文章，抄袭者比较懒，连页面里面的链接一起原封不动抄过去，绝对路径链接还会指向你的网站，增加网站外链权重。3.就算网页移动位置，里面链接还是指向正确URL。4.有助于预防和解决网址规范化问题。绝对路径的缺点是：1.代码比较多。2.除非链接是动态插入的，不然不
URL标准化，英文：url canonicalization来自matt cutts的博客文章：SEO advice: url canonicalization 中文翻译：SEO的建议：URL标准化 “URL标准化”是一个动名词，不好直接解释，我把它反过来一下：URL标准化是什么意思？很多情况下，我们认为以下这几个链接都指向同一个页面（首页）：www.example.comexample.com/
User-agent: *Disallow: .jpg$jpg可以代替为gif，png 等等...来源：360站长平台
Robots META标签中没有大小写之分，name=”Robots”表示所有的搜索引擎，可以针对某个具体搜索引擎写为name=”BaiduSpider”。 content部分有四个指令选项：index、noindex、follow、nofollow，指令间以“,”分隔。INDEX 指令告诉搜索机器人抓取该页面；FOLLOW 指令表示搜索机器人可以沿着该页面上的链接继续抓取下去；Robots Me
