站点地图生成工具
Xenu Link Sleuth
可同时生成html格式地图(适用于小型站点)和XML格式地图。
XML Sitemap
在线生成工具,网站地址很多时,会比较浪费时间,要是生成所有的时候需要收费。
Sitemap Generator
强大的sitemap生成器,需下载安装客户端
Robots META标签中没有大小写之分,name=”Robots”表示所有的搜索引擎,可以针对某个具体搜索引擎写为name=”BaiduSpider”。 content部分有四个指令选项:index、noindex、follow、nofollow,指令间以“,”分隔。INDEX 指令告诉搜索机器人抓取该页面;FOLLOW 指令表示搜索机器人可以沿着该页面上的链接继续抓取下去;Robots Me
Sitemap协议是一种用于向搜索引擎提供网站结构信息的标准协议。其包含的内容包括网站中所有页面的URL、页面最后更新时间、页面更新频率等信息。 目前,Sitemap协议一共有以下两种类型: 1. XML Sitemap:用于描述网站的全部网页,包括网页的URL、标识、访问频率、权重等信息。XML Sitemap可以包含多个XML文件,但每个XML文件的大小不能超过50MB。 2. HTML
ETag(Entity Tag)是HTTP协议中的一个头部字段,用于标识资源的某个版本。 ETag的作用主要有以下几点: 1. 缓存控制:当客户端请求一个资源时,服务器可以通过ETag来判断资源是否发生了变化。如果ETag与客户端提供的If-None-Match头字段一致,说明资源没有发生变化,服务器可以返回一个304 Not Modified状态码,告诉客户端可以使用本地缓存的副本,从而节省带