爬行和抓取
整理自网络ChatGPT产生之内容，文本内容不具备参考意义，程序内容及代码片段有且仅有借鉴意义。
爬行是指动物的行动方式，通常涉及身体的爬行和爬行的动作，如爬行动物（如蛇和蜥蜴）和爬行昆虫（如蚂蚁和蜘蛛）。 抓取是指通过握住或接触来获取动物或物体的行动。抓取可以包括动物的牙齿、爪子、手指、手掌和指甲等器官或物品如工具或表面。抓取通常是为了获取食物或其他资源，或者以进行自我保护或攻击。
一月份时，Google新的SEO代言人Gary Illyes在Google官方博客上发了一篇帖子：What Crawl Budget Means for Googlebot，讨论了搜索引擎蜘蛛抓取份额相关问题。对大中型网站来说，这是个颇为重要的SEO问题，有时候会成为网站自然流量的瓶颈。今天的帖子总结一下Gary Illyes帖子里的以及后续跟进的很多博客、论坛帖子的主要内容，以及我自己的一些案例
前面简要介绍过了搜索引擎的索引系统，实际上在建立倒排索引的最后还需要有一个入库写库的过程，而为了提高效率这个过程还需要将全部term以及偏移量保存在文件头部，并且对数据进行压缩，这涉及到的过于技术化在此就不多提了。今天简要给大家介绍一下索引之后的检索系统。检索系统主要包含了五个部分，如下图所示：索引&检索.jpg（1）Query串切词分词即将用户的查询词进行分词，对之后的查询做准备，以“1
搜索引擎的工作流程和原理可以概括为以下几个步骤： 1. 网络爬虫。搜索引擎会使用网络爬虫（也称为“蜘蛛”、“爬虫”或“机器人”）来自动地浏览互联网上的网页，并将这些网页内容存储到搜索引擎的数据库中。爬虫会按照一定的规则和策略遍历互联网上的所有链接和页面。 2. 网页索引。搜索引擎会解析存储在数据库中的网页内容，并对这些内容进行分类、标记和排序，以便更好地对用户的搜索请求进行匹配。搜索引擎会对网
搜索引擎的工作原理可以简单地概括为以下几个步骤： 1. 搜索引擎的爬虫程序从网络上收集网页并建立一个索引，这个索引包括每个网页的关键词、标题、链接等信息。 2. 用户输入搜索关键词，搜索引擎会根据这个关键词来查找索引，找到与该关键词相关的网页。 3. 搜索引擎会对这些相关网页进行排序，通常是按照重要性和相关性等因素来排序，然后呈现给用户。 4. 用户点击搜索结果中的链接，进入相应网页。
