Categories

Tags

头条搜索Bytespider基本流程

1. 抓取网页

每个独立的搜索引擎都有自己的网页抓取程序爬虫（Spider）。爬虫顺着网页中的超链接，从这个网站爬到另一个网站，通过超链接分析连续访问抓取更多网页。被抓取的网页被称之为网页快照。由于互联网中超链接的应用很普遍，理论上，从一定范围的网页出发，就能搜集到绝大多数的网页。

2. 处理网页

搜索引擎抓到网页后，还要做大量的预处理工作，才能提供检索服务。其中，最重要的就是提取关键词，建立索引库和索引。其他还包括去除重复网页、分词（中文）、判断网页类型、分析超链接、计算网页的重要度/丰富度等。

3. 提供检索服务

用户输入关键词进行检索，搜索引擎从索引数据库中找到匹配该关键词的网页；为了用户便于判断，除了网页标题和URL外，还会提供一段来自网页的摘要以及其他信息。

来源：头条搜索站长平台


 Public @ 2022-03-13 15:38:59

搜索引擎技术揭密：中文分词技术

中文分词技术是搜索引擎技术中的关键技术之一，它的主要作用是将一个连续的中文文本切分成一个一个独立的词语，以便于搜索引擎进行后续的处理和分析。 中文分词技术的目标是识别出中文文本中的词语，解决中文语言中没有明显的词语分隔符的问题。中文分词技术主要包括以下几种方法： 1. 基于词典的分词：通过构建一个包含常用词语的词典，将文本与词典进行匹配，识别出词典中存在的词语作为分词结果。 2. 基于规则的

 Public @ 2023-07-25 13:00:37

爬行和抓取

爬行和抓取 是搜索引擎工作的第一步，完成数据收集任务。1、蜘蛛：搜索引擎用来爬行和访问页面的程序被称为蜘蛛（spider），也称为机器人（bot）。2、跟踪链接：为了抓取网上尽量多的页面，搜索引擎蜘蛛会跟踪页面上的链接，从一个页面爬到下一个页面，就好像蜘蛛在蜘蛛网上爬行那样，这也是搜索引擎蜘蛛这个名称的由来。3、吸引蜘蛛：理论上蜘蛛能爬行和抓取所有页面，但实际上不能，也不会这么做。SEO人员想要让

 Public @ 2019-07-18 16:22:24

更多您感兴趣的搜索

0.510086s