搜索引擎算法与工作原理的知识

1、搜索引擎的算法及工作原理搜索引擎算法及工作原理（Google）C1爬行和抓取：搜索引擎蜘蛛通过跟踪链接访问页面，获取页面HTML代码存入数据库。2预处理：搜索引擎对抓取来的页面数据文字进行文字提取、中文分词、索引等处理，以备排名程序调用。3排名：用户输入关键字后，排名调用索引库数据，计算相关性，然后按一定格式生成搜索结果页面。 ONTENTS搜索引擎算法及工作原理（Google）C搜索引擎的工作的过程非常复杂，而简单的讲搜索引擎的工作过程大体可以分成三个阶段。爬行和抓取爬行和抓取 完成数据收集任务。搜索引擎用来爬行和访问页面的程序被称为蜘蛛(spider)，也称为机器人(bot)。跟踪链接为了

2、抓取网上尽量多的页面，搜索引擎蜘蛛会跟踪页面上的链接，从一个页面爬到下一个页面，就好像蜘蛛在蜘蛛网上爬行那样，这也就是搜索引擎蜘蛛这个名称的由来。最简单的爬行遍历策略分为两种，一是深度优先，二是广度优先。深度优先搜索深度优先搜索就是在搜索树的每一层始终先只扩展一个子节点，不断地向纵深前进直到不能再前进(到达叶子节点或受到深度限制)时，才从当前节点返回到上一级节点，沿另一方向又继续前进。这种方法的搜索树是从树根开始一枝一枝逐渐形成的。深度优先搜索亦称为纵向搜索。由于一个有解的问题树可能含有无穷分枝，深度优先搜索如果误入无穷分枝(即深度无限)，则不可能找到目标节点。所以，深度优先搜索策略是不完备的

3、。另外，应用此策略得到的解不一定是最佳解(最短路径)。广度优先搜索在深度优先搜索算法中，是深度越大的结点越先得到扩展。如果在搜索中把算法改为按结点的层次进行搜索， 本层的结点没有搜索处理完时，不能对下层结点进行处理，即深度越小的结点越先得到扩展，也就是说先产生 的结点先得以扩展处理，这种搜索算法称为广度优先搜索法。预处理 “预处理”也被简称为“索引”，因为索引是预处理最主要的步骤。 搜索引擎蜘蛛抓取的原始页面，并不能直接用于查询排名处理。搜索引擎数据库中的页面数都在数万亿级别以上，用户输入搜索词后，靠排名程序实时对这么多页面分析相关性，计算量太大，不可能在一两秒内返回排名结果。因此抓取来的页面

4、必须经过预处理，为最后的查询排名做好准备。 和爬行抓取一样，预处理也是在后台提前完成的，用户搜索时感觉不到这个过程。 1.提取文字：搜索引擎预处理首先要做的就是从HTML文件中去除标签、程序，提取出可以用于排名处理的网页面文字内容。 2.中文分词：搜索引擎存储和处理页面及用户搜索都是以词为基础的。中文词与词之间没有任何分隔符，搜索引擎必须首先分辨哪几个字组成一个词，哪些字本身就是一 个词。比如“减肥方法”将被分词为“减肥”和“方法”两个词。 3.去停止词：无论是英文还是中文，页面内容中都会有一些出现频率很 高，却对内容没有任何影响的词，助词，感叹词，副词或介词。 这些词被称为停止词，因为它们对

5、页面的主要意思没什么影响。英文中的常见停止词有the，a，an，to，of等。 4.消除噪声：绝 大部分页面上还有一部分内容对页面主题也没有什么贡献，比如导航条、广告等。这些区块都属于噪声。搜索引擎需要识别并消除这些噪声，排名时不使用噪声内容。 5.去重：在进行索引前还需要识别和删除重复内容，这个过程就称为“去 重”。 6.正向索引 7.倒排索引 8.链接关系计算：Google PR值就是这种链接关系的最主要体现之一。 9.特殊文件处理：目前的搜索引擎还不能处理图片、视频、Flash这类非文字内容，也不能执行脚本和程序。对图片、视频内容的排名还往往是依据与之相关的文字内容。PR的两个比喻模型P

6、R值全称为PageRank(网页级别)，PR值是Google用于标识网页的等级、重要性、网站的好坏的重要标准之一。级别从0到10级为满分。PR值越高说明该网页越受欢迎。关于PR有两个著名的比喻。一个比喻是投票。链接就像民主投票一样，A页面链接到B页面，就意味着A页面对B页面投了一票，使得B页面的重要性提高。同时，A页面本身的PR。值决定了A所能投出去的投票力，PR值越高的页面，投出的票也更重要。在这个意义上，传统基于关键词匹配的算法是看页面自己说页面内容是什么，基于链接的PR则是看别人怎么评价一个页面。第二个比喻是随机冲浪比喻。假设一个访问者从一个页面开始，不停地随机点击链接，访问下一个页面。有时候这个用户感到无聊了，不再点击链接，就随机跳到了另外一个网址，再次开始不停地向下点击。所谓PR。值也就是一个页面在这种随机冲浪访问中被访问到的概率。一个页面导入链接越多，被访问到的概率也越高，因此PR值也越高。 排名 经过搜索