《华南木棉信息检索》

全国搜索引擎与网上信息学术研讨会SEWM2006中文Web检索

华南木棉信息检索

木棉检索队:张元丰,陈晓志,陈晓锋目录木棉搜索引擎现状数据格式转换关键技术介绍结果提交分析与展望2木棉搜索引擎现状基于Nutch的实现；对URL、Title、Anchor、Content进行索引；PageRank算法的应用；中文分词；基于集群系统的并行化搜索引擎。3木棉搜索引擎现状网页预处理中文分词链接分析文档库索引库网页噪音模板库链接库综合采用多种去噪算法，噪音的去除，可以减少索引量，可以避免噪音对检索结果的影响对站内站外链接赋予不同的权重，保留锚点文本信息链入锚点文本网页url网页标题网页主题内容链出锚点文本基于词频的中文分词Googlepagerank算法简单pagerank算法4木棉搜索引擎现状用户输入查询词索引库二次排序结果5目录木棉搜索引擎现状数据格式转换关键技术介绍结果提交分析与展望6数据格式转换7数据格式转换将3700万网页分成70个part进行处理对每个part建立WebDB合并所有的WebDB用完整的WebDB更新每一个part的数据对每个part分别建立索引合并索引8目录木棉搜索引擎现状数据格式转换关键技术介绍结果提交分析与展望9关键技术介绍TD搜索相关主题的文章，主要查找入口页面。NPHP查找首页或者指定页面。10关键技术介绍TD扩展查询利用Description对查询词进行扩展，比如： <top> <num>Number:TD146 <title>股票分析</title> <desc>Description:股票分析的网站，专家评论，论坛和软件 </top> 扩展后为：股票分析、股票论坛、股票评论、股票软件；用扩展后的查询词搜索，每个查询词均返回300条结果；合并扩展查询结果。11关键技术介绍TD二次查询优化截取每个查询结果的前200条结果；对这200条结果进行站内聚合，并将每个网站内的ROOT、SUBROOT、url深度小于3的PATH的url提前；对所有被提前的网页按照得分排序，并尽量保证前十条出现不同网站的url，将这些网页放在结果集的前面；对其他网页按照得分进行排序，顺序排列在得到的结果之后。12关键技术介绍NPHP对于所给的查询集，我们根据查询词很容易就可以分辨出该查询的意图：HPorNP。我们手工对查询词进行判断（RANK4和RANK5没有这一步骤），添加H（homepage）或N（namepage）标记。这一步骤主要是查询优化时使用；在索引库中查询，并返回200条搜索结果；对搜索结果进行二次排序。算法主要是基于华南理工大学胡俊刚等的《基于URL类型优先级入口页面查询算法》。同时判断查询词的H标记或者N标记，把结果中的主页提取到前面（H）或放到后面（N）。13关键技术介绍PageRankGooglePageRank

在要求不高的情况下，迭代计算5次即可。简单PageRank

可以反映网页的重要程度。14目录木棉搜索引擎现状数据格式转换关键技术介绍结果提交分析与展望15结果提交CWT200g—TD序号中文分词扩展查询PR二次排序RUN1√√简单√RUN2√简单√RUN3√简单√RUN4简单√RUN5√√√16结果提交CWT200g—NPHP序号中文分词手动标记PR二次排序RUN1√√简单√RUN2√简单√RUN3√√简单RUN4√简单√RUN5简单√17结果提交CWT20g—TD序号中文分词扩展查询PR二次排序RUN1√√标准√RUN2√标准√RUN3√标准√RUN4√简单√RUN5√√简单√18结果提交CWT20g—NPHP序号中文分词扩展查询PR二次排序RUN1√√标准√RUN2√标准√RUN3√√标准RUN4√标准√RUN5标准√19目录木棉搜索引擎现状数据格式转换关键技术介绍结果提交分析与展望20分析与展望对网页各组成部分进行索引并赋予不同的权重可以提高检索精度；NPHP查询结果好；TD查询在一些情况下不能很好的将用户引导到最有价值的页面；人工标记和二次排序对提高检索准确率有很大的帮助；查询响应时间相对较长（平均2~3s）。21分