分布式网络爬虫关键技术分析与实现

1、分布式网络爬虫关键技术分析与实现一一布式网络爬虫体系结构设计一、研究所属范围分布式网络爬虫包含多个爬虫，每个爬虫需要完成的任务和单个的爬行器类似，它们从互联 网上下载网页，并把网页保存在本地的磁盘，从中抽取URL并沿着这些URL的指向继续爬 行。由于并行爬行器需要分割下载任务，可能爬虫会将自己抽取的URL发送给其他爬虫。 这些爬虫可能分布在同一个局域网之中，或者分散在不同的地理位置根据爬虫的分散程度不同，可以把分布式爬行器分成以下两大类：1、基于局域网分布式网络爬虫：这种分布式爬行器的所有爬虫在同一个局域网里运行，通过高 速的网络连接相互通信。这些爬虫通过同一个网络去访问外部互联网，下载网页，

2、所有的网 络负载都集中在他们所在的那个局域网的出口上。由于局域网的带宽较高，爬虫之间的通信 的效率能够得到保证;但是网络出口的总带宽上限是固定的，爬虫的数量会受到局域网出口 带宽的限制.2、基于广域网分布式网络爬虫:当并行爬行器的爬虫分别运行在不同地理位置（或网络位置）， 我们称这种并行爬行器为分布式爬行器。例如分布式爬行器的爬虫可能位于中国，日本，和 美国，分别负责下载这三地的网页;或者位于CHINANET，CERNET，CEINET,分别负责下载 这三个网络的中的网页.分布式爬行器的优势在于可以子在一定程度上分散网络流量，减小 网络出口的负载。如果爬虫分布在不同的地理位置（或网络位置），需

3、要间隔多长时间进行 一次相互通信就成为了一个值得考虑的问题。爬虫之间的通讯带宽可能是有限的，通常需要 通过互联网进行通信。在实际应用中，基于局域网分布式网络爬虫应用的更广一些，而基于广域网的爬虫由于 实现复杂,设计和实现成本过高，一般只有实力雄厚和采集任务较重的大公司才会使用这种 爬虫。本论文所设计的爬虫就是基于局域网分布式网络爬虫。二、分布式网络爬虫整体分析分布式网络爬虫的整体设计重点应该在于爬虫如何进行通信。目前分布式网 络爬虫按通信方式不同分布式网路爬虫可以分为主从模式、自治模式与混合模式 三种。主从模式是指由一台主机作为控制节点负责所有运行网络爬虫的主机进行管理爬虫只 需要从控制节点那

4、里接收任务，并把新生成任务提交给控制节点就可以了，在这个过程中不 必与其他爬虫通信,这种方式实现简单利于管理。而控制节点则需要与所有爬虫进行通信， 它需要一个地址列表来保存系统中所有爬虫的信息.当系统中的爬虫数量发生变化时，协调 者需要更新地址列表里的数据，这一过程对于系统中的爬虫是透明的。但是随着爬虫网页数 量的增加。控制节点会成为整个系统的瓶颈而导致整个分布式网络爬虫系统性能下降。主从 模式的整体结构图：自治模式是指系统中没有协调者，所有的爬虫都必须相互通信,比主从模式下 爬虫要复杂一些。自治模式的通信方式可以使用全连接通信或环形通信。全连接 通信是指所用爬虫都可以相互发送信息，使用这种方

5、式的每个网络爬虫会维护一 个地址列表，表中存储着整个系统中所有爬虫的位置，每次通信时可以直接把数 据发送给需要此数据的爬虫。当系统中的爬虫数量发生变化时，每个爬虫的地址列表都需要进行更新。环形通信是指爬虫在逻辑上构成一个环形网，数据在环上 按顺时针或逆时针单向传输，每个爬虫的地址列表中只保存其前驱和后继的信 息。爬虫接收到数据之后判断数据是否是发送给自己的，如果数据不是发送给自 己的，就把数据转发给后继;如果数据是发送给自己的，就不再发送.假设整个系统 中有n个爬虫，当系统中的爬虫数量发生变化时，系统中只有n-1个爬虫的地址 列表需要进行更新.混合模式是结合上面两种模式的特点的一种折中模式。该

6、模式所有的爬虫都可以 相互通信同时都具有任务分配功能。不过所有爬虫中有个特殊的爬虫，该爬虫主 要功能对已经经过爬虫任务分配后无法分配的任务进行集中分配。使用这个方式 的每个网络爬虫只需维护自己采集范围的地址列表。而特殊爬虫需除了保存自己 采集范围的地址列表外还保存需要进行集中分配的地址列表.混合模式的整体结 构图：三、大型分布式网络爬虫体系结构图：从这些图可以看出，分布式网络爬虫是一项十分复杂系统。需要考虑很多方面因素。性 能可以说是它这重要的指标.当然硬件层面的资源也是必须的。不过不在本系列考虑范围。 从下篇开始，我将从单机网络爬虫一步步介绍我们需要考虑的问题的解决方案。如果大家有 更好的解

7、决方案。欢迎指教.吉日的一句话说的很有道理，一个人一辈子只能做好几件事。希望大家支持我的这个系 列。谈谈网络爬虫设计中的问题网络蜘蛛现在开源的已经有好几个了，Larbin,Nutch，Heritrix都各有用户之地，要做 一个自己的爬虫要解决好多个问题，比如调度算法、更新策略、分布式存储统我们来一一 看一下.一个爬虫要做的事主要有以下这些从一个网页入口，分析链接，一层一层的遍历，或者从一组网页入口，或者 从一个rss源列表开始爬rss；获取每个页面的源码保存在磁盘或者数据库里；遍历抓下来的网页进行处理，比如提取正文，消重等；根据用途把处理后的文本进行索引、分类、聚类等操作。以上是个人理解哦，呵

8、呵。这些过程中，大约有如下问题如何获取网页源或者RSS源如果是一般的爬虫的话，就是给几个入口页面，然后顺着超链接以遍历图的算法一个页面一 个页面的爬，这种情况网页源很少，可以选择从hao123等网址大全的网站为入口开始爬。 如果做垂直搜索的话就人工去收集一些这个行业的网站，形成一个列表,从这个列表开始爬。 如果是爬RSS的话，需要先收集RSS源,现在大的门户的新闻频道和主流的博客系统都有rss 的功能，可以先爬一遍网站，找出rss的链接，要获取每个链接的内容，分析是否是rss格 式,如果是就把这个链接保存到rss源数据库里，以后就专门爬这个rss源的rss。还有一种就 是人工来整理，一般blo

9、g的rss都是有规律的，主域名跟一个用户名后面再跟上一个rss的 固定页面，比如 HYPERLINK http:/www.abco http:/www.abco com/userl/rss.xml，这样就弄一个用户字典，拼接rss 地址，然后用程序去探测是否有这个页面来整理出每个网站的rss源。整理出rss源后再人 工设置rss源的权重及刷新时间间隔等。如果源页面很多，如何用多线程去有效的调度处理，而不会互相等待或者重复处理如果现在有500万个页面要去爬，肯定要用多线程或者分布式多进程去处理了。可以把页 面进行水平分割，每个线程处理一段儿，这样每个线程之间不需要同步，各自处理各自的就 行了。比

10、如给这500W个页面分配一个自增ID,2个线程的话就让第一个线程去爬1,3,5的 网页，第二个线程去爬2,4, 6的网页，这样做多个线程间基本上能均衡，而且不会相互等待, 而且不会重复处理，也不会拉掉网页。每个线程一次取出lw个页面，并记录最高的源页面 ID号，处理完这一批后再从数据库里提取大于这个源页面ID号的下1W个页面，直到抓取 完本线程要处理的所有页面。lw这个值根据机器的内存可做适当的调整,为了防止抓了半截 儿死机，所以要支持断点续抓要为每个线程的处理进度保存状态，每取一批网页都要记录本 线程最大的网页ID，记录到数据库里，进程重启后可以读取这个ID，接着抓后面的页面.如何尽量的利用

11、CPU，尽量的不让线程处于等待、休眠、阻塞等空闲状态而且要尽量用少 的线程以减少上下文切换.爬虫有两个地方需要IO操作，抓网页的时候需要通过网卡访问网络，抓到网页后要把内容写 到磁盘或者数据库里.所以这两个部分要用异步IO操作，这样可以不用线程阻塞在那里等待 网页抓过来或者写完磁盘文件，网卡和硬盘都支持内存直接读取，大量的IO操作会在硬件 驱动的队列里排队，而不消耗任何CPUo .net的异步操作使用了线程池，不用自己频繁的创 建和销毁线程，减少了开销，所以线程模型不用考虑，IO模型也不用考虑，。net的异步IO 操作直接使用了完成端口，很高效了，内存模型也不需要考虑，整个抓取过程各线程不需要

12、 访问共享资源，除了数据库里的源页面，各管各的,而且也是每个线程分段处理，可以实现无锁编程.如何不采集重复的网页去重可以使用king总监的布隆过滤器，每个线程使用一个bitarray，里面保存本批源页面上次 抓取的页面的哈希值情况，抓取下来的源页面分析链接后，去这个bitarray里判断以前有没 有抓过这个页面，没有的话就抓下来，抓过的话就不管了。假设一个源页面有30个链接把， 一批10W个源页面，300w个链接的bitarray应该也不会占太大内存。所以有个五六个线程 同时处理也是没问题的。抓下来的页面更快的保存保存到分布式文件系统还是保存在数据库里如果保存到磁盘，可以每个域名创建一个文件夹

13、，凡是这个网站的页面都放到这个文件夹下， 只要文件名不一样，就不会出现冲突.如果把页面保存到磁盘，数据库有自己的一套锁管理 机制，直接用bulk copy放数据库就行了.一般频繁的写磁盘可能会引起CPU过高，而频繁 的写数据库CPU还好一些。而且sqlserver2008支持filestream类型的字段，在保存大文本字 段的时候有很好的性能，并且还能使用数据库的API来访问。所以我觉得如果没有GFS那 样高效成熟的分布式文件系统的话还不如存sqlserver里面呢。如何有效的根据网页的更新频率来调整爬虫的采集时间间隔做爬虫要了解一些HTTP协议，如果要抓的网页支持LastModified或者ETag头，我们可以先 发个head请求来试探这个页面有没有变化来决定是否要重新抓取，但是好多网站根本就不 支持这个东西，所以让爬虫也很费劲，让自己的网站也会损失更多的性能。这样我们就要自 己去标注每个源页面的更新时间间隔及权重，再根据这两个值去用一定的算法制定蜘蛛的更 新策略.采集下来的数据做