八爪鱼爬虫原理详解

~^^八爪鱼爬虫原理详解大家都知道八爪鱼采集器可以抓取网页数据，云采集还可以有加速的效果，但是你知道八爪鱼的爬虫云加速的原理是什么吗？下面就跟随小八了解一下强大的云采集爬虫原理吧！对于旗舰版以上的用户，可以通过云采集实现多任务并发和单任务加速的采集效果，以便用户快速的收集整理互联网公开数据。本教程主要讲八爪鱼爬虫云采集原理、规则加速设置。一、云采集原理—个规则任务进行云采集最少占用一个云节点，最多可以占满所有云节点—个规则任务满足可拆分成子任务的情况下，最多拆成199个子任务一个子任务占用一个节点，子任务全部执行完成意味着任务完成一个规则任务拆成多个子任务分配到不同云节点就达到加速采集的效果如果云节点被占满，那么新启动的任务或被拆分的子任务会进入等待队列，直到用户某个云节点执行完用户的某个任务释放出节点资源，

八爪鱼•云采集服务平台八爪鱼•大数据八爪鱼•云采集服务平台八爪鱼•大数据让数据触手可及图1云采集运行中如图红线处任务分配到云节点，多任务并发采集数据，如图红框处，由于节点被占满，只能进入等待队列，等待某个云节点执行完成后释放资源。二、云采集加速设置由云采集原理D可知，如果要一个任务加速采集的效果，那么这个任务要满足拆分条件或者将任务改成满足拆分条件的任务，这样才能达到单任务加速的效果。满足拆分条件的任务分别为：URL列表循环文本列表循环八爪鱼•云采集服务平台八爪鱼大数据 履数据触手可及固定元素列表循环1、URL列表循环、文本循环示例网址：/search/category/15/30对于非AJAX网站，以大众店铺为例，假设我要采集该网站所有分类下的店铺，那么我们可先采集分类的URL，然后做URL循环进行采集店铺信息，具体步骤如下：步骤1：以先将所有具体分类采集下来，如图2采集点评分类URL图2采集点评分类URL小贴士采集完分类的URL后，我们就可以将这个URL作为URL循环进行数据提取，这样的话，通过八爪鱼自动拆分任务，就可以将不同的URL拆分成不同的子任务分配给不同的云节点进行数据采集，达到单任务加速的采集效果

八爪鱼•云采集服务平台八爪鱼大数据 签数据触手可及步骤2:通过步骤1的采集，将URL建立URL循环进行数据采集，具体如截图3URL循环列表图3URL循环列表采集步骤3:对比效果，如图4本机采集和URL循环列表云采集采集效率对比图4云采集采集速率小贴士云采集除了采集效率比本机采集高之外，还能节省用户自身电脑与网络资源，与本地采集消耗用户本地电脑资源和网络资源相比，云采集所用资源都是云节点资源，用户启动云采集后就可关闭客户端，八爪鱼会自动将数据整理汇总在八爪鱼客户端，用户只需要在数据提取到后，通过客户端查看或导出数据即可结语：URL循环的教程已经讲完，对于文本循环来说，原理和URL循环一致，通过对文本循环的拆分，达到单任务加速采集的效果，从而提升采集速率2、固定元素列表循环固定元素列表循环也是满足拆分条件的，需要的是固定元素列表循环点击配合一起使用，固定元素列表例如：让数据触手可及图5固定元素列表-点击元素但是下列i情况是不会加快采集速率的，例如：让数据触手可及图6固定元素列表-提取数据原因是因为固定元素列表-提取数据虽然可以拆分成子任务，但是因为提取同页面数据操作本身很快，所以几乎没有任务加速效果例如：子任务A:打开网页（20s）-提取位置a数据（0.1s）子任务B：打开网页（20s）-提取位置b数据（0.1s）子任务C:打开网页（20s）-提取位置c数据（0.1s）子任务N:打开网页（20s）-提取位置n数据（0.1s）如上例，虽然拆分了任务但是实际任务执行时间还是约等于21秒左右，和不拆分任务的时间比较的如下：总任务S:打开网页（20s）提取位置a数据（0.1s）提取位置b数据（0.1s）提取位置c数据（0.1s）提取位置n数据（0.1s）此时我们可以看到，不拆分的时间T=20+0.1*10=21S所以虽然此时我们用不固定元素拆分了任务，但是没有带来显著的提取数据效率的提升对于固定元素列表-点击元素就不一样了，因为点击元素往往都要打开详情页，例如：子任务A:打开网页（20s）-点击位置元素a（20s）-提取位置a数据（0.1s）子任务B：打开网页（20s）-点击位置元素b（20s）提取位置b数据（0.1s）子任务C:打开网页（20s）-点击位置元素c（20s）-提取位置c数据（0.1s）子任务N:打开网页（20s）-点击位置元素n（20s）n--提取位置n数据（0.1s）由于是子任务是同时执行的，此时时间T=20+20+0.1=40.1S，约41秒左右固定元素列表-点击元素，不拆分任务时的时间比较如下：总任务S:打开网页（20s）点击位置元素a（20s）-提取位置a数据（0.1s）点击位置元素b（20s）-提取位置b数据（0.1s）点击位置元素c（20s）-提取位置c数据（0.1s）点击位置元素n（20s）-提取位置n数据（0.1s）此时我们可以看到，不拆分的时间T=20+（20+0.1）*n当n=10时，T=221S，与拆分的41S比较，耗时几乎是拆分的5倍综上所述：满足拆分条件的任务分别为：URL列表循环文本列表循环固定元素列表循环相关采集教程：八爪鱼使用功能点视频教程/tutorial/videotutorial/videognd八爪鱼爬虫软件入门准备/tutorial/xsksrm/rmzb八爪鱼数据爬取入门基础操作/tutorial/xsksrm/rmjccz八爪鱼网站抓取入门功能介绍/tutorial/xsksrm/rmgnjs八爪鱼爬虫软件功能使用教程/tutorial/gnd八爪鱼分页列表详细信息采集方法（7.0版本）八爪鱼•云采集服务平台八爪鱼大数据 让数据触手可及/tutorial/fylbxq7八爪鱼7.0版本网页简易模式简介以及使用方法/tutorial/jyms八爪鱼7.0版本向导模式简介以及使用方法/tutorial/xdms八爪鱼——百万用户选择的网页数据采集器。1、 操作简单，任何人都可以用：无需技术背景，会上网就能采集。完全可视化流程，点击鼠标完成操作，2分钟即可快速入门。2、 功能强大，任何网站都可以采：对于点击、登陆、翻页、识别验证码、瀑布流、Ajax脚本异步加载数据的网页，均可经过简单设置进行采集。