![个人的认证官方和考试体系及证书有效期hcie0学习参考包it部分hcnp-storage v3.0cbds_第1页](http://file4.renrendoc.com/view/08639b11167eba12c0b6a54d6dd8b4f0/08639b11167eba12c0b6a54d6dd8b4f01.gif)
![个人的认证官方和考试体系及证书有效期hcie0学习参考包it部分hcnp-storage v3.0cbds_第2页](http://file4.renrendoc.com/view/08639b11167eba12c0b6a54d6dd8b4f0/08639b11167eba12c0b6a54d6dd8b4f02.gif)
![个人的认证官方和考试体系及证书有效期hcie0学习参考包it部分hcnp-storage v3.0cbds_第3页](http://file4.renrendoc.com/view/08639b11167eba12c0b6a54d6dd8b4f0/08639b11167eba12c0b6a54d6dd8b4f03.gif)
![个人的认证官方和考试体系及证书有效期hcie0学习参考包it部分hcnp-storage v3.0cbds_第4页](http://file4.renrendoc.com/view/08639b11167eba12c0b6a54d6dd8b4f0/08639b11167eba12c0b6a54d6dd8b4f04.gif)
![个人的认证官方和考试体系及证书有效期hcie0学习参考包it部分hcnp-storage v3.0cbds_第5页](http://file4.renrendoc.com/view/08639b11167eba12c0b6a54d6dd8b4f0/08639b11167eba12c0b6a54d6dd8b4f05.gif)
版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领
文档简介
1、大数据早已成为当前最热门的话题,各个厂家纷纷推出自己的大数据产品,到底什么是大数据,各个领域的根据自己行业的应用给出了不同的看法。未来企业会依靠洞悉数据中的信息更加了解自己和了解客户企业已经从依靠自身做判断向通过数据做判断转变- 某知名互联网企业CEO传统的基于集中式或者小规模分布式和并行系统大数据的计算需求,弹性的计算能力是大数据定义的重要维度,某云服务提供商对于运营商来说,这个“大数据”主要就是指大量的用户产生的行为数据- 某通信商5Volume:非结构化数据超大规模和快速增长,总量占到总数据量80%-90%,比结构化数据快10-50倍,是传统数据仓库的10-50倍。Variety:大数据
2、的异构多样性(数据来源多 结构化 非结构化 半结构化),数据种类的多样性(文本 语音法和定义。图像等),数据排列无固定模式或模式不明显,不连贯的语Value:大量不相关信息,对未来趋势和模式可能)。(咨询人工智能VS商务智Velocity:数据实时分析而非批量分析,立刻出结果而非事后见效。6现有所谓的技术模型已经很难满足大数据处理和分析的要求,作为数据的处理流程环节,计算网络 数据库的的等都会成为新的瓶颈需要新技术来匹配。大数据时代:计算:向集群化发展:块设备和文件设备都向横向扩展 虚拟化以及提供丰富的软件对外接口发展,但文件横向扩展能力要更高,硬件设备通常会扩展到百节点以上,文件系统由本地文
3、件系统向集群文件系统和分布式文件系统发展网络:无论是网间还是网内都开始向更高速,协议开销更低,更有效的方向发展数据库:由关系型数据库向分布式数据库以及非关系型数据发展(内存性数据库)这些技术数据库中出现了新的机会点:关系型数据库非关系型数据库-混合型数据库文件系统的:本地文件系统-集群文件系统-分布式文件系统跟随的技术厂家通过大数据领域的看到了新的机会(这种新技术的使用上大家起步差不多) 想进行,成为新技术的倡导者 ,技术厂家有动力。810数据分析师:传统分析方法大数据的海量数据分析的及时性、效率和实时应用当前技能要求高,需要业务驱动的一站式甚至one-Click的闭环解决方案数据集成工快速加
4、载,数据加载速度始终是瓶颈数据整理复杂,工作量占大数据项目的70如何管理数据资产和质量运维工快速上线:易安装部署,升级和配置低成本:可靠、安全、问题快速定位/恢复主动运维:主动进行健康/风险/效率开发工快速上手、高效开发&DevOps典型场景最好免代码开发分析无缝集成到已有系统和支撑移动互联网应用环境1119世纪以来,当大量数据时,社会都依赖于采样分析。但是采样分析是信息缺乏时代和信息流通受限制的模拟数据时代的产物。以前通常把这看成是理所当然的限制,但高性能数字技术的流行让围相比,使用一切数据为,这其实是一种人为的限制。与局限在小数据范带来了更高的精确性,也让看到了一些以前无法发现的细节大数据
5、让更清楚地看到了样本无法揭示的细节信息。以前因为需要分析的数据很少,所以须尽可能精准地量化的。在某些方面,已经了差别。例如,一个小商店在晚上打烊的时候要把收银台里的每分钱都数清楚,但是不会、也不可能用“分”这个去精确度量国民生产总值。随着规模的扩大,对精确度的痴迷将减弱。达到精确需要有专业的数据库。针对小数据量和特定事情,追求精确性依然是可行的,比如一个人的账户上是否有足够的钱开具支票。但是,在这个大数据时代,很多时候,追求精确度已经变得不可行,甚至不受欢迎了。当拥有海量即时数据时,绝对的精准不再是追求的主要目标。寻找因果关系是人类长久以来的。即使确定因果关系很而且用途不大,人类还是性地寻找缘
6、由。相反,在大数据时代,无须再紧盯事物之间的因果关系,而应该寻找事物之间的相关关系,这会给提供非常新颖且有价值的观点。相关关系也许不能准确地告知者将来会发生。某件事情为何会发生,但是它会提醒这件事情正在发生,或12在讲大数据支撑技术前,先同过简单的图表形式来介绍下大数据的一些概念,便于大家理解,这里通过河流的船运来描述数据和大数据的技术变化当数据量变大只能通过升级船的大小来解决(升级CPU,内存,磁盘容量)但受限于硬件本身这种方式升级已达到极限,就像河流里的船一样水深是一定的,船太大就托底了。所以它的升级是有限的。它的充分利用了扩展性即充分利用河流的宽度,并发的进行处理,它不在是以往那种部件扩
7、展(CPU 内存等)而是组件级的扩展它的扩展性更灵活,承载能力更大,但是需要更强的调度和协调能力,也就是管理上变得复杂了,当然这个复杂不是对外的而是指对编写程序的复杂度和代码的效率要求更高了。河流:分布式文件系统,决定河流的最大利用率,这条河流上同时可以并发跑多少条船,跑什么船即横向扩展能力。系统,决定数据的运载能力和处理速度。不同的船型,功能上会有较大的差异(数据的保护级别,处理性能,增值特性等)数据做了粗加工处理,然后传递给分析工具。在大数据的特征中4V介绍了其中一个V VALUE 价值密度,这个价值密度是指数据的价值比例,有些数据价值密度会低一些,但看每一条感觉用处都不大,需要从大量的低
8、价值数据中整合分析获得高价值的结果(比如互联网数据),但是对于企业的一些数据,尤其是数据库形成的数据 它的每一条都恨重要,针对这些不同类型的大数据,他会采用不同的处理。看到对不同价值数据处理会有不同处理方式,那它不仅体现在选择上(船),在数据管理上也会有所不同,有些数据在加载过程中不做任何处理,直接传递给分析工具,由分析工具进行那么分析工具据需要承担大量的数据筛选工作。数据在运载过程中做了分门别类的整理细加工处理,然后传递给分析工具,分析工具直接导入数据,给出结果,分析工具不要承担额外的消耗。专心做分析。计世资讯认为:2011年是数据市场元年,一些大数据产品已经推出,部分行业大数据应用案例的产
9、生2012-2016年将迎来大数据市场的飞速发展。计世资讯模逼近百亿。:2012年数据市场将迎来增速为138.3的飞跃到2016年整个市场规2012年、互联网、电信、金融的大数据市场规模较大,四个行业将占据一半市场份额为138.3的飞跃到2016年整个市场规模逼近百亿。由于各个行业都存在大数据应用需求,潜在市场空间非常可观。20B2C的故事:的一位母亲最近总是收到一家电子商务的厂家寄来的产品目录,目录的内容都是针对孕妇需求的产品,这位单身母亲只有一个未成年的女儿,她本身也没有怀孕,气愤的母亲于是把这家电子商务厂家告到了,结果是这位母亲的孩子怀孕了,原因是她最近一段时间经常在电子商务中浏览一些怀
10、孕妇女经常使用的产品和书籍,这些上网的行为孕妇女(但没能判断数据被传到了,经过分析后,判断其为一位怀),才会定期向她推送相关的怀孕妇女使用的一些产品,这就是大数据分析的一种应用。业务推送:运营商会通常会给用户推送一些增值业务或者套餐,那么他们根据什么来进行推送服务的呢,其实它是通过你打的时长(长话多,还是短话多,还是多),所处的地理位置(国内漫游 国际漫游 市话),通过一年或半年的数据积累来判断你是商务还是普通工人还是公司白领根据你的打的来给出相对你比较合适的套餐服务或者增值服务。传统业务:语音业务的数据分析挖掘以及行为分析后的推送服务。新务:通过免费的云服务进行事件和。信贷业务:面向淘宝或者
11、阿里巴巴等普通会员全面放开,不用提交任何担保、抵押,只需凭借企业的信用资源就可以“微贷”。“微贷”通过网络低成本广泛客户的各类数据信息,分析挖掘的数据,判断客户资质,用户可以24小时随用随借、随借随还。商务上的每一笔交易,建行都有并且能伪,可作为客户授信评级的重要依据。对消费者行为的分析,比如点击量、跨点击,订单流转量甚至聊天信息的收集和分析。未来互联网金融模式下资源配置的特点是:供需信息直接在网上发布并匹配,供需双方甚至不需依据。、券商或交易所等中介,直接匹配完成信评级的重要2008年引入数据挖掘,高频率快速分析用电数据实现分时动态定价,准确电荷预测,精准财务绩效45%,客户满意度上升97%
12、,企业用电成本下降30%。大数据在智能电网应用广泛(涉及发电、调度、用电、企业决策)等将使每年能耗降低10%每年节省800亿新建电厂的费用。技术:把带,摄像机,传输等多途径的音到 管理系统-输出为两路晰及低清晰度素材。及网络技术:采用FC+GE网络及高性能。管理技术:如何安排,近线,离线素材。编码技术:什么样的编码技术,能在保证质量的前提下压缩到最小,节省空间。实效性:发生具有时间、空间的不确定性,但需要在案发第一时间在最短时间内对跨时间和区域的海量进行处理,这对分析设备分析处理能力、设备的部署方式提出了。准确性:提高准确性,降低虚警率,这需要行大量的样本学习和训练,广泛的案事件的案事件样本库
13、和警务知识库,需要进信息的积累。开放性:查询的及其结果应能在大范围内共享,便于大案要案的串并案分析和挖掘。专业性:各级机关受制于财力和资源的限制,分析工具难以全部具备,精通分析工具的专业的数量不能满足大案要案的需要。大数据的应用不是取代现有的用户系统,最终是对用户原有系统的补充和优化,它可能是 计算 也可能是和分析。甚至都包含。最终根据用户的实际需求提供不同的产品组合。27架构模式:Hadoop + MPP RDB /SMP RDB。处理方式:Hadoop处理非结构化,为辅;RDB处理结构化,为主。非结构化:Hadoop方案,对服务器和无特殊要求,廉价为主。结构化:MPP RDB /SMP R
14、DB +Hadoop(只负责计算需做修改)或用新分布式文件系统来替代,对计算和有要求(可靠性,高性能,增值应用等)。29数据分析+分布式文件+归档+30FuInsighdoop 提供大数据处理环境,基于社区开源软件增强,按照场景选择业界最佳实践。FuInsight DataFarm提供支撑端到端数据洞察,构建数据到信息到知识到智慧的数据供应链, 其中包括相对独立的数据集成服务Porter,数据挖掘服务Miner和数据服务框架Farmer。FuInsight Manager是一个分布式系统管理框架,管理员可以从单一接入点操控分布式集群,包括系统管理(OM/NTP/灾备)、数据安全管理、数据治理和
15、作业调度管理(oozie)。31息化发展到,PC成为每个企业必备的办公设备,然而随着PC的普及和使用过程中,越来越多的问题和开始出来。首先是的问题,由于所有的数据和信息都分散在PC本地硬盘中,使得数据丢失和信息泄露的途径非常多,付出大量成本来封堵信息泄露的途径,收效却非常有限。其次随着PC数量的增加和各种业务应用的不断出现,PC的管理工作也逐渐重负,管理的大量时间被用于解决各种PC故障,越来越多的企业将IT运维外包,无形中增加了成本。资源的导致了另外一种形式的浪费,PC每天只有约1/3的时间处于工作状态,另外2/3的时间处于关机或者空闲状态,这些空闲的资源无法被有效利用,另一方面,当业务变化需
16、要更强的处理能力的时候,却受限于硬件限制无法做到及时的响应。基于PC的办公桌面对业务发展的制约逐渐凸显。做为国产厂家,FuInsight大数据软件完全研发,并拥有国家局颁发的完全的计算机软件著作权登记。32Wushan业界单一最件系统400人历时三年开发而成比HADOOP无论稳定性和代码效率都优秀得多。3334靠的数据保护35将多个应用程序整合到单个 128条。系统中,消除了数据移动且简化了管理策略最多配置每个策略都有对应的ID(范围为0-127),不允许添加相同的策略ID默认策略为选用空闲空间最大的分级,ID为127,对于迁移不生效各个策略可以设置优先级。策略ID越小,优先级越高文件在存放/
17、迁移时按照能匹配的最高优先级的存放策略执行与isilon对比:Io热度,元数据优先存放于高性能节点36同一数据块所在节点的缓存只缓存一份任意节点缓存中的数据都能被其他节点缓存热点动态迁移时在缓存中命中37WiseLink与SmartConnect的相同点功能设计和分区管理节点间的IP failover功能WiseLink与SmartConnect的差异负载均衡策略(优势)SmartConnect的均衡策略包括:CPU、网络带宽、TCP/IP连接数、轮选WiseLink除以上四种策略外,还可以根据“节点能力”进行均衡选择。节点内IP的故障切换WiseLink支持节点内网口间浮动IP的故障切换Sm
18、artConnect不支持Rebalance功能SmartConnect提供rebalanced功能WiseLink不支持浮动IP的回迁38Request件(GB-10GB级)和小文件(KB级)并存,件读写(单文件可达200G)。每天产生TB级的数据,总量PB级。生成图像产品时批量作业,要求原始数据不允许丢失。Solution高吞吐。5,000,000+ OPS业界性能第一,应对每天产生的大量的需求。数据动态分级,效率5倍。3-288节点超大线性扩展能力,业务持续增长轻松扩容。测绘主要提供高分辨率遥感影像应用服务。通过观测,能完成数字高程模型制作、测图等,生产现实性强、精度高的基础地理信息产品
19、。通过对比,分析地貌变化,测量资源,设计公/铁路施工路线等。测绘原始经过处理生成固定逻辑分片的图像产品。39Request业务量不断增长,需要高性能、大容量、扩展性好的。Hadoop兼容:需兼容Hadoop环境。管理复杂:手动将数据从计算集群迁移到二级,过程复杂繁琐。成本高:传统备份软件导入数据到磁带中,成本高。Solution按需扩展:按照业务需要,扩展的性。HDFS接口:兼容Hadoop环境,无需二次开发。系统具备自、分析能力,免除手动数据迁移,降低管理复杂度。无需备份软件,降低采购成本。Hadoop高性能计算集群:SOAP系列软件、遗传变异检测软件、2000个计算节点。数据分析、Heca
20、te2及Gaea2。40Request摄像头(720P/4Mbps以上)广泛应用,需要低成本、大容量、高扩展性的。随着视侦逐渐成为Solution侦破的主要,需要具有更靠性。全生命周期管理:提供基于策略的自动化数据管理,自动实现数据的、离线归档等过程。近线资源池:无需管理复杂度。、RAID配置,无需布局规划,极大降低规划和411、ABCD2、FOceanStor 9000大数据系统包含文件子系统WushanFS,结构化分析子系统WushanSQL和非结构化分析子系统FuInsighdoop,管理子系统,对外提供针对大数据优化的、分析支撑能力。硬件层使用通用化硬件根据各子系统需求配置的硬件节点,
21、通过以太网的ALL IP互联:分布式文件系统 OceanStor DFS:为了解决传统体系结构存在的难题(容量不易扩展、性能不易扩展),WushanFS分布式文件系统应运而生。WushanFS分布式文件系统将三个传统的体系结构层(文件系统、卷管理器和 RAID)组合为一个统。的软件层,从而创建一个系统中所有节点的单一智能文件系的大数据X位一体分析子系统是构建在分布式技术之上,使用分布式SQL查询技术,融合Hadoop的创新型分析组件。提供标准SQL接口对结构化数据的直接存取和复杂关联分析,同时支持通过标准文件接口(NFS/CIFS)存入的非结构化、半结构化数据,基于企业级的FuInsighdo
22、op的MapReduce分析。分布式数据库WushanSQL和Hadoop 主要提供数据分析和查询功能, 分别部署在不同的节点上。不是大数据技术课程的内容。大数据解决方案OceanStor 9000架构特点:融合Scale-out NAS、Scale-out Database和Scale-out Backup,实现多位一体,面向大数据的集群系统。在一个系统内实现了分布式、分布式备份以及分布式数据分析的全生命周期管理,在数据调度模块的调度下,数据在多域间有效。4Wushan SQL 提供分布式架构、并行处理技术和灵活的数据组织模型,可以应对企业不断增长的海量数据的和快速处理以及灵活的业务建模需求
23、。Insight Hadoop:Hadoop是一个分布式系统基础架构,由Apache开发。Fu用户可以在不了解分布式底层细节的情况下,开发分布式业务应用程序,充分利用集群的高速运算和。InfoExplorer : 将文件元数据转换成为结构化数据,WushanSQL中,根据常用的检索条件为元数据创建B树索在OceanStor 9000 的户可以通过索引快速的查找目标文件。InfoExplorer支持简单的统计分析功能,可以实现文件的分类查找。OceanStor 9000是针对大数据的特点,使用通用x86架构硬件以Scale-out NAS系统为基础,推出的大数据。OceanStor 9000提供
24、多种节点类型,分别对应多种大数据业务。全分布式架构:传统的NAS系统由引擎和单元组成。数据的全部并发需要先由NAS引擎处理,因此引擎容易成为性能瓶颈。OceanStor 9000采用全对称的分布式逻辑架构,每个节点均可提供外部业务。通过负载均衡设计,数据在集群内均匀分布,可大幅系统并发能力。OceanStor 9000支持10GE高速以太网全IP互联,单个节点可提供4个10GE端口。 OceanStor 9000还同时支持IB(InfiniBand)网络,可满足更加苛刻的性能要求。 OceanStor 9000可适配用户的不同组网需求,通过节点间高速互联,降低系统内部时延,提供卓越性能。高性能
25、节点和大容量归档节点,用于提供巫山文件系统相关的大数据功能,不提供wushan SQL或者企业级Hadoop FuInsight 功能。I系列分析节点,用于提供 wushan SQL或者企业级Hadoop Fu析功能。Insight 的大数据分InfoProtector功能包含四个方面:文件数据的保护,元数据的保护,数据恢复以及数据分域。数据恢复:当硬盘故障或节点故障时,OceanStor 9000可将故障硬盘或节点上的数据恢复到其他工作正常的硬盘上,从而实现数据找回。数据在被找回之前,OceanStor 9000可通过内部算法确保用户正常使用数据,但数据保护级别与读写性能将会降低。物理分域是
26、一种故障的有效。启用物理分域后,单个域内的硬盘或节点故障,将不会导致其他域的数据可靠性降级或失效,也不会因执行数据恢复任务而影响其他域的读写性能。Erasure code冗余技术又称为分布式RAID技术,是RAID的超集,能够支持比传统 RAID算法更高的可靠性和更灵活的冗余策略。Erasure Code对文件进行原始分片(M份),将对象分割成固定长度的数据块,每M个连续数据块通过Erasure Code算法计算出N个校验块(NM),这M个数据块和N个校验块组成一个数据块组并保存在不同的硬盘上。在Erasure Code模式下,系统最多支持N块硬盘失效。OceanStor 9000系统可以对目
27、录/文件配置不同的数据保护方式。不同的数据保护方式,是通过不同的数据条带化方式实现的。使用Erasure Code方式时,写入OceanStor9000系统的数据,会先按4G大小切分Ck,Cck再按照128KB为一个分片,切分为多个源数据分片,然后对每N个源数据分片,计算得到M个冗余数据分片,最终每 N+M个分片组成一个条带,写入到系统中。当系统出现故障,丢失了其中的某些分片时,只要一个条带中丢失的分片数目不超过M,仍可进行正常的数据读写。通过数据恢复算法,丢失的分片可从剩余分片中计算得到。在这种方式下,空间的利用率约为 N/(M+N),数据的可靠性由M值的大小决定,M越大可靠性越高。使用镜像
28、方式时,写入OceanStor 9000的数据也将按照128KB进行切片,不同的是,系统对每个源数据分片,都会按照的方式为多份,只要其中任意一份不损坏,就可进行正常地读写。执行数据恢复时,丢失的镜像数据直接从完好的数据中即可。同样,系统可以配置不同的镜像数目,以得到不同的空间利用率和数据可靠性。另外,OceanStor9000的分布式文件系统的元数据,采用的就是镜像的方式,并且对于配置了N+M保护方式的文件来说,其元数据的镜像数自动设定为M+2份,这使得OceanStor 9000分布式系统的元数据的可靠性高于其数据。Erasure Code的好处:数据分片写到不同的节点上,不仅可以提高读写性
29、能,又能保证数据的和服务的用性,还能保持高的磁盘利用率,节约投资。靠性在OceanStor 9000集群节点中,任意不超过M(冗余份数)个硬盘故障后,系统都可以通过节点间数据重构的方式快速恢复出所损失的数据,进而恢复整系统的数据可靠性。系统中任意可用空间都可以作为“热备”空间使用,解决了传统RAID的热备盘问题,进一步提高了利用率。N+M:B的保护方式,可以支持M个硬盘故障或者B个节点故障,这在节点数量较少时非常有用。对于用户来说,只需要对目录/文件指定相应的+M(或者+M:B)即可,OceanStor 9000系统会根据系统当前的节点数量,自动选取最合适的N,N取值范围2-16,M取值范围1
30、-4。13N+M指M个节点同时故障仍能继续工作。N+M:1指M个硬盘或1个节点故障情况下仍能继续工作。其中文件分片数N必须大于冗余份数M。系统在冗余配比为16+1时,可提供最高的磁盘利用率,为95%。14表格体现了当冗余度m取值不同值时的含义和适用场景。数据写的过程:用户上传的对象数据被切分成若干固定长度的数据块。每M个数据块通过Erasure Code算法计算出N个冗余校验块(N 集群NAS系统 NAS服务CIFS共享 右侧操作区选中需要查看的共享名称 下方选择“虚拟IP地址”页签”查看用于该共享的虚拟IP地址。“全局模式”为“集群”:选择“所有设备 集群NAS系统 设备信息”,选中集群NA
31、S系统的设备名称。单击“网络管理”,选择“IP地址管理”,获取的虚拟IP地址。任意一个的虚拟IP地址都可以共享空间。Q:重新启用CIFS服务时需要输入的是什么?A:当集群NAS域用户的当集群NAS系统应用于AD域环境时,重新启用CIFS服务需要输入已加入AD域的。系统应用于无域环境时,重新启用CIFS服务不需要输入。Q:通过不同的引擎IP地址是否可以同时读写同一共享文件?A:可以同时读同一文件,当同时写同一文件时,由于集群有锁机制,只有一个IP地址能够写成功。1、ABC2、T通常,在销售时,就需要确定客户组网中应采用的节点类型和交换机类型。节点类型和交换机类型的选择是按照客户的应用场景要求,即
32、对性能,容量,TCO的需求来进行选择的。4OceanStor 9000组网可以分为:前端业务网络: OceanStor 9000 与用户网络对接的组网, 用于客户端接入OceanStor 9000,简称前端网络。后端网络:OceanStor 9000内部节点间的组网,用于集群内部通信,简称后端网络。管理网络:OceanStor 9000与客户管理网络对接的组网,用于客户终端接入OceanStor 9000。管理网络又包括连接Devicemanager的业务管理网络和进行设备硬件管理的IPMI管理网络。5OceanStor 9000按照不同的前后端组网方案划分不同的部署方案。选择部署方案时,应根
33、据不同的应用场景需求选择不同的节点,选择相应的前后端组网方案。机柜配置说明节点在机柜中优先从底向上摆放。基础柜内的最下面的3个节点称为该系统的前3个节点。基础柜内部的节点通过网线和SFP+线缆连接到本机柜中的交换机,扩展柜内部的节点通过网线和光纤连接到基础柜中的交换机。图中机柜中摆放的节点以P36/C36节点为例,节点类型不同,每个机柜中最多摆放的节点数目不同。在实际项目应用中,需要计算机柜中节点、交换机、KVM的总功耗和总重量,并根据客户机房条件综合判断一个机柜中可容纳的节点数量, 确定适合具体项目实际情况的部署方案 。 能耗计算, 可参考 HYPERLINK http:/s/ http:/
34、s/onlinetool/datums/ercalc/erCalculator.jsp8910说明:非C72节点包括:P25/P36/P12/C36这里的A0-1和B3-1接口分别分配的1个前端业务网络IP地址是指静态业务IP地址。总结:每一个业务网口(包括前端和后端)都需要配置1个后端每一个IPMI网口都需要配置1个管理IP地址。网络IP地址。NIC0口,前3个节点的NIC0口,共个浮动的管理IP地址。说明:前端GE组网时,A0槽位配置10GE网卡,连接后端交换机;B3槽位和B2槽位(前端配置两块网卡时)配置GE网卡,连接前端交换机。其它规则与前端10GE组网相同。C72节点只提供固定类型的
35、板载接口,不另外提供可更换的接口模块。P0,P1接口固定为10GE接口,连接后端业务组网;NIC0接口固定为GE接口,连接管理网络;NIC1,NIC2,NIC3 固定为GE接口,连接前端业务网络;C72节点,没有IPMI端口。13说明:这里的NIC1/NIC2/NIC3接口分别分配的1个前端业务网络IP地址是指静态业务IP地址。每一个业务网口(包括前端和后端)都需要配置1个IP地址。每个节点的两个NIC0口,都需要连接到管理网络,所有C72节点共管理IP地址。个浮动的14CE6800的接口,按功能分为:下行接口,预留接口,堆叠接口,ETH管理接口。图中部署方案适用于前端业务网络接入用户交换机,
36、当前端业务网络和后端网络都接入CE6800交换机,此时CE6800交换机需要划分VLAN区分前端业务网络和后端络。下行接口:网当前端业务网络和后端网络均采用10GE组网时CE6800-1连接到P25/P36/P12/C36节点B3-0接口。CE6800-2连接到P25/P36/P12/C36节点A0-0接口。当前端业务网络采用GE组网,后端网络采用10GE组网时CE6800-1连接到P25/P36/P12/C36节点A0-0接口或C72节点P0接口。CE6800-2连接到P25/P36/P12/C36节点A0-1接口或C72节点P1接口。预留接口空闲接口称为预留接口,建议执行shutdown命
37、令,关闭这些接口。15IPMI下行接口40个接口顺序连接到各节点的IPMI接口(C72节点没有IPMI接口)。NIC0下行接口部署P25/P36/P12/C36节点时,3个接口顺序连接到OceanStor 9000集群最前面的3个节点(基础柜中0103号节点)的NIC0接口。部署C72节点时,由于每个C72节点出2个NIC0接口,需要在S5752交换机上规划2N(N=节点数)个接口,顺序连接到每个节点的NIC0接口。10GE交换机管理口连接到两台CE6800交换机正面的ETH管理网口。上行接口连接到客户的管理预留接口网络。空闲接口,建议执行shutdown命令,关闭这些接口。17非C72节点指
38、:P25/P36/P12/C36节点。前端业务网络:每个前端业务网口,需要有一个静态IP地址,一个动态IP地址。如果一个节点有两个前端业务网口。因此一个节点需要有2个静态IP地址,2个动态IP地址。如果一个节点有4个前端业务网口。因此一个节点需要有4个静态IP地址,4个动态IP地址。无论部署哪种类型的节点,都需要规划1个InfoEqualizer DNS IP地址。18非C72节点指:P25/P36/P12/C36节点。后端网络:每个后端网口需要配置一个后端网络IP地址,每个节点有2个后端网口。因此,实际IP地址数量:节点数量2 。临时IP地址:每个节点一个,仅用于软件安装时临时分配给各节点。
39、完成软件安装后,将自动删除这些地址。这些临时规划的后端网络IP地址不能与节点实际规划的后端网络IP地址。19非C72节点指:P25/P36/P12/C36节点。管理网络:每个P25/P36/P12/C36节点IPMI接口分配1个。每台管理网络交换机分配1个。OceanStor 9000管理IP地址1个(在最前面3个节点(基础柜中0103号节点)的NIC0接口上浮动)。后端网络交换机1个。OceanStor 9000在软件安装过程中还需要临时申请2个管理网络IP地址,分别配置在部署节点的NIC0接口和部署客户端上,用于安装软件时登录部署工具并上传文件包,部署完成后即可删除。202122详细配置方
40、法见产品文档“软件安装指南”中“配置交换机”部分。23机柜配置说明节点在机柜中优先从底向上摆放。初始部署时如果节点数超过16,则需要根据实际组网规模,确定IB交换机的型号。基础柜内部的节点通过网线和SFP+线缆连接到本机柜中的交换机,扩展柜内部的节点通过网线和光纤连接到基础柜中的交换机。图中机柜中摆放的节点以P36/C 36节点为例,节点类型不同,每个机柜中最多摆放的节点数目不同。在实际项目应用中,需要计算机柜中节点、交换机、KVM的总功耗和总重量,并根据客户机房条件综合判断一个机柜中可容纳的节点数量, 确定适合具体项目实际情况的部署方案 。 能耗计算, 可参考 HYPERLINK http:
41、/s/ http:/s/onlinetool/datums/ercalc/erCalculator.jsp252627当用户的前端业务网络交换机使用IB交换机时,节点使用接口变化如下,以增加板卡间的冗余性。A0-0和B3-0连接后端网络交换机。A0-1和B3-1连接前端业务网络交换机。下行接口前端为10GE组网时,IS5023-1交换机连接各节点A0-0接口,IS5023-2交换机连接各节点A0-1接口。前端为IB组网时,IS5023-1交换机连接各节点B3-0接口,IS5023-2交换机连接各节点A0-0接口。交换机互连接口用于两台IS5023交换机互连。29IPMI下行接口16个接口顺序连
42、接到各节点的IPMI接口。NIC0下行接口3个接口顺序连接到集群最前面的3个节点(基础柜中0103号节点)。上行接口连接到客户的管理预留接口网络。空闲接口,建议执行shutdown命令,关闭这些接口。30后端网络IP地址:规划工具默认使用054网段作为后端网络的IP地址范围,默认子网掩码为(至少16位掩码),只要确认与实际应用的IP地址不存在即可直接使用。后端网络临时IP地址:这些IP地址用于软件安装时临时分配给各节点。完成软件安装后,将自动删除这些地址。这些临时规划的后端网络IP地址不能与节点实际规划的后端网络IP地址。软件安装临时IP地址:分别配置在部署节点的NIC0接口和部署客户端上,用
43、于安装软件时登录部署工具并上传文件包,部署完成后即可删除。31详细配置方法见产品文档“软件安装指南”中“配置交换机”部分。32使用方法:工具路径,默认显示“基础组网”内容,可根据选择的产品、组网方式和节点数量信息,自动绘制典型组网类型的组网连线图。通过规划指南介绍网络规划的详细原则。34作用:通过LLD规划模板覆盖网络规划的所有重点内容及样例。35查看方法:登录OceanStor DeviceManager后,在首页的左下方查看报表。图中查看的内容为OPS。相同方法可带宽数据。SystemReporter作为OceanStor 9000的性能分析工具,采用、归档、分析、等功能,让用户能等方法,
44、提供实时、历史趋势分析、对比分析和容量够更加直观、简单的了解OceanStor 9000的性能并可及时做出调整。当项目已部署该工具时,您可以通过该工具查看报表,如果没有部署该工具,您可以通过OceanStor DeviceManager较少。SystemReporter功能示意报表登录:在地址栏中输入性能和容量,但DeviceManager提供的功能相对。并按“Enter”。其中: “IP”为安装OceanStor SystemReporter的服务器IP地址。“8088”为HTTPS服务端口。如果软件安装过程中已手工指定其他HTTPS或HTTP服务端口,请使用更改后的端口登录。对每种资源对象
45、可的性能指标,仅作了解。40对每种资源对象可的性能指标,仅作了解。41为方便查看和管理,SystemReporter还提供如报表功能。报表功能包含:预置报表,自定义报表和任务报表。预置报表举例:设备整体的性能概况,支持对CPU、网口及硬盘最近1小时、2小时、12小时、24小时、7天热点统计图。集群、节点、网口、硬盘和客户端等对象统计过去24小时、1周、1个月、3个月、1年的性能指标数据,集群和节点容量使用情况,可选择其中Top5报告给用户。自定义报表举例:统计对象过去自定义时段的性能指标数据,选择其中Top5给用户。还可对指定的某几个对象按时间段/时间点统计某些指标的最大/最小/平均值,可选取
46、TopN生成。支持对不同协议类型(NFS、CIFS、FTP)的客户端或者对整个系统,统计指定时间段内指定类型文件的量。对每种报表可的统计对象,仅作了解。42该报表用于统计某个时间段系统的整体使用情况,可以快速定位物理组件的性能瓶颈。图中以24小时为例。43该报表用于对集群指定的性能指标或容量进行实时如图。以指标CPU利用率为例,44该报表用于对指定节点上网口的指定性能指标进行实时。以指标带宽为例,报表呈现。45该报表用于对指定节点上挂载的客户端的性能指标进行实时。以指标平均操作时延为例,报表呈现。46客户端的读写请求的处理流程为:“客户端 业务网络 OceanStor 9000节点”,性能分析
47、可以根据数据的处理流程,逐一分析。客户端:业务应用特征:件关注带宽性能,小文件关注OPS性能,件场景的带宽性能就会大于票据影像归档的小文件场景,但OPS会小于票据影像归档的小文件场景。配置:包括传输协议TCP调整,NFS协议参数调整,CIFS协议参数调整等。网络,包括速率协商,延时,丢包等。OceanStor 9000配置OceanStor 9000节点硬件配置:硬件配置对性能影响很大,比如更高性能的节点,更高性能的客户端,更高性能的网卡。OceanStor 9000的配置,包括共享参数设置,负载均衡接入,分级余配比(数据保护级别)和条带大小等。策略,冗如果OceanStor 9000系统硬件
48、配置是与业务规划性能要求不匹配,本文的调优手段不能完全解决客户问题,必须通过论范围。硬件配置来性能,不在本文档的讨调优思路:做性能分析调整的时候,需要根据性能工具的结果,按照“排除外部干扰,优化配置”的顺序逐一调整,然后观测性能工具的报表调整后的结果。这里的外部干扰主要指网络。overruns有计数,需要检查对应交换机接口有没有配置flow-control;frame有计数,需要抓包确认有没有重传。ethtool A0-1:主要看“Speed”速率协商是否是网口对应速率,“Link detected”是否为 yes,“duplex”是否是full。ethtool -i A0-1: 看网口驱动版
49、本,可以识别接口类型和厂商,比如cxgb4是Chelsio卡,ixgbe是el 10GE卡。lspci |grep Ether:确认用的是什么型号的网卡。详细信息还请参考对应型号交换机的故障手册。55分析与调整NAS服务参数,通过分析文件模型调整NFS与CIFS服务的传输块大小,关闭CIFS服务中的Notify变更通知与签名功能,以及关闭针对文件的时间功能,可系统性能。分析与调整客户端接入负载分配,InfoEqualizer特性可让NFS/CIFS客户端连接以负载均衡方式分配给多个InfoEqualizer配置可节点处理。当客户端接入负载分配不均时,通过调整系统性能。分析与调整热点数据布局,当
50、启用分级统性能。功能时,通过调整热点数据布局可系分析与调整冗余配比(数据保护级别)和条带大小,当目录的冗余配比和条带大小设置不当时,通过调整设置可系统性能。NFS传输块大小:缺省为32KB,OceanStor 9000缺省设置为1MB。取值范围为1KB1MB。CIFS传输块大小:SMB2.0缺省是64KB,SMB3.0缺省是128KB,OceanStor 9000缺省设置为1MB。取值范围为1KB1MB。NFS客户端调整请参考Linux客户端调优,CIFS客户端调整请参考Windows客户端调优。57关闭CIotify变更通知。1.登录OceanStor DeviceManager。2.选择“
51、 设置 设置 文件服务 CIFS服务”。3.去勾选“notify启用”。4.单击“保存”。5.关闭CIFS签名。录OceanStor DeviceManager。1.选择“ 设置 设置 文件服务 CIFS服务”。2.去勾选“签名启用”和“强制签名”。3.单击“保存”。4.可选:如果客户端已设置启用签名功能,请恢复缺省设置。58关闭时间。登录CLI,请参考OceanStor 9000 管理员指南中“登录CLI”。1.执行命令change file acstime false2.59客户端接入组网。60“登录Device Manager”和“在各客户端中卸载已共享目录并以分配的新挂载”的方法,不在
52、此描述。重方法:1.选择“ 系统 设备视图”。2.在“节点列表”下观察每个节点的“读/写带宽(KB/s)”、“CPU利用率”。性能规格:跟读写业务形态,硬件配置,组网强相关,具体性能规格请找产品售前人员获取,此处仅给出一个样例,前端业务网络10GE组网下单P36节点读写性能规格:顺序读性能:1600MB。顺序写性能:NFS挂载为1100MB,CIFS挂载为1300MB。62方法:1.选择“设置 集群设置 InfoEqualizer 分区管理”。2.分区列表中选中一个分区后单击“属性”,修改行调整;、负载均衡策略等信息,执3.或者在分区的节点列表中执行“添加”或“删除”节点,进行调整。63P12
53、 SATA硬盘 和 C36 SATA硬盘,性能差异较小,因此不建议在二者间执行数据迁移。定义文件略方法:1.选择“ 资源分配 InfoTier 文件略”。2.单击“创建”,输入名称、条件等信息后,单击“完成”。3.当文件略仅定义“文件路径”、“文件名”和“用户/用户组”条件中的一项或几项时可以指定储的分级,不能指定的节点池。当文件的节点池。略设置了其他属性时只能指定存OceanStor 9000支持按如下一个或多个条件识别热点数据:文件路径:如/example。文件名:支持使用“*”代表任意个字符,使用“?”代表任意一个字符。用户/用户组:文件所属的用户/用户组。文件大小:如大于4MB小于10
54、MB。可定义的为KB/MB/GB。创建时间:如距当前时间大于12小时但小于48小时。修改时间:如距当前时间大于12小时但小于48小时。最后一次时间:如距当前时间大于2小时但小于24小时。I/O次数:表示在统计周期内的天以内。操作次数,可定义的统计周期为1天以内764说明:当前系统版本支持条带大小为:512KB、256KB、128KB、32KB或16KB。只有空目录才能个修改冗余配比;修改后的条带大小只对新写入的文件生效,修改前已有文件仍然保持修改前的条带大小。调整冗余配比的方法1.登录OceanStor DeviceManager。2.选择“资源分配 资源管理器”。3.选中待修改的目录后,单击
55、“冗余配比”。4.在下拉列表框中选择待设置的冗余配比后,单击“应用”。调整条带大小的方法1.登录OceanStor DeviceManager。2.选择“资源分配 资源管理器”。3.选中待修改的目录后,单击“条带”。4.在下拉列表框中选择待设置的条带大小后,单击“应用”。66调整时都需要使用root用户或管理员账号,避免因权限不够无法执行。TCP参数调整:NFS使用TCP协议来进行数据的收发,适当增大缓存区大小可以加快TCP传输速度。在10GE网络下,TCP收发缓存区大小需要调整,GE网络下,可以不做调整;CIFS使用TCP协议来进行数据的收发,适当增大缓冲区大小可以加快TCP传输速度。支持巨
56、帧:开启巨帧可以减少TCP损耗,性能。前提是要确认从OceanStor 9000前端网络接口到客户端接口之间所有网络设备都要支持巨帧,而且MTU都要配置成匹配的值才可以使用该功能。为了支持巨帧,对应的OceanStor 9000所有节点同时也需要执行该操作,将前端IP地址对应的配置文件修改为MTU=9000。如果前端网络交换机支持巨帧功能,可开启客户端的支持巨帧功能。NFS并发数调整:增大NFS协议客户端与服务读的并发消息处理数,同一时刻内,可以将的客户端请求传递到服务端,增大业务并行度,性能。该值默认为16,可以调整为128。NFS 挂 载 参 数 调 整 : 包 括 参 数 : rsize
57、/wsize 、 async 、 noatime 、 nodiratime 、 nolock 、nfs.c nt.nfsiod_thread_max 。dirty_bytes参数调整:当dirty cache到了对应值的时候,就启动pdflush进程,将dirty cache写回磁盘,适当调整dirty_bytes参数能够写性能。CIFS读写大小设置:每次读写块的最大尺寸,建议调整为128KB即“131072”,来尽量减少传输损耗。TCP参数调整:以SUSE11为例,修改TCP收发缓存区大小。 执行如下命令:sysctl -w net.ipv4.tcp_rmem=4000000 8000000
58、 16000000sysctl -w net.ipv4.tcp_wmem=4000000 8000000 16000000为了重启后生效,需要修改对应的配置文件。 执行如下命令:sudo bash -c echo sysctl -w net.ipv4.tcp_rmem=4000000 8000000 16000000 /etc/sysctl.confsudo bash -c echo sysctl -w net.ipv4.tcp_wmem=4000000 8000000 16000000 /etc/sysctl.conf支持巨帧说明:MTU=9000为典型值举例,现场必须根据网络设备的支持情况
59、配置成匹配的值。以SUSE11为例,开启巨帧方法:执行如下命令,eth0根据实际的网卡执行ifconfig eth0查看配置是否生效。ifconfig eth0 mtu 9000调整。为了重启后生效,需要修改网卡配置文件。执行如下命令修改MTU=9000,如无该字段,可以增加该字段。ifcfg-eth0根据实际的网卡vi /etc/sysconfig/network/ifcfg-eth0调整。68OceanStor 9000所有节点同时也需要执行开启支持巨帧操作,对所有接入前端业务网络网口的MTU进行设置,方法同SUSE11中开启巨帧的操作。69NFS并发数:以SUSE11为例,修改并发消息处
60、理数值, 执行如下命令。echo 128 /proc/synrpc/tcp_slot_table_entries执行umount /local_path取消共享目录挂载。执行mount -t nfs -o vers=3,timeo=10 host:/share_path /local_path重新挂载共享目录。dirty_bytes参数调整:以51214400byte为典型值举例,执行如下命令。echo 51214400 /proc/sys/vm/dirty_bytes执行umount /local_path取消共享目录挂载。执 行 如 下 命 令 重 新 挂 载 共 享 目 录 : moun
温馨提示
- 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
- 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
- 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
- 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
- 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
- 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
- 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。
最新文档
- 施工现场施工防生物安全事故制度
- 小学生心理健康教育的校本课程设计研究
- DB4404T 72-2024电梯维修保养服务安全规范
- 不服合作合同争议仲裁起诉状范本
- 个人股权转让合作合同模板
- 两人合伙创业合同范本
- 个人股权转让合同简单范文
- 二手房买卖合同简易版
- 个人公寓租赁合同范本
- 产学研一体化硕士专班合作协议合同
- (康德一诊)重庆市2025届高三高三第一次联合诊断检测 英语试卷(含答案详解)
- 2025年福建泉州文旅集团招聘24人高频重点提升(共500题)附带答案详解
- 建筑行业砂石物资运输方案
- 肿瘤全程管理
- 桃李面包盈利能力探析案例11000字
- GB/Z 30966.71-2024风能发电系统风力发电场监控系统通信第71部分:配置描述语言
- 污泥处置合作合同模板
- 2025高考数学专项复习:概率与统计的综合应用(十八大题型)含答案
- 2024-2030年中国紫苏市场深度局势分析及未来5发展趋势报告
- 2024年高中一年级数学考试题及答案
- 建设工程施工合同纠纷处理课件
评论
0/150
提交评论