视频监控存储方案.docx

.近年来存储技术高速发展，存储设备价格不断下降，专业存储系统具备了在视频监控行业广泛应用的基础。 视频监控的存储解决方案和企业存储解决方案存在共性，也存在其特殊性。基于大容量和安全稳定性的共性，视频监控分享到IT技术的发展，越来越多的监控项目采用技术成熟度较高的网络存储方案和性能价格比合理的磁盘阵列，NVR（Network Video Recoder）正成为行业应用的热点，总体项目的造价为DVR的2-3倍。 但是在视频监控行业，是否需要应用SAN和NAS来解决视频存储资源的共享问题，以及行业用户是否具备足够的资金和技术来应用这些技术，存在许多需要考虑的问题。 磁盘介质的选择 IDE（ATA/PATA）硬盘由于转速低，可靠性差且无法支持热插拔等缺点，目前多用于PC工作站和低端服务器，少量用于对性能、可靠性、容量和扩展性要求不高的低端磁盘阵列。 企业存储采用的磁盘阵列的磁盘介质主要有FC、SCSI和SATA三种（最新的SAS磁盘类似SCSI磁盘，因未普及不再论述），其中SATA磁盘价格明显低于SCSI和FC硬盘，与FC硬盘相比，每TB可以节省￥20,000-￥30,000元的费用。而以前只有在企业级SCSI和FC硬盘中才具有的性能，现在SATA硬盘也可以做到。 基于SATA的企业存储产品，具有如下的特点：首先，此类系统在RAID的实现上具有较强的易用性；其次，传输速度比IDE（ATA/PATA）磁盘高很多，能够满足存储速度的要求；第三，基于SATA的存储系统可以支持设备的热插拔，维护十分简便；第四，相比高价格的SCSI存储系统，SATA的价格相对低廉是目前性价比最好且最适合超大容量流媒体数据存储的首选介质。 RAID级别的选择 RAID是一种利用大量廉价磁盘进行磁盘组织的技术，价格上，大量廉价的磁盘比少量昂贵的大磁盘合算得多；性能上，使用大量磁盘可以提高数据的并行存取速度；可靠性上，冗余数据可以存放在多个磁盘上，因此一个磁盘的故障不会导致数据丢失。 常用的RAID级别包括：RAID0+1、3、5。RAID0+1是磁盘阵列中磁盘利用率最低、费用最高的RAID方式, 但提供了最高的数据可用率，当一个磁盘失效，系统可以自动地替换到镜像磁盘上, 而不需要重组失效的数据 RAID 3使用单块磁盘存放奇偶校验信息。 如果一块磁盘失效, 奇偶盘及其他数据盘可以重新产生数据。 如果奇偶盘失效,则不影响数据使用。RAID 3对于大量的连续数据，可提供很好的传输率； 但对于随机数据, 奇偶盘会成为写操作的瓶颈。 RAID5没有单独指定的奇偶盘, 而是交叉地存取数据及奇偶校验信息于所有磁盘上。在RAID5上, 读/写指针可同时对阵列设备进行操作, 提供了更高的数据流量。RAID 5更适合频繁随机读写的数据。 综合考虑，RAID5是最好的选择。 磁盘阵列设备的选择 在选定SATA作为磁盘介质的基础上，视频监控可应用的主流磁盘阵列包括以SCSI、FC和iSCSI为主机接口的SATA磁盘阵列。 SCSI-SATA盘阵 目前市场上主流的SCSI-SATA盘阵基本上都采用热插拔模块化设计，单控制器，每个控制器提供2个Ultra320 SCSI接口作为主机通道，实际带宽在150-250MB之间，可提供8-24个盘位等不同规格，不可扩展。SCSI-SATA盘阵技术成熟，价格低廉（16盘位的市场参考价35000元），单机容量可达6TB，一台PC服务器一般可接两台，总容量12T，是目前监控行业应用最多的磁盘阵列。缺点是只能用于直连存储（DAS），且单体容量有限。 FC-SATA盘阵 FC-SATA盘阵，主要分为低端不可扩展的FC-SATA阵列和中高端可级联扩展的FC-SATA盘阵。FC-SATA盘阵具有最全面的硬件冗余、模块化设计、涡轮散热系统、LES监控模块、GUI的管理系统等，有些中高端的FC-SATA盘阵还具有强大的数据复制管理功能。 低端FC-SATA盘阵：多采用单控制器单柜设计，每个控制器提供2个2Gb FC主机通道，实际带宽在200-300MB之间，可提供12-16个盘位等不同规格，不可扩展（16盘位的市场参考价50000元左右）。在视频监控应用领域，因为容量有限，并不适合大容量SAN集中存储，而作为直连服务器（DAS）应用，与SCSI-SATA盘阵相比，服务器端还需安装FC HBA（市场价6000元左右）卡，性价比没有优势。 中端可扩展FC-SATA盘阵：基本上采用双冗余控制器的主控磁盘柜级联扩展磁盘柜的设计方式，系统提供4个2Gb FC主机通道，实际带宽在300-350MB之间，最大支持124块磁盘。高端可扩展FC-SATA盘阵，全部采用独立双冗余控制器直连或级联扩展磁盘柜的设计方式。系统提供8个2Gb FC主机通道，实际带宽在600-800MB之间，多数系统最大支持200多块磁盘，有的甚至能支持到800个磁盘。高端的FC-SATA盘阵一般都提供强大的数据复制管理功能。 中高端FC-SATA盘阵：由于其强大的扩展能力，单体容量可达到几十甚至几百个TB，不仅能满足服务器直连（DAS）的大容量存储应用需求，同时也是中大规模FC-SAN集中存储的首选，并且也被广泛用于大容量NAS的存储扩展。在视频监控行业中，当集中存储容量达到20TB以上，FC-SATA盘阵的性价比优势将会显现出来，由于其技术成熟，产品可靠性高，性价比高等优势，已经在一些公安、机场、电信、银行等行业大规模视频监控项目上得到广泛应用。 iSCSI-SATA盘阵 iSCSI-SATA盘阵类似SCSI-SATA盘阵，只是主机通道采用的是千兆以太网接口。市场上iSCSI-SATA盘阵同样也包括低端和高端两类设备。 低端iSCSI-SATA盘阵不可扩展，提供2-4个1Gb iSCSI主机通道（可实现链路聚合），实际带宽80MB-150MB,目前有12-16个不同盘位的阵列规格。极少数采用高可靠的Cableless模块化设计；多数采用的有线缆连接的工控服务器设计，单点故障多，可靠性低。 高端的iSCSI-SATA盘阵基本上都是采用双冗余控制器，热插拔模块化设计，并且可扩展存储容量甚至系统带宽性能。目前市场上主流的高端的iSCSI-SATA盘阵主要有：UIT公司的BS3000，Intransa公司的IP5000和华为3COM公司的IX5000，以及NetAPP公司的NAS/iSCSI二合一产品，这些iSCSI阵列在产品性能，可用性，易用性、可扩展性以及数据管理和数据复制功能等方面都各有特点。高端的iSCSI-SATA盘阵因为销量较小，目前价格还居高不下，明显高于中端FC-SATA盘阵，容量越大，越是明显。但数据管理功能上要比FC-SATA盘阵丰富的多。 在直连服务器（DAS）的应用模式中，iSCSI-SATA盘阵与SCSI-SATA或FC-SATA盘阵相比，不具备明显的性价比优势。它的优势主要体现在多服务器共享存储的存储局域网（SAN）的应用，使用千兆以太网卡将多台服务器连接到iSCSI存储设备上的IP SAN存储网络的大好机会使得iSCSI变得简单和经济. 今天的高速CPU可以在标准网卡以线速运行iSCSI, 并只有很少的CPU占用。板载千兆以太网卡已成为服务器标准件, 因而成本已包含在内, 管理员已不需要再安装复杂的iSCSI HBA卡。将标准的网卡和低成本的以太网交换机结合在一起提供了一个引人注目的比FC显著节约成本的解决方案，虽然FC还保持着性能方面的优势。然而, 节约不仅仅体现在硬件设备方面， 采用iSCSI, IT部门可以继续采用现有的IP网络专家, 而无需经过专业培训的人员。这种熟悉的网络架构消除了一个FC SAN复杂性的一个关键问题-维护和管理。 虽然iSCSI在SAN网络应用上表现出了很大的优势, 但只是解决一半的问题，iSCSI毕竟是一项新技术，其在IP SAN的应用方面仍存在一些需要解决的问题（见下期网络存储模式之IPSAN章节）。 网络存储模式的选择 主流的网络存储模式包括DAS、NAS、SAN，其中SAN又包括FC SAN和IP SAN。 DAS DAS（Direct Attached Storage，直接存储）是指将存储设备通过SCSI/iSCSI接口或光纤通道直接连接到一台计算机上。初期被理解为只能用于小型的存储系统，但随着磁盘阵列容量的不断扩大，加之PC服务器的广泛应用，在整个企业存储市场，从几十TB到几百TB的应用规模，PC服务器结合磁盘阵列的模式是最主流和性能价格比最好的方案。 NAS NAS（Network Attached Storage，网络附加存储）是将存储设备通过标准的网络拓扑结构(例如以太网)，连接到一群计算机上。 NAS产品包括存储阵列和集成在一起的简易服务器，可用于实现涉及文件存取及管理的所有功能。简易服务器经优化设计，可以完成一系列简化的功能，例如文档存储及服务、电子邮件、互联网缓存等等。集成在NAS设备中的简易服务器可以将有关存储的功能与应用服务器执行的其他功能分隔开。 这种方法从两方面改善了数据的可用性。第一，即使相应的应用服务器不再工作了，仍然可以读出数据；第二，简易服务器本身不会崩溃，因为它避免了引起服务器崩溃的首要原因，即应用软件引起的问题。 NAS产品具有几个引人注意的优点。首先，NAS产品是真正即插即用的产品。NAS设备一般支持多计算机平台，用户通过网络协议可进入相同的文档，因而NAS设备无需改造即可用于混合Unix/Windows局域网内。其次，NAS设备的物理位置同样是灵活的。它们可放置在工作组内，靠近数据中心的应用服务器，或者也可放在其他地点，通过物理链路与网络连接起来。无需应用服务器的干预，NAS设备允许用户在网络上存取数据，这样既可减小CPU的开销，也能显著改善网络的性能。 NAS没有解决与文件服务器相关的一个关键性问题，即对业务应用以太网络的带宽消耗。 SAN SAN（Storage Area Storage，存储区域网），在最纯粹的意义上，是一个单独的计算机网络，特点是基于光纤通道技术（Fibre Channel）的电缆，交换机和集线器，将很多的存储设备连接起来，再与很多不同的服务器组成的网络连接起来，以多点对多点的方式进行管理。 SAN使存储设备真正可以与服务器脱离开，形成一个总的数据中心，以多点对多点的方式在网络上与其它计算机相连。SAN的连接方式比传统的做法提高了可连接性，并有更好的容错性。SAN还可以通过采用跟先进的集群技术将可用性和运行连续性提高到一个更高的全新层次。 NAS和SAN比较 NAS和SAN的相同点之一是它们提供系统和存储之间的非直接连接，这恰恰是网络存储的优点： 用户可以将数据信息放置到那些能被最可靠地访问，并能被最有效地进行管理的地点的存储设备中； 通过适当的设备配置，网络存储系统可以排除单点故障，实现高可用性； 可以实现数据集中管理； 具有比较强的可扩充性。SAN的优势和不足 SAN优势 更好的适应性。分散的数据资源可以相互连接起来组成一个很大的总资源，为多台服务器适用。这些资源之间的距离可达10Km，这使得存储设备的重复使用变得简单有效。事实上，通过SAN架构，我们可以很轻松地从一种应用转到另一种应用。 更好的扩展性。服务器与存储设备不再一对一固定地连接在一起，新的服务器和存储设备可以动态的加入到SAN的设备池中。 更好的性能。通过光纤通道技术，数据的传输速度有了很大幅度的提高。同时，SAN的架构，支持LAN-Free和Server-Free备份，提高备份的效率和减轻服务器的负担，文件迁移都不必通过以太网传输数据，数据传输和应用的性能都有了很大的提高。 更高的可用性。通过SAN，可以利用新的集群技术通过任意一台服务器访问到需要的数据。而且数据可以自动复制到需要的任意地方。用户可以自由选择复制是磁盘/卷一级，还是数据库/文件系统一级。 增强的可管理性。SAN通过更高的可靠性和集中控制使管理变得更简单。 更高的可靠性。SAN的核心设备磁盘阵列和磁带库，都有更高的可靠性和性能。光纤通道和交换机技术，使得SAN中出现单点失败，也不会影响整个网络的运行。而且，在SAN中，维护或更换设备以及对其进行配置，都不会影响整个网络。 SAN方案应当注意的问题 不能实现文件级共享：SAN只能通过光纤通道交换机或光纤通道集线器的功能和磁盘阵列或集中式存储管理系统所提供的LUN屏蔽功能等功能实现多台主机对存储设备的物理共享。不能让在不同主机上的应用共享同一个存储设备上的数据。对于这样的存储服务，除了要提供不同主机和存储设备之间的数据传输途径之外，也要解决不同应用访问同一个文件的协同问题。过去传统的做法是通过网络文件系统（NFS），NAS脱胎于网络文件服务系统，所以文件共享是NAS的基本特征。现今的做法则是通过SAN的集群文件共享文件系统来解决，目前还不能支持异构操作系统的SAN文件共享。 实施成本较高：构建一个基于光纤通道SAN，不仅仅需要购买光纤通道交换机或光纤通道集线器，还要考虑到为相关的每一台主机配置主机光纤接口卡（FC HBA）的成本，所以比直接利用原有网络基础的基于NAS的网络存储系统的成本高。 NAS的优势及不足 NAS的优势 实施简单容易。因为NAS设备通过标准的网络接口连入标准IP网络，使用标准网络地址, 采用专门用于数据存储的简化的操作系统, 并内置了与网络连接所需要的协议,所以整个系统的安装，设置，扩容和管理都比较简单。 整体拥有成本低。如果不考虑网络改造的成本，采用NAS因为利用现有网络资源，所以软硬件成本比SAN低。同时由于现有的IT人员往往对网络比对光纤通道技术更为熟悉，并且NAS使用、安装、维护较为简单方便，所以使用NAS的整体拥有成本比较低。 文件共享。这是NAS设备最基本的能力，因为NAS支持标准的文件访问协议NFS或CIFS，所以很容易实现文件级共享。 连接能力。NAS基于局域网实现，所以在IP网络上，只要带宽足够，NAS可以使很多台异构主机同时并发地访问多个网络，从而支持多个用户的访问。 NAS的不足 性能取决于网络负载因为TCP/IP协议使用的帧比较小，本身开销较大,占用带宽资源较多,所以NAS最适合于传输段时间内的小数据量的突发性需要快速响应时间的消息传输（比如WEB浏览）的应用，但不适合于大数据量的持续数据传输（如一些对存储性能要求较高的应用）。另外，当TCP/IP网络发生拥塞时，大量的数据包可能在没有任何警告的情形下被DROP掉，所以不得不重发，从而进一步增加了网络上的负载，使网络拥塞更加恶化。基于以上的原因，我们认为对于一些需要持续传输大数据量的应用，使用NAS是不适合的。 扩充能力的问题和扩充成本的问题NAS采用专有的操作系统和文件系统对于IO处理性能的改善都是在NAS系统内部进行的，但是网络存储系统的扩充能力不仅仅指的是存储设备内部的扩充能力，也要考虑在一个基于NAS的网络存储系统内增加主机的能力和当一个NAS的容量不够时增加新的NAS设备的能力。 由于NAS在数据传输时对带宽资源的占用较大,所以NAS的性能受到网络负载的限制。当有较多的主机访问同一个NAS，可能会影响它的性能表现。在增加主机的数量对性能的负面影响方面,NAS的扩充能力不如SAN。 当一台NAS设备的容量达到极限，用户不得不需要另外购买一个新的NAS设备时，新的NAS设备的成本中包含了NAS的文件服务器、操作系统、文件系统和其它软件的成本，所以从扩容成本而言，新购买一个NAS的成本应该高于购买同档次的磁盘阵列。用户会发现NAS的成本会比单独购买一台基于光纤通道的磁盘阵列高。另外,相应的管理的难度和成本也会增加。 IP SAN IP SAN中所采用iSCSI通信协议是internet Small Computer System Interface的缩写，实际上是一个互联协议，是SAN结构的一种。通过将SCSI协议封装在IP包中，使得SCSI协议能够在LAN/WAN中进行传输。 IP SAN特点 支持数据库应用所需的基于块的存储。虽然是通过IP传输，但iSCSI 却是基于块的存储，这有别于NAS的基于文件的存储。 基于TCP/IP，iSCSI是被封装在IP包中进行传输的，所以它具有TCP/IP的所有优点，诸如可靠传输，可路由等。 建立和管理基于IP的存储设备。因为主机和客户端之间的连接是建立在广泛使用的、为大家所熟悉的开放标准之上的。 提供高级的IP路由，管理和安全工具。现有的绝大部分网络管理工具都可以用来管理IPSAN。 IP SAN的优势 与FC SAN一样，IP SAN也属于SAN大家庭中的一员，它的优点正是FC SAN目前存在的普遍缺点。 低成本由于通过以太网进行传输，企业可以利用现有的以太网设施来部署iSCSI存储网络，而不需要更改企业的网络体系，所以他的部署成本比较低。由于对以太网的熟悉程度都比较高，所以培训和维护管理的费用也大大降低。 协议本身没有距离限制由于使用TCP/IP进行传输，他不但可以在局域网中进行部署，也可以跨过路由设备在广域网中进行部署，大大扩展了iSCSI存储网络的部署范围。 易于使用。由于iSCSI结构简单，容易理解，协议通用，即使是多个厂家的设备，也可以有机地结合起来共同使用，极大地保护了企业的投资。 易于扩展由于iSCSI存储系统可以直接在现有的网络系统中进行组建，并不需要改变网络体系。对于需要增加存储空间的企业用户来说，只需要增加存储设备就可完全满足，因此iSCSI存储系统的可扩展性高。 IP SAN的不足 IP SAN要求每台服务器上必须配备iSCSI Initiator。iSCSI initiator可分为三种：软件Initiator驱动程序、硬件的TOE HBA卡及iSCSI HBA卡。前面提到随着服务器CPU性能的提升，已经可以直接利用服务器板载千兆网卡结合软件Initiator驱动程序实现IP SAN的应用，但作为一项新技术，IP SAN尚存在一些需要解决的问题： 支援的平台及软硬件仍少：虽然目前Windows、Linux、UNIX、Netware都已陆续推出软硬件的Initiator，但数量及完备性仍不足，尤其是版本特多的Linux，目前只有SuSE及Redhat有解决方案；其中，SuSE只有软件、Redhat只有硬件。此外，HP-UX及Novell Netware只有软件，SUN Solaris则只有硬件，而且一些平台上的设定十分复杂困难。换句话说，目前只有微软Windows平台具备最完备的支持性。但是目前业界及政府机构的数据中心，有相当数量是采用非Windows平台系统，再加上也有不少公司内部系统是属于多种作业平台环境，所以各平台解决方案的提出，仍是iSCSI急待解决的重要课题。 传输带宽问题：目前iSCSI产品的1Gb带宽，尚不及FC的2Gb和最新4Gb，这方面待要等到10Gb以太网络普及之后，才有可能赶上。但就目前企业的网络状况来看，GbE以太网络的普及率还有待加强，所以10Gb何时来临，还是未定之数。 流量控制、链路冗余和负载均衡方面，远没有FC SAN做得好。 SAN的文件共享问题：与FC SAN一样，是需要亟待解决的问题，尤其是在Linux、Unix和异构操作系统环境下。 硬件iSCSI适配卡