云创公司医疗云存储备份解决方案

云创公司医疗云存储备份解决方案3/33南京云创存储科技有限公司2013-3-1云创公司医疗云存储备份解决方案

目录1 概述 51.1 建设背景 51.2 设计范围 51.3 总体设计原则 61.3.1 先进性原则 61.3.2 安全性原则 61.3.3 成熟性原则 71.3.4 开放性原则 71.3.5 经济性原则 72 医疗云存储系统备份方案设计 92.1 项目需求 92.1.1 远程备份需求 92.1.2 吞吐量需求 112.1.3 扩展性需求 112.1.4 低成本需求 122.1.5 可维护性需求 122.1.6 接口需求 122.2 设计思想 132.2.1 云存储数据中心 132.2.2 备份软件 132.3 云存储系统方案 142.3.1 云存储系统优势和特点 153 系统架构 183.1 系统基本组成 183.2 系统功能描述 203.2.1 云存储部分：cStor分布式文件系统 203.2.2 备份软件部分：cStor分布式文件系统 273.2.3 方案恢复策略 294 云存储关键技术 313.1 负载自动均衡技术 313.2 高速并发访问技术 313.3 高可靠性保证技术 323.4 高可用技术 32概述建设背景医院信息系统已经成为医院的基本设施，HIS和PACS两大应用系统逐渐成为医院信息技术的核心。这两个应用系统中的数据越来越多，数据价值也越来越大。数据丢失或系统停机造成的损失是用户不能接受的。如何有效保障及构架最有效率的医院信息系统体系，实现高效、面向发展、各系统紧密配合的一体化医疗信息系统？医院信息系统的备份设计和建设成为各医院信息中心主管人员所关注的重中之重。现有的三家客户医院，已经建立了基本的HA（高可用）群集系统，通过双机热备份方式避免服务器单点故障。数据存储在磁阵中，根据磁阵特性可以抗1-2块磁盘损坏。随着系统规模的扩大，数据量的增多，数据互联、远程备份以及安全上的需求已经越来越迫切，原有的数据局部安全性解决方案已经不能满足要求，迫切需要建立云存储数据中心和基于云存储的远程备份系统。云存储数据中心和基于云存储的备份系统，为本次医疗云存储备份总体解决方案的两个主要部分。主要针对HIS和PACS两大应用系统的医疗影像大文件、数据库记录，以及其它各类数据的集中备份与灾难恢复的需求，首先建立一套具有高可靠、可在线弹性伸缩，满足高吞吐量并发访问需求的云存储平台。然后为医疗系统数据存储提供便捷、统一管理和高效应用的数据备份与灾难恢复系统。设计范围本解决方案针对医疗系统的海量数据集中存储与共享，远程备份与恢复，提供从系统软硬件技术架构、原理、网络接入等方面的全面设计阐述。总体设计原则针对本次工程的实际情况，充分考虑云存储系统的建设发展需求，以实现系统统一管理、高效应用、平滑扩展为目标，以“先进、安全、成熟、开放、经济”为总体设计原则。先进性原则在系统总体方案设计时采用业界主流的云计算/云存储方案和技术，以确保整个构架体系的先进性。选择实用性强高性价比的产品，模块化结构设计，既可满足当前的需要又可实现今后系统发展平滑扩展。安全性原则数据是业务系统核心应用的最终保障，不但要保证整套系统能够7X24运行，而且存储系统必须有高可用性，以保证应用系统（即远程备份系统）对数据的随时存取。同时配置安全的备份系统，对前方的医院应用数据进行更加安全的数据保护，降低人为操作失误或病毒袭击给系统造成的数据丢失。IDC中心云存储系统的建设，要充分考虑数据的高可靠存储，采用高度可靠的软硬件容错设计，进行有效的安全访问控制，实现故障屏蔽、自动冗余重建等智能化安全可靠措施，提供统一的系统管理和监控平台，进行有效的故障定位、预警。在医疗业务上，实现医疗业务数据的定时备份，实时备份，以及相应的数据恢复功能。定期举行数据恢复演练，做到有备无患。成熟性原则为确保整个系统能够稳定工作，软件平台将使用先进、完善、易于管理和稳定可靠的云存储资源管理系统，对于与应用的集成接口，提供统一的通用稳定访问接口。云存储系统与备份软件，均采用业界成熟的软硬件系统。云存储系统与备份软件之间接口划分清楚。备份软件功能稳定可靠，备份窗口短，不影响业务系统的正常运行。开放性原则云存储IDC系统建设具有开放性的标准体系，提供符合POSIX标准的通用文件系统访问接口，开放的应用API编程接口，提供人性化的应用和管理界面，以满足用户需求。遵循规范的通用接口标准，使全系统中的硬件、通信、软件、操作平台之间的互联共享。充分考虑系统的升级和维护问题，维护采用在线式的，即在系统不停止工作的情况下，可以更换单元备件。系统的维护和升级操作由系统管理员即可完成。将云存储系统和备份系统分开，既相互配合又相互独立，减少之间的耦合性。备份系统可选用第三方厂商的产品。云存储IDC系统建成后，不仅可以为备份软件系统所使用，也可以在以后的第二三期项目中实现数据共享，并被第三方软件和系统所使用，发挥数据资源最大的价值。经济性原则现有医疗业务系统存储数据量较大，且数据的增长速度较快。因此在建设系统存储架构时，应从长远的角度考虑，建设一个长期的存储架构，除了可以应对存储硬件设备的升级速度外，还必须考虑到对前期存储设备的投资保护，在保证不断提供功能和性能提高的同时，存储架构在较长的时间内能够保持相对稳定。结合先进的云平台技术架构优势，根据本次项目建设的实际容量需求设计，同时充分考虑应用发展需求，实现系统可弹性在线平滑升级。通过软件实现在较廉价普通服务器上实现高度容错，同时能够在较低冗余度的情况下实现高度可靠容错，大大节约和降低系统建设的硬件成本。医疗云存储系统备份方案设计项目需求远程备份需求现有的医院IT环境中，一般都采用了群集技术(即通常说的双机热备份)来保证服务的持续运行，或都在用户可以容忍的时间之内自动进行恢复。但是，随着集群技术的普及运用，它自身明显的不足也渐渐暴露出来。1)由于传统的群集解决方案多采用的是‘2+1’的模式，即两台服务器连接一台磁盘阵列。这种结构是为了在两台服务器之间共享数据。但是，单台磁盘阵列往往成了核心系统的一个单点故障，一旦磁盘阵列发生故障，则整个系统将发生停机，对于7X24小时营业的医院来说，这种意外停机是绝对无法忍受的。2)很多用户往往有一种不正确的认识，既然系统已经是双机热备份了，那么数据就不需要再备份了。这种认知使很多用户忽视了数据备份的重要性，结果整个系统的数据只有磁盘阵列中一个拷贝，等到磁盘阵列发生故障或人为的误操作导致数据丢失时，则后悔莫及。有些用户或许也做了额外的磁带备份，但是从磁带中恢复数据所需要的时间，则实在是不敢恭维，而且磁带备份有可能导致的当日数据根本不能恢复又使得实际上可行的信息系统保护技术应该是一种实时备份技术。因此可以说，传统的双机技术，传统的磁带备份技术都不是解决医院IT环境实时保护和抗击灾难的灵丹妙药。HIS系统对后台数据库的读、写、更新操作频繁，所以对IOPS（每秒读写次数）要求较高，但每次操作数据量不大，故对MB/s带宽（吞吐量）要求不高。PACS系统与HIS相比，由于业务处理次数相对较少，后台数据库的读、写、更新操作频度对IOPS要求不高，但存在持续性大数据量（影像图片）交换，故对MB/s带宽（吞吐量）要求较高。目前三家县级医院面临的主要问题如下：1、硬件设备运行时间较长，稳定性降低，各种备品备件吃紧，系统的运行缺乏足够的保障；2、硬件性能出现瓶颈，CPU和内存资源紧张，存储设备I/O压力大，特别是业务高峰期响应时间更长，影响了工作效率；3、所有关键业务系统没有对应的冗余的保护机制，缺乏抗意外风险性和突发系统故障的能力；4、业务系统扩张能力受到很大限制。目前系统结构不能随着业务量的增加来动态扩容业务核心系统和日后新添应用系统。当有新的业务加入时，需要采购新的硬件来部署应用，领导对年年进行硬件采购较有意见。5、每家医院都是一座信息孤岛，无法实现数据共享。因此，需要建立异地数据灾难备份系统。首先在异地，如运营商IDC数据中心建立医疗数据中心，第一步将三家医院的数据进行异地备份，第二步是数据中心内建立信息系统，将计算资源和存储资源租赁给医院使用，第三步在数据中心建立桌面云系统，给需要给医院内部发布桌面使用。目前按照第一步需求，建立远程医疗数据中心并实现数据的异地备份，按此制定一套方案，三家医院数据同时备份于数据中心。本方案即可实现第一步的需要，即使用云创公司的云存储产品作为远程数据中心的存储资源池，以备份软件连接三家医院。数据中心与三家医院之间采用专线或者FC光纤通道连接。备份软件实现的功能包括对主流操作系统、操作系统上的应用程序、数据库数据、海量文件的备份。针对本次建设实际数据容量，一期拟建设xxx裸容量数据存储平台，主要存储医院备份的数据。具体容量可根据实际需求确定。由于云存储系统具有横向扩展能力，存储容量不足时，只需要在IDC医疗云存储中心加入更多的云创公司存储服务器即可。医院业务单位不需要关心具体的扩容方式。吞吐量需求为满足多用户或应用整体吞吐带宽需要，确保数据访问流畅，医疗备份云存储系统需提供多用户或应用并发访问高吞吐带宽设计，使得备份系统能够有效利用网络带宽，在规定的备份窗口内完成数据备份要求。数据中心和各家医院之间需要有足够的带宽保障。需要建立专线或者FC通道。具体数据待调研后补充。扩展性需求未来根据业务应用的变化和发展，需要快速实施系统资源的升级，可以在医疗业务服务不间断的状态下平滑扩展，备份更多的医疗系统数据和更多的应用系统。这些不会导致现有的云存储备份架构发生根本性变化，为不断产生和变化的业务需求提供持续的支持，支持业务系统的快速整合和部署对核心系统基础架构的特别要求。低成本需求要求系统能够以低硬件成本、低维护成本，实现备份系统的高可靠高性能要求，充分提高存储资源和网络带宽资源的利用率，并能灵活、可持续扩展，管理更多医院、更多备份应用的接入。由于系统规模的特点和用户自身的资金投入限制，基于云存储的远程备份系统，必须具有高度的实用性，和高的性价比，不必追求大而全的解决方案和过于先进全面的备份方式和软件。可维护性需求要求系统具有自适应管理能力，安装、维护、升级简易方便，提供统一易用的WEB配置管理监控平台，实现智能化管理。提供图形化的备份恢复系统管理界面，简化管理，减少出错的可能性，方便用户使用。系统运行要求稳定可靠，且能容易接入和管理更多地备份医院、应用和数据。接口需求云存储要能够提供通用的文件系统接口，方便用户及应用系统访问，减少与应用集成或开发工作量，实现系统快速部署与集成。云存储系统与备份软件之间既有机的集成，又相对独立，互相之间可替换，不影响备份系统的使用。数据存储在数据中心云存储后，将来可以通过通用开放的接口，对第三方应用和系统开放。设计思想云存储数据中心云存储数据中心，采用业界成熟先进的云平台架构思想，采用软件实现对大量普通商用服务器存储空间资源进行虚拟化整合，实现软硬件故障高度容错，将系统控制流与数据流分离，同时使得数据在逻辑上集中、物理上分散，每台服务器同时对外提供服务，以达到多并发高吞吐量的性能要求，采用自注册机制、故障自动屏蔽、自动冗余重建技术实现系统自我维护和平滑扩展，系统服务7×24小时不间断。系统采用先进的编解码容错技术，可根据数据可靠性要求设置适当的冗余编解码策略进行系统部署，可以以极小的磁盘和硬件冗余度，实现高度的可靠性数据容错。备份软件备份软件满足主流的备份需求，包括对操作系统，应用，海量文件，多种类型数据库记录的备份。支持实时、定时自动化备份，支持完全备份和增量备份，日志备份；桌面备份客户端软件的备份、还原、查询操作可基于Web浏览器界面，方便众多的用户使用；备份数据可保留历史版本，并可还原到任意历史版本；管理、监控、维护必需基于Web界面，减少运维工作量和投入成本；支持备份作业在线监控和历史作业报表管理，可查阅备份任务的状态。云存储系统方案云存储数据中心采用南京云创公司的cStor云存储资源管理系统，在多台普通商用服务器上构建高性能高可靠云存储系统，作为医疗存储云数据中心存储平台，其应用部署示意图如下图所示。cStor云存储资源管理系统部署示意图云存储系统优势和特点cStor云存储系统是一套软件与硬件相结合的系统，其中专有技术和软件是高附加值部分，可以广泛应用于需要存储大量数据的应用场合（如安防、广电、电信、互联网、银行等领域）。该系统相比传统存储系统有如下技术优势：高度可靠存储系统采用云架构，数据被分块存储在不同的存储节点上，数据采用先进的1:1容错机制进行容错，可在任意损坏一个存储服务器节点的情况下实现数据完整可靠，系统对外存储访问服务不间断。云存储的管理节点采用了主备双机镜像热备的高可用机制，在主管理节点出现故障时，备管理节点自动接替主管理节点的工作，成为新的主管理节点，待故障节点修复并重启服务后，它则成为新的备管理节点，保障系统的7×24小时不间断服务。优异性能cStor采用控制流与数据流分离的技术，数据的存储或读取实际上是与各个存储节点上并行读写，这样随着存储节点数目的增多，整个系统的吞吐量和IO性能将呈线性增长。同时，cStor采用负载均衡技术，自动均衡各服务器负载，使得各存储节点的性能调节到最高，实现资源优化配置。无限容量系统容量仅受限于卷管理服务器内存，可支撑的容量接近无限，经推算，理论容量为1024×1024×1024PB(1G个PB容量)。在线伸缩cStor云存储资源管理系统扩容非常方便，支持不停止服务的情况下，动态加入新的存储节点，无需任何操作，即实现扩容；同时，无需人为干预，也可以摘下任意节点，系统自动缩小规模而不丢失数据，存储在此节点上的数据将会重新备份到其他节点上。通用易用cStor云存储系统提供符合POSIX标准的通用文件系统接口，无论是哪种操作系统下的应用程序，都可以不经修改将云存储当成自己的海量磁盘来使用。同时，也提供专用的API接口，供开发人员调用。智能管理提供基于WEB的管理控制平台，所有的管理工作均由cStor管理模块自动完成，使用人员无需任何专业知识便可以轻松管理整个系统。通过管理平台，可以对cStor中的所有节点实行实时监控，用户通过监控界面可以清楚地了解到每一个节点和磁盘的运行情况；同时也可以实现对文件级别的系统监控，支持损坏文件的查找和修复功能。系统提供用户安全认证及对不同用户进行配额设置与权限管理功能，满足应用的日常维护和安全管理需求。系统架构在本项目的医疗云存储备份方案系统建设中，分为云存储和备份软件两个部分。云存储系统属于基础平台支撑层，以用于数据集中存储和共享，实现对数据的统一管理和高效应用。将数据逻辑集中物理分散，以提供多并发高吞吐带宽，最大程度降低系统访问瓶颈。备份软件同时部署在云存储数据中心和三家医院的客户端。其中云存储数据中心部署一台备份服务器和备份服务端软件，三家医院被备份系统（HIS和PACS）中部署备份的客户端软件。医院与云存储数据中心之间建立专线联系，保障带宽为至少两个千兆（2048Kb/s，或者256MB/s）。具体需要带宽要根据用户备份数据量和备份时间窗口确定。系统基本组成下图是包含了两家医院的云存储远程备份系统的示意图。在现有的医院局域网系统中，已经基于双机系统加磁阵，建立了HIS双机系统，以及PACS影像库系统。此外还有一些其它应用。医生、护士通过办公室和护士站电脑访问医疗应用系统。HIS系统的数据库数据存储在磁阵中。磁阵也是连在医院局域网上的。在远程数据中心基于云创cStor云存储系统建立云存储IDC，部署分布式文件系统，作为备份介质。云存储的容量大小根据具体需求确定。由于云存储具备横向扩展能力，可在线扩容。存储云中需要部署一台单独的linux备份服务器，版本为RedHat5.4以上，作为备份服务器，实现与备份介质的访问接口。存储云数据位于防火墙之后，通过专线与三家医院的三层交换机相连。每家医院与IDC中心之间的专网，至少包含两条独立的线路，防止单点故障。具体带宽要根据实际数据量确定，但不小少于2个千兆带宽，即不小于2048Mb/s或256MB/s。如有必要上万兆专线。在医院局域网中，需要设置备份软件的客户端。它不需要单独的机器，可以部署在已有的HIS或者PACS服务器上，支持windows，linux等多种主流的操作系统。下图中把备份客户端单独列了出来，但不意味着一定要增加一台设备。系统功能描述云存储部分：cStor分布式文件系统cStor云存储资源管理系统从功能上划份为三大部分：cStor分布式文件系统分布式文件系统实现文件数据存储、可靠性容错、可伸缩性保证、高可用保证、负载均衡和流量分担等功能。存储访问接口cStor提供符合POSIX规范的文件系统访问接口，通过cStor访问挂接程序可将云存储空间挂接为本地目录或磁盘。同时可提供专用的API接口，支持业务应用层程序对云存储系统的直接访问。管理监控中心管理监控中心提供帐户管理、设备管理、系统监控、卷管理、告警管理、故障管理等功能。 下面逐一详细介绍各部分系统功能。cStor分布式文件系统cStor分布式文件系统包括卷管理、元数据管理、块数据管理服务。参考上面系统架构框图左侧部分。元数据是指文件的名称、属性、数据块位置信息等，元数据管理通过元数据服务程序完成。因元数据访问频繁，故系统将元数据加载缓存至内存中管理，提高访问效率。由于元数据的重要性，元数据损坏或丢失则相当于文件数据丢失，因此实现了元数据服务器主备双机高可用，确保７×２４小时不间断服务。通过元数据远程多机冗余备份功能，实现在多台其它机器上备份元数据，当元数据服务器损坏，可以通过备份的元数据重新恢复服务，切保数据可以完整找回。块数据是指文件数据被按照一定大小（默认64MB）分割而成的多个数据块，分布存储到不同的存储节点服务器上，并通过编解码容错算法产生相应的冗余块。块数据服务是运行在每个存储节点服务器上的块数据管理程序，负责使用存储服务器上的磁盘空间存储文件数据块，并实现相应的编解码功能。相比较传统业界的云存储采用块数据简单备份冗余容错机制，编解码容错方式大大降低了硬件资源冗余度，提高了磁盘利用率。由一对主备元数据服务器及其所管理的块数据服务器管理节点设备及其所提供的存储空间称为一个卷。卷管理服务器负责将多个卷虚拟化整合，对外提供统一的整体访问云存储空间。文件系统采用中心服务器模式分布式存储架构，控制流与数据流分离，通过增加存储节点系统采用自动注册机制，实现系统高可伸缩性，增加或减少存储节点规模，不影响系统正常提供存储访问服务。该系统架构实现了统一调度，负载均衡和流量自动分担功能，多个存储节点同时对外提供数据流服务，系统根据磁盘空间使用比例进行资源优化配置。同时在多个不同的存储节点之间实现根据空间比例进行优化配置，数据优先存储的空间利用比例相对较低的磁盘或存储服务器上。cStor分布式文件系统具有自动冗余重建功能，确保损坏的数据块能够被解码或编码后存储到在线的正常的存储服务器节点上。存储访问接口cStor分布式文件系统提供符合POSIX规范的文件系统访问接口。支持Linux、Windows、MaxOSX等操作系统平台。可将云存储系统提供的存储空间挂接为本地目录或本地盘符来使用。用户操作云存储空间和操作本地文件相同。另外cStor提供专用的高速存取访问API接口，供性能要求很高的高端应用程序对接使用。管理监控中心管理监控中心为系统管理员配置和维护cStor云存储资源管理系统的有效工具，充分体现了系统的可维护性。管理监控中心提供帐户管理、设备管理、系统监控、卷管理、告警管理、故障管理等功能。以下为部分系统管理界面。设备管理

系统监控告警信息告警配置告警日志故障处理卷管理帐户管理添加帐户备份软件部分：cStor分布式文件系统备份软件包括黑方实时备份系统，此备份软件系统包含：备份软件、备份服务器、备份介质，操作系统四个方面。此信息安全系统具有4S备份架构的功能和作用。其中，备份介质采用上面的cStor云存储分布式文件系统。黑方实时备份系统可用来实时备份HIS服务器数据库，在线备份HIS服务器Win2003操作系统，更好的保障HIS系统的正常运营。备份操作系统时，可将操作系统下的所有应用程序也一起备份下来。数据库备份数据库备份支持主流的操作系统，如Oracle和MSSQLServer。下面以Oracle数据库为例说明数据库的实时备份和定时备份。Oracle实时备份：通过在操作系统核心层中植入文件过滤驱动程序，实时截获数据库实例相关文件的I/O操作。实时备份模块经由文件过滤驱动拦截到文件改写操作时，将每次I/O操作生成I/O操作日志文件，并自动实时备份至远程云存储IDC存储空间中。黑方备份Oracle数据库采用热备份方式，不需要停止数据库，所以在备份时不影响数据库的使用，用于业务系统不能停机时的备份。定时备份：黑方在对Oracle数据库实时备份的同时可以做数据库定时备份，可保留多个数据库历史版本，保障数据库的安全，防止人为删除数据或磁阵硬件错误造成数据丢失。Oracle数据库定时备份采用黑方在线热备份技术，可以设置自动备份时间，如每周日晚上2点完全备份、周一至周六晚上2点进行增量备份、每4个小时进行归档日志备份，根据用户的要求，可以保留多个数据库完整版本。操作系统和文件备份黑方系统，支持文件数据的实时备份，通过领先的CDP技术保障数据安全。支持WIN2003操作系统的在线备份，保留操作系统的多版本，同时可备份操作系统下所有的应用程序和文件数据。支持大文件备份，对于PACS影像库文件，同样可以备份到远程IDC云存储中心，防止本地逻辑错误或物理错误而造成的损失。对PACS服务器，根据用户要求，进行指定现在存储上的目录或文件进行自动备份，将医疗影像文件备份至远程IDC云存储中心。黑方的系统备份模块，全部采用在线完全备份与差量备份相结合的技术，可保留多个系统镜像，优化存储空间。方案恢复策略数据库恢复策略需要数据恢复时，备份系统通过专线从远程云存储中心获得备份数据进行恢复。支持以下策略：恢复到最近时间点：在还原数据库后，数据库将恢复到最近一次可用的状态，也称完全恢复；恢复到指定时间点：还原数据库后，数据库会依据选择的时间点，将数据库恢复到当前时间的某一个时间点的状态，也称不完全恢复；异机恢复：当原服务器硬件损坏时，可以将原数据库的某时间点的正常状态还原到指定服务器中。普通文件恢复策略对于文件恢复，支持以下策略：单个文件恢复：单个文件恢复粒度到达到秒级，可选择时间点进行恢复；目录恢复：对工作目录或分区数据恢复，可选择时间点进行恢复；重定向恢复：将备份的数据，恢复到指定路径中。系统恢复策略对于操作系统的恢复，支持以下策略：本地恢复：通过黑方系统恢复模块，将本机系统镜像，从黑方系统的本地硬盘中进行快速恢复；网络恢复：通过黑方系统恢复模块，登录到黑方在云存储IDC的服务器中，将本机系统镜像从黑方服务器中进行网络恢复。灾难恢复演习策略为了提高系统安全性，提高操作人员的熟练程度和操作水平，制定灾难恢复预案，定期进行灾难恢复演习是很有必要的，需要演练的内容包括数据库数据恢复、非结构化数据恢复。为了不影响原有系统的安全性和业务的正常运行，恢复应该在异机上恢复，不应该在原有业务设备上进行。数据库异机恢复演习演练方式：在另一台服务器中安装相同版本的数据库，建立一个同名数据库，安装黑方客户端，即可将原服务器备份数据库恢复到此机中。支持MSSQL、ORACLE数据库异机恢复，即使服务器崩溃，也可快速将备份的数据库恢复到新的服务器中。非结构化数据异机恢复包括操作系统，应用程序，影像文件库，office办公文件、邮件、聊天记录、设计图纸等数据任意恢复演练。云存储关键技术此处介绍cStor云存储系统的一些关键技术，以便使云存储产品的初学者有一些概念。这些关键技术是云存储系统共同具有的特点，