连用云方案lfs存储基础架构介绍

深圳市连用科技有限公司2014连用私有文件云服务器系统(LFS)存储基础架构介绍~项目规划原则二产品简介三系统架构四如何满足规划原则五总结•最低软硬件成本投入原则一切以实际的应用需求为出发点，科学地、合理地、实事求是地建设一套实用的系统。在满足系统性能、功能以及考虑到可预见期间内仍不失其先进性的前提下，尽量使得整个系统所需投资合理。利用现有资源，充分考虑对现有系统资源、计算机资源、数据资源和传输资源的利用，避免资源浪费。•系统低成本使用与维护原则管理员只需经过简单的配置，就可以确保系统正常、稳定地运行。配置界面要简化管理员对存储设备、用户权限等进行管理和维护的难度。用户在使用软件时，界面要简单友好、提示信息准确，系统使用说明清晰、容易查找。•项目风险可控性原则要选择与数据管理技术发展潮流相吻合的、先进的、有技术保证的、得到广大用户认可的厂家产品。系统应拥有著作权证书、软件产品登记证书等，并通过相应的国家级产品安全评测认证。要选择有成功应用案例，能全面满足需求，支持二次开发以适应特定需求的产品，以降低实施风险，保证项目可控。项目规划原则（1）高可扩展性要支持容量和性能的在线弹性扩展，以便根据业务需要进行适当的变动与扩充。在不中断业务的情况下，当存储容量或数据的读写性能不足时，可以通过增加存储节点让系统自动地在各存储节点间进行存储容量和读写性能的负载均衡。高可用性系统要支持集群部署，以便根据业务需要进行扩展，支持主备，一主多备高可用性集群或多主负载均衡集群，以缩短因日常维护操作和突发的系统崩溃所导致的停机时间，提高系统的可用性。高可靠性系统要保证不限时间24小时无故障运行，数据要支持自动复制的机制以提供数据的多份冗余来提高可靠性。在出现磁盘或节点失效时，系统自动通过其他节点快速恢复受故障影响的数据，整个过程无需用户手动参与，也无需中断业务，且对业务完全透明。高安全性对用户的访问请求都要进行身份认证，只有合法用户才能进入系统，确保数据访问的安全性，防止数据被非法访问。传输过程中的数据要进行加密，确保数据在传输过程中不被非法用户恶意窃听。数据要进行加密存储，保障数据在系统中的安全性。项目规划原则（2）~项目规划原则二产品简介三系统架构四如何满足规划原则五总结2021/6/236连用私有文件云服务器系统(简称LFS)----概述LFS是连用科技公司基于LINUX操作系统研发的统一私有云文档存储平台，后端存储架构支持GlusterFS等分布式文件系统，实现提供大容量、高性能、高可扩展、高可用、高可靠的数据存储服务。为企业提供安全的文件信息资源管理一站式服务，解决企业在对信息资源管理过程中所遇到的各种难题。特别是从制度和技术二个层面上彻底解决了原有基于NAS存储的文件服务器功能有限，文档分散、办公效率低、分享不畅、安全低下的现状。对电子文件文档从产生到永久保存或销毁的整个生命周期进行全程管理，从电子文件形成就开始进行控制，将形成、流转、收集、整理、保管等工作环节有机联系在一起，按照统一的规范和标准为企业提供高效、全面的文档管理服务。~项目规划原则二产品简介三系统架构四存储架构特点五总结一级存储二级存储三级存储数据复制、迁移、回迁视频会议录播系统高速存储阵列低速存储阵列磁带库ERP系统OA系统FCSAN/IPSAN/NAS/DAS数据按信息生命周期进行分级存储业务网络LAN负载均衡设备存储网络LAN前端接入服务器节点AD域用户认证系统个人网盘、公共资料库应用客户端后端数据存储服务器节点WAN/LAN数据库服务器节点容灾中心网络连接图个人网盘、公共资料库客户端数据存储应用企业OA/ERP系统系统集成应用系统管理员资料管理员AD域等认证服务器CIFS/NFS等协议连用私有对象存储API…f负载均衡集群节点接入服务器集群BIG-IPLTM等负载均衡设备f高速存储阵列高速存储集群节点LTO5磁带库GlusterFS分布式文件系统服务器集群离线存储节点低速存储阵列低速存储集群节点高速在线存储池低速近线存储池离线存储池………集群主从节点

f

数据库服务器集群容灾中心用户应用层负载均衡设备层前端接入服务层数据库服务层后端存储服务层LFS网络拓朴图网络拓朴图说明LFS系统的网络结构分成多个层次：用户应用层：用户层为用户办公机器、OA/ERP服务器等。用户可以通过浏览器登录企业网盘系统，也可以在这些办公PC上安装企业网盘客户端，实现对网盘系统中进行个人资料或共公资料的管理（上传、下载、共享文件等）。负载均衡设备层：负载均衡设备层，通常使用负载均衡软件或部署F5负载均衡设备，实现数据网络负载均衡。前端接入服务层：接入服务层，通常部署2台以上集群节点服务器组成集群向外提供接入服务。数据库服务层：数据库服务层，通常部署2台数据库服务器组成数据库集群实现系统的后台管理服务。后端存储服务层：存储服务层，通常部署4台以上服务器，每台服务器都提供存储空间，也可以通过FCSAN/IPSAN等协议挂载一套光纤接口高性能存储系统，组成分布式存储服务器集群，提供高性能、

大容量的数据存储服务。系统后端的数据分级存储归档功能可支持低速大容量存储阵列和离线磁带库归档，可将数据归档至磁带等离线介质上永久保存，为日后的系统存储扩容打好基础。~项目规划原则二产品简介三系统架构四如何满足规划原则五总结2021/6/2312使用通用PC服务器、LINUX系统：低软硬件成本、可维护性系统运行在通用的X86-64架构的PC服务器和企业级LINUX操作系统上，最大限度地降低硬件投入成本。只需要在一个统一的管理界面就可以配管理和维护整个系统，不须在异地或不同设备上再进行任何管理与维护工作。可以配置使用AD域认证或LDAP认证方式，使用标准的工具来管理用户以简化用户权限管理工作。支持对不同厂商的通用存储物理设备进行统一管理，降低对存储品牌的依赖性、提高设备利用率，避免由于历史等原因只能选择单一存储品牌的限制。SAS/SATAIP

SAN网络ISCSI存储FCSAN网络SAS/SATA存储FC光纤存储/光盘库磁带支持SAN/IPSAN/NAS/DAS通用存储介质设备支持各种传统磁带机、磁带库设备支持最新的LTO

5及以上的线性磁带机和磁带库设备图型化管理界面兼容各种新旧存储设备，提高存储设备的使用率统一存储设备管理：低软硬件成本、可维护性所有的存储介质(如不同的磁盘阵列、硬盘以及磁带等)通过存储池虚拟化技术进行集中管理，实现所有设备的存储空间都以在线和离线存储池的分级存储形式向外提供使用接口，方便与企业内部各种应用系统进行集成。简化存储空间管理保证系统的高可靠性保证系统的高可扩展性减少与应用系统集成的工作量图型化管理界面存储空间使用物理卷来管理在线存储池离线存储池近线存储池物理卷使用存储池来管理物理卷与存储池的虚模拟化概念：低软硬件成本、可维护性2021/6/2315技术风险可控性产品是先进的、有技术保证的、得到广大用户认可的产品。政府/机构：深圳市国土管理局广州市萝岗区人民法院广东省统计局广东省卫生厅广西省烟草公司深圳市财政局

东莞国土局……金融行业:中国人民财产保险股份有限公司中国银行浦发银行前海人寿长城证券南方基金华夏银行……电信行业：广东省省联通广东省省移动深圳电信……卫生教育:深圳龙岗中心医院深圳北大医院东莞人民医院深圳北师大附中……企业:宇龙通信

东阳光铝业民航凯亚……技术风险可控性网络全冗余连接：高可用性LFS系统可以运行在任何可以通过TCP/IP网络连通业务服务器的机器上，为了传输性能考虑，通常使用独立的高速交换机（例如，千兆以太网交换机）组成专用的存储网络来连接业务网络，保证数据管理与归档等功能产生的数据不经过办公网络，不影响正常的办公网络环境。同时，LFS系统相关服务器支持采用全冗余连接方式来保证系统的高可用和稳定性，确保任何一个网络设备发生故障，系统可用性不受影响，保证业务和数据在网络层面不受影响。2021/6/2318前端负载均衡设备:高可用性前端负载均衡设备规划：通常使用F5

BIG-IP

LTM负载均衡器组建高性能负载均衡网络，保证高可用地对外提供服务。用开源软件Keepalived，Keepalived的作用是检测后端服务器的状态，如果有一台后端服务器死机，或工作出现故障，Keepalived会将有故障的后端服务器从系统中剔除，当后端服务器工作正常后Keepalived自动将后端服务器加入到服务器群中，这些工作全部自动完成，不需要人工干涉，需要人工做的只是修复故障的后端服务器。19传统备份软件的缺陷：数据备份与容灾传统备份软件的缺陷：专业备份软件的功能复杂，部署困难，操作配置繁琐，在帮助用户降低风险的同时，也因为自身的难以驾驭而演变成另一种风险。传统备份软件产生的数据通常是自有数据存储格式，只能被厂商自身识别，这意味着灾难发生时，用户必须先恢复备份软件，才能进行数据恢复，这无疑严重降低了企业系统的迅速还原时间。面对海量的非结构化数据，传统备份软件无法在给定的备份时间窗口内完成备份工作。对备份的数据能否进行正常恢复没有100%的保证，全备份、增量备份、差量备份等模式的存在导致备份数据管理复杂、出现数据不完整等问题。在业务系统出现故障要进行恢复时，面临无法在可接受的时间内完成的风险。备份数据要进行恢复才能调用，无法实现对归档保存的数据随时可调用的需求，也无法提供数据加工分析和挖掘等新需求。通过建立远程数据容灾中心，使用分布式集群技术，将生产中心数据拷贝到容灾中心，当生产中心出现故障时，可由分布式集群使用相关的数据恢复机制来保证业务的连续性，保证用户数据的安全。LFS集群一LFS集群二2021/6/23异地容灾中心使用分布式集群节点冗佘技术进行数据容灾异地容灾中心：系统和用户数据的备份与容灾2021/6/2321前端接入服务器:高可用性、可扩展性、容灾集群节点集群节点。。。对象存储接口存储池访问接口并发处理能力线性扩展前端接入服务器集群规划：前端系统采用集群系统架构，能很好的解决并发访问数的扩展性的问题。可以根据需求进行并发处理性能的动态扩展，在大型企业用户数增长很快的情况下是十分适用的。其集群特性（分布式计算架构特性）也满足了的企业日后对服务器的高用性和高可扩展性的要求。主数据中心节点集群节点集群节点异地容灾中心节点前端接入服务器集群容灾前端接入服务器集群的不同节点可以部署在主数据中心和容灾中心，通过集群节点之间的数据冗佘来提供容灾功能，同时提供简单的管理界面来简化网络维护和管理工作。2021/6/2322数据库服务器:高可扩展性、容灾数据库服务器集群规划：系统后端使用成熟稳定的开源MySQL数据库，组成主从服务器进行系统管理数据的存储，在实现双机冗佘容灾的同时，存储了包括系统用户信息、系统用户权限配置信息、数据归档策略等等信息。在日后的扩容中，可以根据需要方便地扩展为MySQL服务器集群模式。数据库服务器集群的不同节点可以部署在主数据中心和容灾中心，通过集群节点之间的数据冗佘来提供容灾功能。2021/6/23

23后端存储服务器:高可靠性、可扩展性、容灾后端存储服务器集群规划：后端系统采用GlusterFS分布式文件系统架构，能很好的解决存储扩展性的问题。可以根据需求进行容量和性能的动态扩展，在大型企业数据增长很快的情况下是十分适用的。其集群特性（分布式计算架构特性）也满足了的企业日后对存储的高可靠性和高可扩展性的要求。存储节点存储节点储节点存储节存储节点存储节存储节点存储节点数据复制数据复制数据复制点

点性能和容量线性扩展存储池访问接口存存储节存储节点后端存储服务器集群容灾点数据复制主数据中心节点异地容灾中心节点数据复制后端存储服务器集群支持数据在多个存储节点进行备份，实现自动复制和自动修复功能来保证数

据的可靠性，无需管理员干预，同时避免了单点故障和性能瓶颈问题，实现数据访问完全并行化。2021/6/2324分级存储机制:安全性，备份功能存储空间规划：LFS系统是一个符合信息数据生命周期规律的存储体系，依据非结构化数据的生命周期不同阶段提供不同的存储空间存储策略，实现成本、性能和容量之间的恰当平衡。采用虚拟存储池的管理办法，并按照存储介质的特性规划不同的存储池。依据信息生命周期的客观规律，可以将不同时期的文件数据存储在相应的存储池中。存储池类型：在线存储池近线存储池离线存储池f高速存储阵列高速存储集群节点LTO5磁带库存储服务器集群离线存储节点低速存储阵列低速存储集群节点高速在线存储池低速近线存储池离线存储池………2021/6/23LFS系统的存储池支持数据在不同介质中迁移，迁移策略中可设置按最后访问时间和按空间大小灵活地定义数据复制策略，从而实现数据的多份备份目的。活跃 次活跃 不活跃 完全不活跃高速在线存储池离线存储池6个月以前

6个月以后

1年以后

3年以后例如，可以定义复制策略将产生6个月以后的文件复制到高速在线存储池中，将1年以后的文件复制到低线存储池，将3年以后的文件复制到离线存储池。低速在线存储池生产服务器存储分级存储机制:安全性，备份功能每个存储在介质上的用户文件，都会产生一个对应的索引文件，记录恢复相应文件所需的信息。用