云数据库方案设计

1、云数据库方案设计云数据库的云化改造面向云化环境， 数据库在多个方面需要进行改造， 包括快捷的安 装部署，提供数据库的动态伸缩和资源隔离，以及监控、迁移、备份 等一体化管理，以适应云环境中自动安装部署、一体化监控管理，资 源动态分配等需求。1. 快速安装及部署一键部署和分钟级实例的创建 :1. 准备好预置数据库的 docker 镜像a. 初始化好空数据目录（也支持根据场景预置数据）b. 数据库配置文件放置在 docker 镜像之外，通过映射的方式进入镜像内部2. 用户选择实例资源后（CPU内存），系统自动计算最佳设a. 用户选择实例的内存、CPU数量，使用场景（OLTP OLAP b. 根据用户

2、选择，自动调整、优化参数（共享缓存、work_mem 等等）3. 使用 docker 镜像加载外置配置文件启动数据多种部署方式1. 单机(单独的 docker 镜像)2. 主备 和 负载均衡a) . 配置好的三个独立 docker 镜像，分别扮演主机、备机、读写分离节点b) . 三个节点配置文件都在外部，映射到内部运行c) . 启动时，根据用户的资源选择和网络场景，自动规划配置文件内容3. KADB 集群a) . 根据角色配置好独立的 docker 镜像，分别扮演数据节点、协调器节点等b) . 节点的配置文件都放在外部，映射到内部运行c) . 根据用户设置的资源，场景，自动分配节点数量，配置节

3、点参数 .2. 在线伸缩云环境中，支持在线调整任何一个实例使用的资源。对于数据库 而言，若分配的资源，包括 CPU内存、磁盘等资源发生变化，数据库同样需要对于资源的变化实施生效。CPU变化时，主要影响数据库的并发连接数和并行参数，在金仓云数据库中，并发连接数和并行参数可以动态调整。内存发生变化时，数据库的共享内存，排序内存等内存分配支持动态调整，动态扩展。磁盘发生变化时，数据库可以配置表空间的存储，以及表存储， 分区的存储，动态使用新增资源。另外，随着实际业务的增长，数据库集群的负载可能超出初始设 计的承受能力，使得处理能力下降，不再满足业务需求，所以数据库 集群支持在线扩展能力， 即在不影响

4、系统正常使用的情况下， 增加数 据库的数据处理能力。3. 资源隔离Kin gbaseES云数据库支持多租户模式，以实现多个租户之间的资源隔离。每个租户创建自己的数据库，各自的数据库从元信息、用户数据 到内存、以及日志信息，都是彼此隔离的。每个租户的数据库不可以 彼此访问。各个租户的数据库可以方便的迁移和加载，支持各自的备份和恢 复。4. 一体化管理使用 KEM 监控数据库运行状态a). 支持自主监控(由KEM主动呈现)b). 支持将收集的数据汇集到其他管理平台使用 WEB 对象管理工具管理数据库对象a). 单机形式的数据库对象管理b). 主备形式的数据库对象管理c). KADB 集群数据库对象

5、管理、向非关系型存储、大数据处理进行扩展1. 通用数据库通用数据库按照处理业务的类型， 分为交易型数据库和分析型数 据库。1. 交易数据库主要用于交易类型的业务处理，例如：业务流程电子化，其他业 务系统。面向所有参与业务流程的人员。对数据的操作特点是：大量 短、频、快的增删改操作。2. 分析型数据库主要用于统计分析，数据挖掘应用。面向决策者和分析人员。对 数据库的操作特点是：大量数据入库，大量复杂查询。云上的数据库需要有这两种数据库，来应对更多的用户应用需 求。2. 与大数据平台的互访大数据计算平台，例如Spark、HIVE等，需要支持大数据计算平 台与数据库互访。以大数据计算平台为中心，建立

6、分析平台。1. 大数据计算平台访问数据库a) 大数据计算平台 Spark：可以提供JdbcRDD来访问单机数据库系统，并且根据某列对表进 行分区，并行读取，提升效率。对于集群数据库， Spark 工作进程可 以对每一个存储节点进行数据读取，通过这种并行的方式提升效率。b) 大数据计算平台 HIVE：需要在HIVE中注册数据库表信息，将数据库的表映射成HIVE表, 通过Hive-SQL进行数据读取，并在HIVE中进行运算。2. 数据库访问大数据计算平台大数据计算平台可以将数据，例如计算结果，写入到数据库中，再在数据库中，利用SQL对数据进行分析。3. 云数据集成与RDS的数据集成数据库使用外部表技术，可以访问 RDS的其他数据。支持多种格式的数据；支持访问和更新数据。同时，使用迁移工具实现到 RDS的数据集成。. 与大数据存储平台的数据集成数据库提供外部表技术， 可以将交易型和分析型数据库与其他存 储平台对接， 在数据库内部， 通过外部表访问大数据存储平台中的数据，包括：a）与HDFS对接：外部表访问引擎（读写模块），通过调用HDFS的访问接口( InputFormat ， OutputFormat )，对 Textfile ， Avrofile ，ParquetFile 的文件进行读写。可以在数据库中对HDFS中的数