高可用公有云Redis服务介绍

1、高可用公有云Redis服务介绍技术创新，变革未来目录 Contents01方案简介PRODUCT DESCRIPTION02架构设计ARCHITECTURE DESIGN04运营思考OPERATE THINK03运营系统SUPPORT SYSTEMPART 01方案简介人类活动海量并发NoSQLRedis远程字典服 务器简洁、极 致，高效、 开源结构丰富、 生态活跃2018 DB-Engine KV 类第二Redis外部环境托管部署数据保障超高性能平滑拓展全面监控自定告警数据迁移自动容灾 费用低廉腾讯云CRS-Cloud Redis StoreQQ漫游 消息资料关系群海量 用户海量在线分布式N

2、oSQL技术特点应用场景-游戏负载均衡游戏逻辑服游戏逻辑服游戏逻辑服游戏对战服游戏排行榜玩家基础数据活动信息道具、金币云存储RedisCDB弹性缓存CVM有序集合PART 02架构设计有哪些传统的Redis使用方法？单实例和主从同步架构RedisRedisRedisClientClient直连同步可靠性数据易丢失服务不可靠自动化无法自动容灾切换自动容灾切换-CRS主从版CRS-主从版名字服务接入机接入机接入机存储主机存储备机就近接入 反向鉴权 死机探测 负载均衡IP,port,权重,地域IP,port,权重,地域.管理机配置服务心跳服务运维服务同步CVM业务逻辑层增加心跳上报命令屏蔽增加监控埋

3、点存储层配置客户端运维客户端路由寻址 流式转发 超时上报容量与性能的扩展-CRS集群版RedisRedisRedis集群架构-Client-BaseClient特点多套实例客户端实现分片逻辑不足开发者分片麻烦静态分片，缺乏动态扩容能力可运维性差不支持跨Key命令和事务分库分表其他集群实现方案CRS-集群版名字服务接入机接入机接入机存储主机存储备机存储主机存储主机存储备机存储备机管理机IP,port,权重,地域IP,port,权重,地域.配置服务心跳服务运维服务同步同步同步CVM业务逻辑层多块共享内存 多个读写进程 定时快照写流水一致性hash寻址就近接入 反向鉴权 死机探测 负载均衡数据分片物

4、理机-虚拟节点按hash(key)寻址一致性hash自动计算配置无限平行扩展打散热点迁移最小化数据均匀分布(3%)私有内存VS共享内存私有内存共享内存重启数据释放COW机制预留两倍内存数据安全与版本发 布更容易遍历+流水占用内存更少VS页表复制带来抖动不存在页表复制写远程流水事务会话防雪崩的超时机制读写端口（实现中）热Key导流（实现中）Auth鉴权命令过滤死机探测CRS接入机前端连接管理组件事务 会话 管理 组件普通命令 转发组件事务执行组 件配置 中心代 理组件Cache连接池管理客户端存储机A存储机B存储机C配置 中心4A. 按KEY寻址, 获取ip5A. 转发请求， 获取应答5B. 执

5、行事务， 加锁、解锁等断链通知， 关闭会话2. 协议解析派发协议解析组件3A. 简单命令转发3B. 事务命令缓 存4B. 缓存命令1. 客户请求命令队列路由功能流式转发链接池命令统计基本安全进阶客户端 状态服务器 状态配置中心配置数据 库5.上报心跳6. 存活更新3.签名对比配置加载：配置表- 服务端配置签名对比：筛选出需要接收配置的机器配置推送：将配置推送到指定机器上报心跳：上报心跳并更新客户端状态存活更新：将服务器记载的各机器状态做更改4.配置推送1.配置修改CRS配置中心和心跳管理织云2.配置加载配置客户端配置客户端.分布式KV系统管理模块总结配置模块行政中枢运维模块工兵巡检模块巡逻部队

6、心跳管理烽火台信息外报对外信使微服务化的公共支撑系统01 0402 0503 06远程日志系统ULS，统一远程日志服务配额管理系统根据配置对资源限额限流监控系统Monitor监控多维监控流水中心记录写流水，快照回档与审计名字服务CMLB，带负载均衡、死机 探测、回包统计、反向鉴权 功能的名字服务系统冷备系统微服务定义：微服务是一种软件架构风格，它是以专注于单一责任与功 能的小型功能区块为基础，利用模组化的方式组合出复杂的大型应用程 序，各功能区块使用与语言无关 的 API 集相互通讯。PART 03运营系统运营保障的重要性系统运维的本质是人与计算 机共同参与的一项系统性工 程1年研发3-5年运

7、营40-90%的开销在运营阶段成本投入上线前上线后运维本质交换机拥堵挖断链接数满闪断报错分析超时管 理权限监控数据OOM题多版本命令分析盘 故 障空调故障异常设备死机来源分析阻塞请求单机容量上限全内存成毛刺与抖动安全问网络割接僵死本高Key回档进数据单线程持久化时性程丢慢查询热Key包数光纤据支持CPU瓶颈配置不当同链接步连接风暴运营问题环境（网络、OS）设计（持久化、碎片）开发（慢查询、连能一致性颠 簸接风暴）硬用户（处理能力极限）资源不匹配(需求供给)运营挑战挑战一：元信息的一致性管理？挑战二：万台设备的作业方式？挑战三：如何实现智能调度？挑战一：元信息管理元信息混乱带来的不一致性地域？机

8、房？交换机?集群，IP，端口？ 实例，容量，配置？挑战一：元信息管理DB-CMDB（数据库层的统一元信息管理）织云调度中心作业平台决策平台集群设备实例配置消费信息互联，消除孤岛数据同步和一致性保障统一配置与元信息基础信息的统一管控全准入梳理元信息，公共特征，分类建模，抽象属性与方法，定义数据结构，设计API，定制同步。挑战一：元信息管理挑战二：万台设备的作业方式大家是怎么做批量作业的？挑战二：万台设备的作业方式手工式运维堆人力扛业务难积累与传承万台设备 亿级QPS规模上来后，原始的运维方式无法应对作业平台应用接口流程流程 支撑 模块工具工具任务 支撑 模块外围支撑CMDB统一日志权限管理名字服

9、务冷备系统监控系统OA系统底层工具批量命令包发布密码服务智能工具任务的管 理、调度、 执行，RPC 接口，异步 同步接口流程注册 管理、调 度、执行引 擎相流程表单控 件、前端 交互、对 外接口执行引擎执行 引擎作业平台运营效率提升050150200实例清空 实例缩容 实例隔离 实例迁移 版本发布 机器下架 机器上架 集群扩容 备机重建100现在最初运营操作前后耗时(min)效率提升300%挑战三：如何实现智能调度？如何实现咖啡运维？运维闭环的构造决策平台调度中心作业平台决策树注册流程AI决策时间调度任务专家规则事件调度引擎绑定事件对应的决策树绑定结果对应的作业流挑战三：如何实现智能调度？智能

10、调度全流程调度中心1.监控上报RedisRedisRedis迁移目标机（低负载）监控系统2.告警捕获3.决策请求决策平台作业平台实例新建数据同步状态检测路由切换资源释放运维作业DBCMDB同步资源推理目标匹配结果返回专家规则4.作业请求迁移原机（高负载）RedisRedis注册事件并关联决策树：触发单点事件后的处 理：注册事件决策平台依据专家规则，组成一棵树形决策流程机器健康状态？正在同步？是业务进程正常？否否是否建新备机忽略原机重建Seq差异减少？否CRS集群版单点处理决策是是原机重建建新备机织云For DBMS织云门户调度中心决策平台作业平台公共支撑名字服务API网关命令通道包管理权限系统CDBMongoDBTDSQLHBase数据库RedisDB-CMDB集群设备实例配置监 控 中 心变 更 管 理配置替换包发布资源管理一致性监控PART 04运营思考云运营管理之道服务白皮书最佳实践指南服务等级协议版本测试报告