大规模分布式软负载体系实践

1、大规模分布式软负载体系实践什么是软负载阿巴巴9年双11中的软负载实践软负载技术架构原理微服务应架构趋势与软负载阿巴巴开源中间层软负载均衡产品 Nacos什么是 “硬负载”？七层四层软件硬件硬负载 是指传统的企业级技术架构中在流量控制侧偏重于使硬件负载均衡器、偏重于四层负载均衡、偏重于集中的关代理模式，偏重于Server-Based Load Balance的系列的实践法。防火墙 DMZOrganiza(ons DMZ7层反向代理集群nginx/apache/haproxy动静分离分流和路由4层硬件负载均衡f5/lvs,路由器,络NAT内部关负载均衡器F5LVS“硬负载”临的产业趋势挑战偏4层负

2、载均衡流量的不确定性，需要弹性和灵活性IDC内部的机器之间的流量也很关注负载均衡器的功能的可扩展性关单点难以消除，故障恢复慢流量的精细控制，四层负载均衡难以理解业务语义必须关注成本关注整个负载体系的可运维性,可操作性,可管理性互联DevOps云计算软负载偏重于7层负载均衡软件定义流量均衡策略理解业务语义的流量调拨数据和算法驱动的精细流量控制策略扩展性和灵活性可操作性万物皆“服务”以服务为中的现代应架构趋势serviceService-Centric Architecture微服务的基 - 服务发现与注册中优势侵易集中管控劣势关式，有单点成本基 于 服 务 端 负 载 均 衡例子NginxLVS

3、Maglev优势单点随应然伸缩成本低劣势侵难集中管控例子DNSRibbon & EurekaService Mesh基 于 客 户 端 负 载 均 衡Client BasedServer Based阿巴巴9年双11中的软负载实践统接线上动态隔离环境微灰度单元化及异地多活流量调度统接动静分离https加速&证书管理口流量的限流黑灰流量清洗，安全防攻击智能流量转发策略（户特征洞察）逻辑分流与容灾持链路追踪IAAS统接gine)中间层负载均衡统接统接gine)购物车交易商品付购物车交易商品付PC线IoT动态隔离环境真实产环境统接层中间层负载均衡(Mid-Tier LoadBalancer)压测流量真

4、实产流量线上压测服务分组产服务分组持动态、逻辑隔离动态环境vs静态环境根据需求动态成某个环境 成本低逻辑隔离 vs 物理隔离逻辑隔离更灵活 符合弹性等需求测试环境（Test）预产环境（Stage）产环境（Production）create 微灰度1 规则- 3% 流量-label-1A/B Testingcreate 微灰度1 规则-10% 流量-label-2灰度效率问题后端测试难上下游依赖链路复杂， 新测试环境部署困难线上数据和链路状态 难以仿真链路局部创新和优化 难微灰度敏捷创新和试错低成本扩展多套环境对业务0侵的灰度 测试环境和段线上真实流量法链路染权重路由和流量控制链路冲突检测资源占

5、审核容量管理单元化及异地多活CDN中间层负载均衡中间层负载均衡统接层区域单元A区域单元 B区域单元 C统接 & 中间层负载均衡识别户特征识别流量区域特征识别IDC分布拓扑结构持流量权重控制识别切流&容灾规则中间层负载均衡流量调度Metrics 数据收集根据需求动态成某个环境 成本低时序数据存储时序和时空数据库数据分析&算法时序和时空数据库全局动决策降权重定点控制迁移 下线阈值保护，防雪崩基于数据和算法驱动的动 决策，精细的流量调度中间层负载均衡整体架构原理系统打通中间层负载均衡与CMD中间层负载均衡与API Gateway配置中与流量规则基础中间件与中间层负载均衡 中间层负载均衡与业务应理解业

6、务流量cookie，path，param header机房拓扑全栈metrics从络，操作系统，tomcat，缓存，RPC，业务都要暴露合适的 状态数据强的中间层负载均衡规模数据分发和推送能数据驱动数据中状态数据 实时性保障数据（计算平台）+智能的决策不断改进算法 机器学习法IAAS (络，主机，操作系统）注册中配置中DNS-SD分布式协调中间件层精细流量规则层“服务发现”vs“软负载”(weight)ip1:port1/svc1 ip2:port2/svc1 ip3:port2/svc1RegistryProvideConsumeConsumeregistertell me svc1s en

7、dpoints!ip1ip1,ip2,ip3流量控制request flowip1:port1/svc1 ip2:port2/svc1 ip3:port2/svc1RegistryProvideConsumeConsumeregistertell me svc1s endpoints!ip1,ip2,i p3ip1,ip2,ip3服务发现request flow 服务发现 vs 软负载 (label match&selector)ip1:port1/svc1 ip2:port2/svc1 ip3:port2/svc1RegistryProvideConsumeConsumeregisterte

8、ll me svc1s endpoints!ip1,ip2,i p3ip1,ip2,ip3服务发现request flow ip1:port1/svc1ip2:port2/svc1 ip3:port2/RegistryProvideConsumeConsumeregistertell me svc1s endpoints!ip1,ip2ip3动态归组request flow 软负载的基 - Label Based & Weightlabel basedmetadata)“软负载”与新技术趋势Service Mesh是client base LB 还是 server base？service m

9、esh为何要持权重路 由？Traffic Management 的本质是什 么?Kubernetes DNS-SD什么是DNS-SD？Label selectorService Mesh 规模产应之 “阿喀琉斯之踵“-性能瓶颈流量治理的扩展性与性能的 平衡或有解决之道，但某层必须变user portaladmin portalOPSConfigServerMySQLDerbyCMDBETCDDisk FileGNSTaoKeeper分布式致性(ZAB,Piv-Raft,Gossip,SW,Async-Service DiscoveryHealth CheckDynamic DNSConfig

10、PushIntelligent RouteTraffic Mgr ServiceMeta KV ServiceDistributed CoordinatorName ServerNginx/ LVSLog &Stre am异地多活软负载均 衡服务编排弹性计算服务治理任务调度预案限流数据计 算流量调度环境隔离切库容灾泛电商体系（天猫、淘宝、菜鸟、共 享业务平台、聚划算、盒马 )文娱（优酷、阿影业、 阿音乐)搜索&广告（搜索、阿妈 妈）安全阿云德地图国际化（Lazada,AliEx press）IDCIDCIDCIDCREGIREGIONREGIONIDCIDCV阿IPServer巴巴Diam开o

11、nd源Notify,TNimear-DcUoMPs)/alibaba/nacos阿巴巴逐步将“软负载体系”开源和开放”Nacos - 持Metadata 和 Weight的注册中serviceService-Centric Architecture服务注册与发现服务共享服务元数据管理 服务配置管理服务连接与调服务健康管理服务聚集与集成服务跨域治理 服务评价系统管理遗留系统集成服务协议转换服务目录管理TrafficManagementService Managem服务命周期管理 服务拓扑依赖分析故障隔离滚动升级 服务弹性服务SLA管理服务安全策略服务限流与熔断环境隔离 智能路由负载均衡 流量调度优雅上下线异地多活Nacos 1.0Service I