Service Mesh超大规模落地技术实践

1、Service Mesh 超大规模落地技术实践一、Service Mesh 简介二、为什么要 Service Mesh三、方案落地四、分时调度案例 五、思考与未来目录contents录2一、Service Mesh 简介3Service Mesh 简介5Service Mesh 简介-比较Pilot/Gallery/Citadel/MixerApp AProxyApp BProxyHTTPgRPCPilot/Gallery/Citadel/MixerApp AMOSNApp BMOSNHTTP SOFARPCDubbo RPCWebService数据面控制面社区产品蚂蚁产品6二、为什么我们要

2、Service Mesh为什么要 Service Mesh为什么要 Service Mesh-现状5.客户端中间件版本的统一9%3.流量调度的诉求18%4.框架不断升级14%2.机器资源逐年增加27%1.业务和框架耦合32%8因为我们要解决在 SOA 下面，没有解决但亟待解决的：基础架构和业务研发的耦合，以及未来无限的对业务透明的稳定性与高可用相关诉求。为什么要 Service Mesh-结论为什么要 ServiceMesh-结论-方案应用A应用应用B应用C应用D应用ESOA 解耦了不同的业务团队之前的耦合服务注册中心客户端限流熔断客户端动态配置客户端故障注入客户端Service Mesh 解

3、耦了业务开发与基础团队之前的耦合应用代码业务应用开发基础设施开发Mesh 化8三、方案落地9方案落地最终选型：自研数据面+轻量 SDK，我们给出的答案是 MOSN。方案落地-选型开源/自研：全部迁移到 envoy？不现实，自有协议+历史负担。SDK/透明劫持：运维和可监控性不好，性能不高，风险不太可控。10方案落地-目标架构MOSNAPPMOSNAPPMore SidecarMore SidecarKubernetesSidecar Operator产品层运维能力监控能力流量调控安全能力扩展能力HTTP/RPC服务发现PilotMQPodPod11方案落地-拷问现有框架升级容器如何替换MOSN

4、 如何升级需要业务改代码吗能回滚吗？没资源给你做 buffer能不能快一点升级过程不要影响我业务其他你随便1问122问3问App 容器方案落地-框架升级前应用代码SOFABootSOFABoot/SOFARPC APIJVM13SOFABoot 研发框架App 容器方案落地-框架升级后应用代码SOFABoot_OldSOFABoot_NewRPCJVMSOFABoot/SOFARPC API检测 pod 变量，注 入启动参数判断开启了 MOSN发布和订阅服务直接调用，关闭寻 址功能其他14方案落地-容器替换PodPod OldPod New With MOSNPod New With MOSN

5、 扩容 缩容资源 BuerPod APP：4C8GPod APP：4C8GMOSN：4C2GOperator 注入传统接入 VS原地接入154C2G？Elastic Heap CPU超卖方案落地-MOSN 升级策略-有感升级MOSN V1APPMOSN V1APPMOSN V2APP关闭 Pod16升级容器容器快速接入了，但是 MOSN 有问题 / Feature 如何升级？正常运行中方案落地-升级策略-无感升级MOSN V1APPMOSN V1APPMOSN V2APPMOSN V217新增新容器销毁老容器流量无损正常运行中我们的方案-升级策略-无感升级-MOSNMOSNNew MOSN通知

6、平滑升级迁移监听套接字解析Mosn配置启动控制面服务通知启动完成关闭控制面服务关闭数据面服务迁移存量长连接18怎么做到的无损？四、分时调度案例19分时调度案例分时调度-背景资源域A资源域B资源域A资源域BX时刻20Y时刻业务诉求 资源限制 分时调度分时调度-方案演进资源域A资源域B资源域A空闲资源资源域B资源域A资源域B资源域A保活态资源域B运行态资源域A运行态资源域B保活态常规方案操作步骤21分时调度操作步骤分时调度-MOSN价值MOSN 作用：保活态节点流量转发，降低保活态节点内存占用保活意义：应用长连接维持DB 连接维持缓存维持无需预热可快速恢复MOSNAPPMOSNAPPClientPod运行态Pod保活态100%100%100%1%99%22双十一成果23覆盖双十一核心链路数十万容器 双十一大促 0新增 机器QPS 数千万 处 理 RT 0.2msMOSN: /sofastack/sofa-mosn 对 Service Mesh 未来的思考我们对 Service Mesh 的思考与未来PodAPPM