构建生态化分布式数据库架构体系

1、构建生态化分布式数据库架构体系技术创新，变革未来Index 内容概要分布式数据库解决方案 Alibaba B2B分布式数据存储与访问Cobar准实时增量数据获取与消费Erosa/Eromanga多维度数据同步与网站镜像Otter构建分布式数据库生态架构 Alibaba B2B全站数据架构思考与展望Keywords 关键词MySQL protocolTable水平拆分实时镜像双向同步同步事务支持Schema垂直拆分Global Failover实时日志解析Global ID事务顺序分布式数据库解决方案分布式数据存储与访问Cobar遇到的问题 - 2008Oracle 50% CPU/IOOrac

2、le: index100G产品表上亿条上万TPSOracle 4000连接Sharding数据分片v0.6-1.0.x(08-10)遇到的问题 - 2010v1.1.x (10-11)现在 (10-2012.12.23)细节：线程复用模型细节：事务、ResultSet特性SQL事务性能QOS按schema权 重进行资源隔离NIO& Streaming ResultSetmysql 5.5语法支持mysql协议级 事务支持 连接绑定的 事务支持对称集群线性扩展一些数据20+ Cobar线上高峰期 4-5w TPS，单机性能 10w TPS15并发以上，整体性能超过直接访问mysql支持mysql

3、 5.5 全部DML和部分DDL语法分布式数据库解决方案准实时增量数据获取与消费E&E遇到的问题产品实时索引反馈及时回复订单及时通知实时报表网站 cache刷新实时透明的获 取数据库变更准实时增量数据获取与消费以前的做法DB TriggerDump tableApplication MQ问题运维困难数据库、网络瞬时压力大业务侵入性强整体架构细节数据解析oracle : redolog parserArchive log 2minOnline log 10msOpen column supplemental logmysql : binlog parserCOM_BINLOG_DUMP数据消费对

4、称集群Data cursor : ZooKeeper特性实时性可用性扩展性事务性完整性忠实反映数 据库数据变更严格按照事 务顺序高峰期 10g O - MEncoding网站实时镜像 A- A网站 异地容灾数据实时同步整体架构细节数据同步自定义字段过滤自定义文件同步逻辑按事务表并发加载按表PK hash并发加载数据冲突实时字段级冲突合并冲突判断及解决现有的应用场景数据库备份：多master - 单slaver异构迁移、跨版本迁移Oracle Active-Active网站容灾容灾备份读写分离网站镜像双向读写按字段同步按事务并发同步分布式数据库解决方案构建分布式数据库生态架构Ecosystem遇到的问题Failover前后一致性Cobar后端 mysql动态扩容网站镜像mysql 自增主键问题Cobar集群 负载均衡Cobar 透明升级LSDEcosystem分布式数据库架构生态体系EcosystemLarge Scale Data EcosystemErosa数据解析Eromanga数据消费Cobar数据存储Otter数据同步前端到后端的整体解决方案 构建数据流转的生态架构整体架构思考与展望产品架构闭环Under constructingOLTP & OLAPNoSQL数据库软硬结合单机多实例单机高性能MySQL优化单机多实例存储技术飞速发展，IO不再是瓶颈MyS