基于GoldenGate的数据分发设计_第1页
基于GoldenGate的数据分发设计_第2页
基于GoldenGate的数据分发设计_第3页
基于GoldenGate的数据分发设计_第4页
基于GoldenGate的数据分发设计_第5页
已阅读5页,还剩30页未读 继续免费阅读

下载本文档

版权说明:本文档由用户提供并上传,收益归属内容提供方,若内容存在侵权,请进行举报或认领

文档简介

1、基于GoldenGate的数据分发设计技术创新,变革未来需求背景核心系统财务系统客服系统精算系统移动保险 系统报表查询数据平台建议书 系统各类报送 系统物化视图物化视图DBLinkDBLinkDBLinkDBLinkDBLinkDBLinkDBLinkDBLinkDBLinkDBLink系统较多数据交换较凌乱耦合性较强较难管理容易出现性能问题保险行业IT现状对原有系统影响较小或无影响实现及管理较容易提升数据流向的清晰度降低系统间的耦合度提升整体系统的性能核心系统财务系统客服系统精算系统移动保险 系统增量 抽取增量 抽取增量 抽取增量 抽取增量 抽取统 一 数 据 分 发报表查询数据平台建议书

2、系统移动保险 系统各类报送 系统客服系统归纳成图 就是系统建设原则要有较高的可用性数据准确性要高容易管理和监控能集成到大数据平台中可用性的实现自动重启Extract或Replicat进程在网络不稳定或网络短暂中断后 特别有用 需要保证Manager进程正常运行Checkpoint FileTrail File采用ACFS用来安装GoldenGate软件用来存储Trail File可以配置GoldeGate VIP实现故障转移原先的架构-比较重型实施较繁琐,且比较容易出错容易导致错误累积容易导致数据延迟双向复制比较困难轻量化架构不会导致错误累积数据延迟更小双向复制更加容易实现DBFS + Dat

3、aGuardTRAILCHECKPOINT FILEVIPDataGuardDBFS保证数据准确性 本身没有机制来保证数据准确性 本身没有提供数据校验的方法基于J2EE的B/S架构数据校验在内存中完成数据会先取到Veridata服务器上 再进行校验运算,对数据库压力 较小可以进行数据修复2*6 Core CPU +32GB,能达到5 万-10万条每秒的 校验速度Shell脚本 + Cron job监控GoldenGateEM + GoldenGate Plugin进程状态监控 和告警数据延迟监控 和告警大数据平台集成*核心系统财务系统客服系统精算系统移动保险 系统增量 抽取增量 抽取增量 抽取增量 抽取增量 抽取统 一 数 据 分 发需求:数据能 实时更新到Hive中JMSTRAILJMSHandlerMessage Capture VAMExtract读取JMS,将消息输出到Trail中JMSHandler读取Trail,将事务写入到目标库 或Flat File或消息中间件中(如 ActiveMQ)JMSTRAILJava User ExitJMSHandlerReplicat目标库Flat FileGoldenGate Adapter的扩展支持将事务输出到HDFS、HBase、 Fl

温馨提示

  • 1. 本站所有资源如无特殊说明,都需要本地电脑安装OFFICE2007和PDF阅读器。图纸软件为CAD,CAXA,PROE,UG,SolidWorks等.压缩文件请下载最新的WinRAR软件解压。
  • 2. 本站的文档不包含任何第三方提供的附件图纸等,如果需要附件,请联系上传者。文件的所有权益归上传用户所有。
  • 3. 本站RAR压缩包中若带图纸,网页内容里面会有图纸预览,若没有图纸预览就没有图纸。
  • 4. 未经权益所有人同意不得将文件中的内容挪作商业或盈利用途。
  • 5. 人人文库网仅提供信息存储空间,仅对用户上传内容的表现方式做保护处理,对用户上传分享的文档内容本身不做任何修改或编辑,并不能对任何下载内容负责。
  • 6. 下载文件中如有侵权或不适当内容,请与我们联系,我们立即纠正。
  • 7. 本站不保证下载资源的准确性、安全性和完整性, 同时也不承担用户因使用这些下载资源对自己和他人造成任何形式的伤害或损失。

评论

0/150

提交评论