(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211134325.X (22)申请日 2022.09.19 (71)申请人 平安银行股份有限公司 地址 518000 广东省深圳市罗湖区深南 东 路5047号 (72)发明人 黄芳  (74)专利代理 机构 北京超凡宏宇专利代理事务 所(特殊普通 合伙) 11463 专利代理师 姚大雷 (51)Int.Cl. G06F 16/27(2019.01) G06F 16/242(2019.01) G06F 16/215(2019.01) (54)发明名称 数据库数据实时同步方法、 系统、 计算机终 端及存储介质 (57)摘要 本发明属于数据处理技术领域, 尤其涉及一 种数据库数据实时同步方法、 系统、 计算机终端 及存储介质, 该方法包括: 监听并读取当前数据 库的日志数据, 并将所述日志数据存入kafka集 群的消息集合中; 通过数据读取插件获取所述消 息集合中的日志数据, 并对所述日志数据进行数 据清洗; 根据下游数据库的类型, 将经过数据清 洗得到的日志数据解析成对应的格式, 并写入所 述下游数据库。 通过利用kafka集群获取数据库 的日志数据, 人后对日志数据的处理, 获取对下 游数据库进行同步的数据格式, 进行数据库数据 同步。 权利要求书2页 说明书8页 附图4页 CN 115203336 A 2022.10.18 CN 115203336 A 1.一种数据库数据实时同步方法, 应用于分布式数据库集群中的数据同步, 其特征在 于, 包括: 监听并读取当前 数据库的日志数据, 并将所述日志数据存 入kafka集群的消息集 合中; 通过数据读取插件获取所述消息集合中的日志数据, 并对所述日志数据进行数据清 洗; 根据下游数据库的类型, 将经过数据清洗得到的日志数据解析成对应的格式, 并写入 所述下游数据库。 2.根据权利要求1所述的数据库数据实时同步方法, 其特征在于, 所述根据下游数据库 的类型, 将经 过数据清洗得到的日志数据解析成对应的格式, 包括: 若所述下游数据库的类型为关系型 数据库, 则将所述日志数据解析成SQ L语句; 若所述下游数据库的类型为非关系型数据库, 则将所述日志数据解析成POJO对象, 并 进行序列化处 理。 3.根据权利要求1或2所述的数据库数据实时同步方法, 其特征在于, 所述写入所述下 游数据库, 包括: 写入所述下游数据库的数据池或数据仓库中; 所述写入所述下游数据库之后, 还 包括: 更新所述消息集合中的补偿信 息, 所述补偿信 息用于对出现异常故障的组件进行数据 恢复。 4.根据权利要求1所述的数据库数据实时同步方法, 其特征在于, 所述监 听并读取当前 数据库的日志数据, 并将所述日志数据存 入kafka集群的消息集 合中, 包括: 通过kafka ‑connector ‑oracle插件监听并获取所述日志数据, 将所述日志数据转换成 预设格式, 存放到消息集 合中; 所述日志数据包括重做日志和回滚日志。 5.据权利要求4所述的数据库数据实时同步方法, 其特征在于, 所述预设格 式为JSON格 式。 6.根据权利要求1所述的数据库数据实时同步方法, 其特征在于, 所述通过数据读取插 件获取所述消息集 合中的日志数据, 包括: 通过kafka ‑oracle‑sink插件监听多个所述消息集 合, 实时获取 所述日志数据。 7.根据权利要求1所述的数据库数据实时同步方法, 其特征在于, 所述对所述日志数据 进行数据清洗, 包括: 通过sync ‑factory插件对所述日志数据进行清洗和格式化加工, 并解析所述日志数 据, 形成摘要数据或宽表数据, 所述摘要数据或宽表数据用于写入所述下游数据库。 8.一种数据实时同步系统, 其特征在于, 包括: 核心数据库、 kafka集群和若干个下游数 据库, 所述核心数据库设置 于核心系统内; 当需要进行数据同步时, 所述kafka集群用于监听并读取所述核心数据库的日志数据, 并将所述日志数据存 入所述kafka集群的消息集 合中; 所述kafka集群通过数据读取插件, 获取所述消息集合中的日志数据, 并对所述日志数 据进行数据清洗; 所述kafka集群根据各个所述下游数据库的类型, 将经过数据清洗得到的日志数据解权 利 要 求 书 1/2 页 2 CN 115203336 A 2析成对应的格式, 并写入各个所述下游数据库中。 9.一种计算机终端, 其特征在于, 包括处理器和存储器, 所述存储器存储有计算机程 序, 所述计算机程序在所述处理器上运行时执行权利要求 1至7中任一项 所述的数据库数据 实时同步方法。 10.一种可读存储介质, 其特征在于, 其存储有计算机程序, 所述计算机程序在处理器 上运行时执 行权利要求1至7中任一项所述的数据库数据实时同步方法。权 利 要 求 书 2/2 页 3 CN 115203336 A 3

.PDF文档 专利 数据库数据实时同步方法、系统、计算机终端及存储介质

安全报告 > 其他 > 文档预览
中文文档 15 页 50 下载 1000 浏览 0 评论 309 收藏 3.0分
温馨提示:本文档共15页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 数据库数据实时同步方法、系统、计算机终端及存储介质 第 1 页 专利 数据库数据实时同步方法、系统、计算机终端及存储介质 第 2 页 专利 数据库数据实时同步方法、系统、计算机终端及存储介质 第 3 页
下载文档到电脑,方便使用
本文档由 人生无常2024-03-18 00:50:35上传分享
给文档打分
您好可以输入 255 个字符
网站域名是多少( 答案:github5.com )
评论列表
  • 暂时还没有评论,期待您的金玉良言
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。