`
phyu110
  • 浏览: 7663 次
社区版块
存档分类
最新评论

五种数据同步思路

阅读更多
数据同步:当数据源发生改变时,其他相关数据也跟着发展变化。根据需求不同可采取以下方案。

1.触发器
在数据库建立增删改的触发器。触发器将变更放到一张临时表里。oracle同步cdc
优点:实时同步
缺点:影响到业务系统,因为需要在业务系统建立触发器

2.日志
通过分析源数据库日志,来获得源数据库中的变化的数据。oracle异步cdc
优点:不影响业务系统
缺点:有一定得延时,对于没有提供日志分析接口的数据源,开发的难度比较大

3.时间戳
在要同步的源表里有时间戳字段,每当数据发生变化,时间戳会记录发生变化的时间
优点:基本不影响业务系统
缺点:要求源表必须有时间戳这一列

4.数据比较
通过比较两边数据源数据,来完成数据同步。一般用于实时性要求不高的场景。
优点:基本不影响业务系统
缺点:效率低

5. 全表拷贝
定时清空目的数据源,将源数据源的数据全盘拷贝到目的数据源。一般用于数据量不大,实时性要求不高的场景。
优点:基本不影响业务系统,开发、部署都很简单
缺点:效率低

总结:
1. 上面五种数据同步方式,除了第五种都需要业务表有主键。
2. 对于没有触发器和日志的一些小型数据源,如txt 文本,excel 文件,Aceess,则只能使用后三种方式。
3. 对于大型数据源,一般优先选择日志方式,如 ORCALE Asynchronized CDC, 对于不能通过日志来实现的情况,可以考虑第1,3,4种方式。
分享到:
评论

相关推荐

    ORALCE数据泵自动同步思路

    Oracle的数据泵是oracle自带的一种数据同步工具,自从10g版本后开始支持,能同步表结构、表数据等信息

    java数据实时同步系统

    java数据实时同步系统,把远程数据库数据实时同步到本地数据库

    集团与分、子公司间数据同步方案

    数据同步可以分为两种,一种是大集团和下属集团的数据同步,另一种是集团和下属各个矿的数据同步,可以实时同步,但是网络和硬件要求比较高,故主要考虑定时同步,两种同步的思路是一致的。下面举例说明

    Java数据库同步系统(Web平台)

    同步不同数据库之间的数据,比如postgresql到oracle,oracle到oracle,不限于此,支持自己配置。 实现思路: 在主线程中创建若干子线程,每个子线程分别用来同步一张数据表,提供web页面,监控各个子线程运行状况,...

    基于WCF的AutoCAD与ArcGIS矿图数据同步技术

    在总结现有矿图数据在CAD平台与GIS平台间转换方法研究成果及其缺陷的基础上,基于WCF分布式框架结构结合二次开发技术,提出了一种跨图形平台的矿图数据同步新思路,并在Auto CAD与Arc GIS中成功实现。阐述了WCF技术的...

    数据库中两张表之间的数据同步增加、删除与更新实现思路

    分别创建增加、删除、更新的触发器(Trigger)来达到两张表之间数据同步的目的。 1:数据同步增加: 如有两张表——A表和B表,创建触发器使当A表插入数据后B表也同步插入数据。其中B表插入数据的字段需要同A表中的...

    连续调用多个外部系统写接口保证数据一致性的思路

    今天小编就为大家分享一篇关于连续调用多个外部系统写接口保证数据一致性的思路,小编觉得内容挺不错的,现在分享给大家,具有很好的参考价值,需要的朋友一起跟随小编来看看吧

    KETTLE之根据多表表名进行批量同步

    多表批量同步思路: 第一步:通过TXT等文件批量写入表名,输入结果集 第二步:从结果集中获取结果,转换为变量值 第三步:抽取变量值,使表输入可以调用,完成表输出的整个数据同步 此同步容易造成问题的点在于文本...

    oracle数据库同步perl脚本示例

    oracle数据库同步perl脚本示例 其中有2个文件,一个是 perl同步脚本,另一个是存储过程;...大致思路是:perl脚本从数据库A同步数据至库B的临时表中,再通过存储过程将库B中的临时数据过滤导入正式数据当中。

    详解MongoDB数据还原及同步解决思路

    mongodb数据如何还原,同步到其他系统?其实实现方法很简单,这篇文章主要介绍了MongoDB数据还原及同步解决思路,需要的朋友可以参考下

    论文研究-混沌时间序列预测模型参数同步优化.pdf

    传统上相空间重构与预测...以经典混沌时间序列太阳黑子年平均数为例进行了验证,结果表明,相对传统的参数优化算法,参数同步优化算法时间复杂度低、预测精度高,为混沌时间序列预测模型参数优化提供了一种新的思路。

    common-datax:基于DataX的通用数据同步微服务,一个Restful接口搞定所有通用数据同步

    admincommon-datax基于阿里DataX开发一个通用导数的微服务,可以开发前台页面,根据reader和writer自动进行数据同步本项目只限于同步数据源量很少的时候使用,若是数据源很多的情况,请参考下面的设计思路由于阿里...

    数据脱敏大数据架构设计.docx

    脱敏扩展性架构图 五核心模块及其主要功能 调度平台 使用Nginx方式来调用数据中心,通过注册中心获取数据中心的服务列表 可以合理的根据数据同步的情况,去调用服务;比如数据同步可能存在的顺序性,执行延时; ...

    数据安全专项研究和实践资料集合.zip

    互联网+时代下新的数据安全防护思路 基于API的数据安全风险运营-GOPS全球运维大会 陌陌大数据安全体系构建实践 企业核心数据安全方案 实时保护Hadoop数据安全 使用全同态加密构造数据安全方案的安全风险 数据安全-...

    listView 联动 同步实现

    最后,换个思路,用三个listview实现该功能,同时通过联动来同步滑动过程中的同步,最终实现了需求,也花费了许多时间和精力,为了少让android开发朋友们走弯路,故把自己写的一个例子贡献出来,也顺便赚点积分,...

    用python简单实现mysql数据同步到ElasticSearch的教程

    之前博客有用logstash-input-jdbc同步mysql数据到ElasticSearch,但是由于同步时间最少是一分钟一次,无法满足线上业务,所以只能自己实现一个,但是时间比较紧,所以简单实现一个思路:网上有很多思路用什么mysql的...

    永磁同步电机直接转矩控制论文

    澄清了无刷直流电动机、永磁容错电动机DTC系统中的一些模糊概念,初步理顺了它们的DTC技术研究思路,为建立它们的DTC理论构架打下了可靠的基础。永磁同步电动机DTC技术可广泛应用于永磁同步电动机的调速系统和新能源...

Global site tag (gtag.js) - Google Analytics