推荐一个开源数据同步神器,支持多种数据源和预警功能!

DBSyncer是一款开源的数据同步中间件,提供MySQLOracleSqlServerPostgreSQLElasticsearch(ES)KafkaFileSQL等同步场景。

支持上传插件自定义同步转换业务,提供监控全量和增量数据统计图、应用性能预警等。

特点:

  • 组合驱动,自定义库同步到库组合,关系型数据库与非关系型之间组合,任意搭配表同步映射关系

  • 实时监控,驱动全量或增量实时同步运行状态、结果、同步日志和系统日志

  • 开发插件,自定义转化同步逻辑

设计

架构图

a0534eac35c212ab9b73ebf801ce5b74.png

应用场景

连接器数据源目标源支持版本(包含以下)
MySQL5.7.19以上
Oracle10gR2 -11g
SqlServer2008以上
PostgreSQL9.5.25以上
ES6.0以上
Kafka开发中2.10-0.9.0.0以上
File*.txt, *.unl
SQL
支持以上关系型数据库
后期计划Redis

使用教程

  1. 启动 代理 和 数据库 服务

c9f7646a740a6fcbddf84cde97cc949d.png
  1. 准备测试账号,test

59623240b0ba995aec18f6e5b5c2bed0.png
  1. 分配sysadmin角色

eee59f6d07ac0b9f9c5e576ff294d7d6.png
  1. 分配指定数据库权限

a1ac0674ef4707235fcd2dc4cc790a8b.png

PostgreSQL

通过复制流技术监听增量事件,基于内置插件pgoutputtest_decoding实现解析wal日志

1、修改postgresql.conf文件,重启服务

wal_level=logical

2、授予账号权限LOGINREPLICATION

File

监听文件修改时间得到变化文件,通过文件偏移量读取最新数据

https://gitee.com/ghi/dbsyncer/issues/I55EP5

ES

  • 定时获取增量数据。

  • 账号具有访问权限。

日志

建议MySQL、SqlServer、PostgreSQL都使用日志

eeb056f82243d1a3a96428f03372fbef.png

定时

假设源表数据格式

f9a0f3eab7e927a385630231ca92869c.png 9ab1ef3ce34636e87df2e4f485da051f.png

预览

驱动管理

c599f075b4196c61c92aa602a90d2bd5.png

驱动详情

7d88cec1506ac8d07e37e97e865343f0.png

驱动表字段关系配置

07b6d77c67dacf2d569a1fe6347e1f31.png

监控

144993b5742efc8a20b047fcc168c3ec.png

上传插件

56a7a2a0839e54791d7537279d85d92e.png

开源地址

https://gitee.com/ghi/dbsyncer

------

我们创建了一个高质量的技术交流群,与优秀的人在一起,自己也会优秀起来,赶紧点击加群,享受一起成长的快乐。另外,如果你最近想跳槽的话,年前我花了2周时间收集了一波大厂面经,节后准备跳槽的可以点击这里领取!

推荐阅读

  • 写 bug 速度提升200%!吊爆的 IDEA 使用技巧

  • 还在用开源软件搭建ChatGPT网站?小心别人花你的钱!

  • 真刑啊!几行代码端了整个教务系统

··································

你好,我是程序猿DD,10年开发老司机、阿里云MVP、腾讯云TVP、出过书创过业、国企4年互联网6年。从普通开发到架构师、再到合伙人。一路过来,给我最深的感受就是一定要不断学习并关注前沿。只要你能坚持下来,多思考、少抱怨、勤动手,就很容易实现弯道超车!所以,不要问我现在干什么是否来得及。如果你看好一个事情,一定是坚持了才能看到希望,而不是看到希望才去坚持。相信我,只要坚持下来,你一定比现在更好!如果你还没什么方向,可以先关注我,这里会经常分享一些前沿资讯,帮你积累弯道超车的资本。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.rhkb.cn/news/27078.html

如若内容造成侵权/违法违规/事实不符,请联系长河编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

Java 17 采用率在一年内增长 430% !

出品 | OSC开源社区(ID:oschina2013) New Relic 最新发布了一份 “2023 年 Java 生态系统状况报告”,旨在提供有关当今 Java 生态系统状态的背景和见解。该报告基于从数百万个提供性能数据的应用程序中收集的数据,对生产中使用最多…

简单的数据库连接与提供前端接口

前言: 本文浅浅讲解一下,使用多种软件共同开发一个java工程。 这是我在windows系统上跑成功的一次设计: 逻辑图如下: 一:所需软件和版本。 idea,maven,jdk,git,jenki…

免费“白嫖” GPT-4 方法 +1, 开发者锐评:跟“偷”有什么区别?

整理 | 郑丽媛、出品 | CSDN(ID:CSDNnews) 前不久,可“白嫖” GPT-4 的 Forefront Chat 吸引了众多关注,导致该网站一度崩溃,也令不少人发出疑问:“GPT-4 这么贵,为什么它能免费让我…

chatgpt赋能python:免费Python软件——学习和开发的首选工具

免费Python软件——学习和开发的首选工具 Python是一门高级编程语言,流行于数据科学、机器学习、自然语言处理等领域。但是,许多初学者和开发者因为高昂的学习和购买成本而退缩。然而,免费的Python软件正在帮助更多人轻松学习和开发Python程…

chatgpt赋能python:免费的Python编程软件:开发者必备工具!

免费的Python编程软件:开发者必备工具! Python是一门广受欢迎的编程语言,它已经成为了很多公司和开发者的首选语言。Python的出现改变了编程的方式,它具有简单、易懂、易读、易写、易拓展等特点,因此成为了很多新手入…

写 bug 速度提升200%!吊爆的 IDEA 使用技巧

来源:blog.xiaohansong.com/idea-live-templates.html 今天分享一篇idea技巧,让我们少写一些重复代码,提高效率~ 背景 Java 开发过程经常需要编写有固定格式的代码,例如说声明一个私有变量,logger或者bean等等。对于这…

chatgpt赋能Python-python886

Python886:一款优秀的Python IDE 作为一款Python开发的强大IDE,Python886 绝对不会让您失望。Python886 是 Python 编程语言的一个集成开发环境(IDE),支持C、C、Python、PHP、Ruby、Perl等多种编程语言。Python886 具…

IntelliJ IDEA 2023.1 发布:新UI、支持Java 20、简化Git Commit、重新设计 “Run”

出品 | OSC开源社区(ID:oschina2013) IntelliJ IDEA 2023.1 现已发布。此版本包括对新 UI 的改进,根据从用户那里收到的反馈进行了彻底改造。此外还实现了性能增强,从而在打开项目时更快地导入 Maven 和更早地使用 IDE 功能。由于…

npm安装教程

一、使用之前,我们先来掌握3个东西是用来干什么的。 npm: Nodejs下的包管理器。 webpack: 它主要的用途是通过CommonJS的语法把所有浏览器端需要发布的静态资源做相应的准备,比如资源的合并和打包。 vue-cli: 用户生成Vue工程模板。(帮你快…

实用工具 | <01>ChatGPT-4——Cursor(AI代码神器)

目录 一、简单介绍 二、安装教程 三、使用教程 四、总结 一、简单介绍 ChatGPT是一个大型多模态模型,可以接受图像和文本输入,并生成文本输出。GPT-4是基于Transformer的模型,经过训练后可以预测文档中的next token。为了提高准确性和确保G…

分割一切后,Segment Anything又能分辨类别了:Meta/UTAustin提出全新开放类分割模型...

点击上方“AI遇见机器学习”,选择“星标”公众号 第一时间获取价值内容 前几日,Meta 推出了「分割一切」AI 模型 Segment Anything,令网友直呼 CV 不存在了?!而在另一篇被 CVPR 2023 收录的论文中,Meta、UT…

无线电的节日

昨天坐车看东西,司机又拉过了,终于到家了 冥冥之中选择电磁场与无线电这个专业。这个专业就业方向包括射频、雷达和微波。后来跟着师傅选择了射频这条道路。 我老师当年说过你们要学英语,甚至还要学日语和德语,因为先进的创造来自…

Kotlin 集合操作符

集合操作符 集合操作符 一 (首字母 a - f) 这篇文章介绍下 Kotlin 集合中的操作符,本文中 Kotlin 所用版本是 1.8.10 all 判断集合中的所有元素是否满足需求,返回值为 Boolean 例如我们需要判断字符串的长度是否大于4 val songs listOf("一路…

讯飞星火认知大模型成果发布会举行

目录 一、提出通用人工智能七大维度481项评测体系 二、讯飞星火认知大模型三大能力已超ChatGPT 现场语音输入流畅 多维实测燃爆全场 写邮件、做方案、讲故事,讯飞星火大模型到底有多会写? 中文理解十级测试,现场观众:讯飞星火…

OpenAI 推出漏洞赏金计划,最高奖励 2 万美元;京东零售开启 5 年来最大组织变革;​Django 4.2|极客头条...

「极客头条」—— 技术人员的新闻圈! CSDN 的读者朋友们早上好哇,「极客头条」来啦,快来看今天都有哪些值得我们技术人关注的重要新闻吧。 整理 | 梦依丹 出品 | CSDN(ID:CSDNnews) 一分钟速览新闻点&#…

“三项能力超过ChatGPT”,科大讯飞星火大模型现场接受观众挑战,写稿制表PPT通通拿下...

杨净 发自 合肥量子位 | 公众号 QbitAI “三项能力超过ChatGPT” “1024将整体超过GPT水平!” 在科大讯飞星火认知大模型发布会现场,董事长刘庆峰拍着胸脯保证,引起现场掌声雷动! 而真机演示效果和多场景产品展示直接把观众们看呆…

自然机器人最新发布:智能流程助手,与GPT深度融合

ChatGPT自2022年11月上线后就受到现象级地广泛关注,5天时间用户就已经突破百万,仅2个月时间月活用户就突破1亿,成为史上增速最快的消费级应用,远超TikTok、Facebook、Google等全球应用。它展现了类似人类的语言理解和对话交互能力…

go语言实现聊天服务器(多人聊天)

用go语言实现一个server作中转群发消息,多个客户端聊天 1)服务器开启,等待来自客户端的连接,把每一个客户端存储在map中 2)客户端连接服务器,给自己取一个别名,存储在服务器 3)服…

Golang 从零开始实现多人聊天室(三)上线通知与公屏聊天

系列文章目录 跟着😽猫猫学Golang,快人一步 系列初开,跟着我走进Go 语言的世界里🌍 系列目录 Golang 从零开始实现多人聊天室(一)服务端监听 Golang 从零开始实现多人聊天室(二)客…

商务人士邮箱推荐?高大上邮箱来了!

既然点进文章那不用多说,大家肯定都是商务人士。在普通人眼里商务人士就等于精英人士,他们的行头都是一身西装梳着根根分明的大背头,他们会多国语言精通各种数字,总之就是看起来很厉害每天很精致。那商务人士到底是不是这样呢我也…