MySQL 8.0,二进制日志的一大改进
ccwgpt 2024-12-28 23:07 34 浏览 0 评论
很多同学吐槽 MySQL 数据同步没有采用物理复制,而是使用逻辑的二进制日志,因此抱怨主从数据同步较慢。
然而,随着基于 WRITE SET 并行复制技术推出,以及 MySQL 8.0 快速加列功能的诞生,只要架构设计得当,MySQL 主从数据延迟的问题几乎已不存在。
相反,姜老师在过去的文章中,一再强调二进制日志是 MySQL 数据库成功的关键。
逻辑日志意味着 MySQL 中的数据不会是一个终点,他可以方便地流向用户想要使用的业务场景。
例如在 MySQL 数据库的数据可以准实时的推送给 ES 做检索,发送给 Spark 做推荐分析,等等。
相比,Oracle、Microsoft SQL Server、PostgreSQL,他们这方面就明显弱很多。
因为,物理日志不好实现异构系统的数据同步。
当然,物理日志 vs 逻辑日志的问题,之前都已分析过。今天讨论的重点是 MySQL 8.0 中关于二进制日志的改进。
二进制日志的元数据
通过二进制日志,可以非常容易捕获 MySQL 数据库中的变更,从而推送给其他数据平台。
但是,二进制日志中是否有记录每条记录的元数据信息呢?例如:
- 这条记录对应的库名是什么?
- 这条记录对应的表名是什么?
- 这条记录中每个列的类型是什么?
- 这条记录中每个列的名称是什么?
- 这条记录中,哪个列是主键?
可以通过命令mysqlbinlog来解析二进制日志,回答上面的问题:
上面的这张图显示了通过命令 mysqlbinlog 对二进制日志 binlog.000001 的解析结果。
可以看到类型为Table_map的二进制日志event,可以捕获这条记录对应的库名和表名。
类型为Write_rows的二进制日志event,表明这条记录是由INSERT操作记录的二进制日志。
下面的的 @1=3 /* INT meta=0 nullable=0 is_null=0 */ 表示插入记录的列1值为3,类型是INT。
也就是说,对于上面的5个问题,其中3个二进制日志是有保存对应信息的。
然而,二进制日志中并没有记录每个列的名称,以及哪个列是主键的元数据信息。
因此,如果通过二进制日志实现 DTS(Data Transfer Service)服务,需要额外的手段获取这些信息。
业界开源 DTS 做得比较好的是 Maxwell ,简单易用,用 JSON 描述二进制日志中每条记录的信息,并发送到 Kafka :
通过上面的例子,可以看到 Maxwell 可以捕获每条记录的列名。这里是 id、m、c、comment。
更重要的是, Maxwell 还会记录主键值和主键对应的列。
可以发现,上面的例子中,主键是由列 id、c 组成的。
快速扫了下 Maxwell 的源码,发现 Maxwell 实现原理是去查询表 information_schea.COLUMNS ,从而获取这些元数据信息:
虽然 Maxwell 曲线实现了获取列名和主键的信息,但 MySQL 8.0 版本后,就无需这么复杂的实现了。
因为,上面的元数据信息,将被直接写入到二进制日志。
MySQL 8.0 二进制日志元数据增强
MySQL 8.0 版本允许将每条记录的列名和主键信息记录到二进制日志的 Table_map event中。
这个新特性默认关闭,需要通过将参数 binlog_row_metadata 设置为 full 才能打开此特性:
mysql > SET GLOBAL binlog_row_metadata = full;
之后,再通过命令 mysqlbinlog ,再加入新参数 --print-table-metadata 就能打印出每条记录的列名和主键信息了:
显然,这个特性会增大二进制日志的容量,但如果计算下 Table_map event的增长,其实会发现只从47字节增长为了65字节,开销并不是特别大。
当然,如果你表字段非常多,那么增长的幅度就会相对比较大了。
不过,当二进制日志包含了每条记录的值和元数据信息, DTS 就变得非常 easy 了。
更重要的是,每次表结构发生 DDL 变更时,也不用进行额外的处理。
总结
今天的文章介绍了 MySQL 8.0 对于二进制日志的一个改进。
通过设置参数 binlog_row_metadata 为 FULL ,可以在二进制日志中包含每条记录的所有元数据信息。
虽然对于二进制日志存储来说,会增加一定的存储开销。
但对于异构系统之间的数据同步来说,这个特性会非常有用。
最后,姜老师想说的是,都2021年了,你还不升级到 MySQL 8.0 这个伟大的版本么?
伟大航路,即将启航~~~
相关推荐
- 一个基于.Net Core遵循Clean Architecture原则开源架构
-
今天给大家推荐一个遵循CleanArchitecture原则开源架构。项目简介这是基于Asp.netCore6开发的,遵循CleanArchitecture原则,可以高效、快速地构建基于Ra...
- AI写代码翻车无数次,我发现只要提前做好这3步,bug立减80%
-
写十万行全是bug之后终于找到方法了开发"提示词管理助手"新版本那会儿,我差点被bug整崩溃。刚开始两周,全靠AI改代码架构,结果十万行程序漏洞百出。本来以为AI说没问题就稳了,结果...
- OneCode低代码平台的事件驱动设计:架构解析与实践
-
引言:低代码平台的事件驱动范式在现代软件开发中,事件驱动架构(EDA)已成为构建灵活、松耦合系统的核心范式。OneCode低代码平台通过创新性的注解驱动设计,将事件驱动理念深度融入平台架构,实现了业务...
- 国内大厂AI插件评测:根据UI图生成Vue前端代码
-
在IDEA中安装大厂的AI插件,打开ruoyi增强项目:yudao-ui-admin-vue31.CodeBuddy插件登录腾讯的CodeBuddy后,大模型选择deepseek-v3,输入提示语:...
- AI+低代码技术揭秘(二):核心架构
-
本文档介绍了为VTJ低代码平台提供支持的基本架构组件,包括Engine编排层、Provider服务系统、数据模型和代码生成管道。有关UI组件库和widget系统的信息,请参阅UI...
- GitDiagram用AI把代码库变成可视化架构图
-
这是一个名为gitdiagram的开源工具,可将GitHub仓库实时转换为交互式架构图,帮助开发者快速理解代码结构。核心功能一键可视化:替换GitHubURL中的"hub...
- 30天自制操作系统:第六天:代码架构整理与中断处理
-
1.拆开bootpack.c文件。根据设计模式将对应的功能封装成独立的文件。2.初始化pic:pic(可编程中断控制器):在设计上,cpu单独只能处理一个中断。而pic是将8个中断信号集合成一个中断...
- AI写代码越帮越忙?2025年研究揭露惊人真相
-
近年来,AI工具如雨后春笋般涌现,许多人开始幻想程序员的未来就是“对着AI说几句话”,就能轻松写出完美的代码。然而,2025年的一项最新研究却颠覆了这一期待,揭示了一个令人意外的结果。研究邀请了16位...
- 一键理解开源项目:两个自动生成GitHub代码架构图与说明书工具
-
一、GitDiagram可以一键生成github代码仓库的架构图如果想要可视化github开源项目:https://github.com/luler/reflex_ai_fast,也可以直接把域名替换...
- 5分钟掌握 c# 网络通讯架构及代码示例
-
以下是C#网络通讯架构的核心要点及代码示例,按协议类型分类整理:一、TCP协议(可靠连接)1.同步通信//服务器端usingSystem.Net.Sockets;usingTcpListene...
- 从复杂到优雅:用建造者和责任链重塑代码架构
-
引用设计模式是软件开发中的重要工具,它为解决常见问题提供了标准化的解决方案,提高了代码的可维护性和可扩展性,提升了开发效率,促进了团队协作,提高了软件质量,并帮助开发者更好地适应需求变化。通过学习和应...
- 低代码开发当道,我还需要学习LangChain这些框架吗?| IT杂谈
-
专注LLM深度应用,关注我不迷路前两天有位兄弟问了个问题:当然我很能理解这位朋友的担忧:期望效率最大化,时间用在刀刃上,“不要重新发明轮子”嘛。铺天盖地的AI信息轰炸与概念炒作,很容易让人浮躁与迷茫。...
- 框架设计并不是简单粗暴地写代码,而是要先弄清逻辑
-
3.框架设计3.框架设计本节我们要开发一个UI框架,底层以白鹭引擎为例。框架设计的第一步并不是直接撸代码,而是先想清楚设计思想,抽象。一个一个的UI窗口是独立的吗?不是的,...
- 大佬用 Avalonia 框架开发的 C# 代码 IDE
-
AvalonStudioAvalonStudio是一个开源的跨平台的开发编辑器(IDE),AvalonStudio的目标是成为一个功能齐全,并且可以让开发者快速使用的IDE,提高开发的生产力。A...
- 轻量级框架Lagent 仅需20行代码即可构建自己的智能代理
-
站长之家(ChinaZ.com)8月30日消息:Lagent是一个专注于基于LLM模型的代理开发的轻量级框架。它的设计旨在简化和提高这种模型下代理的开发效率。LLM模型是一种强大的工具,可以...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- 框架图 (58)
- flask框架 (53)
- quartz框架 (51)
- abp框架 (47)
- springmvc框架 (49)
- 分布式事务框架 (65)
- scrapy框架 (56)
- shiro框架 (61)
- 定时任务框架 (56)
- java日志框架 (61)
- mfc框架 (52)
- abb框架断路器 (48)
- beego框架 (52)
- java框架spring (58)
- grpc框架 (65)
- tornado框架 (48)
- 前端框架bootstrap (54)
- orm框架有哪些 (51)
- 知识框架图 (52)
- ppt框架 (55)
- 框架图模板 (59)
- 内联框架 (52)
- cad怎么画框架 (58)
- ssm框架实现登录注册 (49)
- oracle字符串长度 (48)