MySQL + Atlas 实现数据库读写分离
ccwgpt 2024-12-15 11:17 51 浏览 0 评论
背景
当今 MySQL 使用相当广泛,随着用户的增多以及数据量的增大,高并发随之而来。
然而我们有很多办法可以缓解数据库的压力。分布式数据库、负载均衡、读写分离、增加缓存服务器等等。
这里我们将采用读写分离技术进展缓解数据库的压力。
数据库写入效率要低于读取效率,一般系统中数据读取频率高于写入频率,单个数据库实例在写入的时候会影响读取性能,这是做读写分离的原因。
基本环境
系统 | IP | 配置 |
CentOS 6.5 | 192.168.2.40 | Atlas 代理服务 |
CentOS 6.5 | 192.168.2.41 | 主 MySQL 数据库 |
CentOS 6.5 | 192.168.2.42 | 从 MySQL 数据库 |
CentOS 6.5 | 192.168.2.43 | 从 MySQL 数据库 |
数据库的配置
需要进入192.168.2.41、192.168.2.42和192.168.2.43数据库中配置用户名与密码,用户必须是远程可以访问的用户,配置方法如下:
首先进入到192.168.2.41的 MySQL 数据库中,创建用户repl设置密码为hello下列标红的是用户与密码。
mysql> grant all on *.* to repl@'192.168.2.%' identified by "hello";
Query OK, 0 rows affected (0.00 sec)
复制代码
mysql> select user, host from user;
+------+-----------------------+
| user | host |
+------+-----------------------+
| repl | % |
| root | 192.168.2.% |
| | localhost |
| root | localhost |
| | localhost.localdomain |
| root | localhost.localdomain |
+------+-----------------------+
6 rows in set (0.00 sec)
复制代码
更新数据库信息,如果没更新数据库的信息,修改不会立即生效,那就需要重启数据库了。这边直接更新数据库的信息,可以避免重启。
mysql> flush privileges;
Query OK, 0 rows affected (0.00 sec)
复制代码
主从 MySQL 都需要创建一个数据库,我这创建的数据库是test,为了方便测试读写分离
mysql> create database test;
Query OK, 1 row affected (0.00 sec)
复制代码
注意:192.168.2.42/43 数据库与 192.168.2.41 的数据库同样配置, 记得要创建同样的数据库
主从数据库连接
配置主从服务器需要编写 MySQL 的配置文件,详情配置步骤如下:
主服务器 (192.168.2.41),使用 vim 进行配置
[mysqld]
datadir=/data/mysql
socket=/var/lib/mysql/mysql.sock
user=mysql
#主从复制配置
innodb_flush_log_at_trx_commit=1
sync_binlog=1
#需要备份的数据库
binlog-do-db=test
#不需要备份的数据库
binlog-ignore-db=mysql
#启动二进制文件
log-bin=mysql-bin
#服务器ID
server-id=1
# Disabling symbolic-links is recommended to prevent assorted security risks
symbolic-links=0
[mysqld_safe]
log-error=/var/log/mysqld.log
pid-file=/var/run/mysqld/mysqld.pid
复制代码
注意:若没有配置 binlog-do-db 和 binlog_ignore_db,表示备份全部数据库。】
重启 mysqld 服务
[root@localhost bin]# /etc/init.d/mysqld restart
复制代码
进入数据库,配置主从复制的权限
mysql> grant replication slave on *.* to 'repl'@'192.168.2.%' identified by 'hello';
Query OK, 0 rows affected (0.00 sec)
复制代码
锁定数据库
mysql> flush tables with read lock;
Query OK, 0 rows affected (0.00 sec)
复制代码
查看主数据库信息,记住下面的File与Position的信息,它们是用来配置从数据库的关键信息。
可以看到下面同步的数据库的test数据库,主从数据库如果数据不一样,首先需要手动去同步一下数据
mysql> show master status;
+------------------+----------+--------------+------------------+
| File | Position | Binlog_Do_DB | Binlog_Ignore_DB |
+------------------+----------+--------------+------------------+
| mysql-bin.000002 | 17620976 | test | mysql |
+------------------+----------+--------------+------------------+
1 row in set (0.00 sec)
复制代码
从服务器 (192.168.2.42/43),也需要使用 vim 进行配置,只需要在[mysqld]下面加入server-id=2和server-id=3就可以,全部配置如下:
192.168.2.42
[mysqld]
datadir=/data/mysql
socket=/var/lib/mysql/mysql.sock
user=mysql
server-id=2
# Disabling symbolic-links is recommended to prevent assorted security risks
symbolic-links=0
[mysqld_safe]
log-error=/var/log/mysqld.log
pid-file=/var/run/mysqld/mysqld.pid
复制代码
192.168.2.43
[mysqld]
datadir=/data/mysql
socket=/var/lib/mysql/mysql.sock
user=mysql
server-id=3
# Disabling symbolic-links is recommended to prevent assorted security risks
symbolic-links=0
[mysqld_safe]
log-error=/var/log/mysqld.log
pid-file=/var/run/mysqld/mysqld.pid
复制代码
进入数据库,配置从数据库的信息,这里输入刚才记录下来的 “File” 与“Position”的信息,并且在从服务器上执行:
mysql> change master to master_host=’192.168.2.41′ | 主服务器的 IP |
master_user=’repl’ | 配置主服务器的用户名 |
master_password=’hello’ | 对应用户的密码 |
master_port=3306 | 主服务器的 mysql 端口 |
master_log_file=’mysql-bin.000002′ | 日志文件的名称,需要与主服务器对应 |
master_log_pos=17620976 | 日志位置,需要与主服务器对应 |
master_connect_retry=10 | 重连次数 |
mysql> change master to master_host='192.168.2.41',
-> master_user='repl',
-> master_password='hello',
-> master_port=3306,
-> master_log_file='mysql-bin.000002',
-> master_log_pos=17620976,
-> master_connect_retry=10;
Query OK, 0 rows affected (0.01 sec)
复制代码
启动进程
mysql> start slave;
Query OK, 0 rows affected (0.00 sec)
复制代码
检查主从复制状态,要看到下列标红的信息中,两个都是Yes,才说明主从连接正确,如果有一个是 No,需要重新确定刚才记录的日志信息,停掉stop slave重新进行配置主从连接。
mysql> show slave status \G;
*************************** 1. row ***************************
Slave_IO_State: Waiting for master to send event
Master_Host: 192.168.2.41
Master_User: repl
Master_Port: 3306
Connect_Retry: 10
Master_Log_File: mysql-bin.000002
Read_Master_Log_Pos: 17620976
Relay_Log_File: mysqld-relay-bin.000002
Relay_Log_Pos: 251
Relay_Master_Log_File: mysql-bin.000002
<span style="color: #ff0000;">Slave_IO_Running: Yes</span>
<span style="color: #ff0000;">Slave_SQL_Running: Yes</span>
Replicate_Do_DB:
Replicate_Ignore_DB:
Replicate_Do_Table:
Replicate_Ignore_Table:
Replicate_Wild_Do_Table:
Replicate_Wild_Ignore_Table:
Last_Errno: 0
Last_Error:
Skip_Counter: 0
Exec_Master_Log_Pos: 17620976
Relay_Log_Space: 407
Until_Condition: None
Until_Log_File:
Until_Log_Pos: 0
Master_SSL_Allowed: No
Master_SSL_CA_File:
Master_SSL_CA_Path:
Master_SSL_Cert:
Master_SSL_Cipher:
Master_SSL_Key:
Seconds_Behind_Master: 0
Master_SSL_Verify_Server_Cert: No
Last_IO_Errno: 0
Last_IO_Error:
Last_SQL_Errno: 0
Last_SQL_Error:
1 row in set (0.00 sec)
ERROR:
No query specified
复制代码
Atlas 配置
下载 Atlas 会有两个版本,其中有个分表的版本,但是这个需要其他的依赖,我这边不需要分表这种需求,所以安装普通的版本
Atlas (普通) : **Atlas-2.2.1.el6.x86_64.rpm**[1]
Atlas (分表) : **Atlas-sharding_1.0.1-el6.x86_64.rpm**[2]
首先进入 Linux 的 Home 目录下,下载非分表的安装包
[root@localhost ~]# cd /home/
[root@localhost home]# wget https://github.com/Qihoo360/Atlas/releases/download/2.2.1/Atlas-2.2.1.el6.x86_64.rpm
复制代码
下载好了之后,进行安装
[root@localhost home]# rpm -ivh Atlas-2.2.1.el6.x86_64.rpm
Preparing... ########################################### [100%]
1:Atlas ########################################### [100%]
复制代码
安装好了,它会默认在/usr/local/mysql-proxy下给你生成 4 个文件夹,以及需要配置的文件,如下:
[root@localhost home]# ll /usr/local/mysql-proxy/
total 16
drwxr-xr-x. 2 root root 4096 Dec 28 10:47 bin
drwxr-xr-x. 2 root root 4096 Dec 28 10:47 conf
drwxr-xr-x. 3 root root 4096 Dec 28 10:47 lib
drwxr-xr-x. 2 root root 4096 Dec 17 2014 log
复制代码
bin 目录下放的都是可执行文件
"encrypt" 是用来生成 MySQL 密码加密的,在配置的时候会用到
"mysql-proxy" 是 MySQL 自己的读写分离代理
"mysql-proxyd" 是 360 弄出来的,后面有个 "d",服务的启动、重启、停止。都是用他来执行的
conf 目录下放的是配置文件
"test.cnf" 只有一个文件,用来配置代理的,可以使用 vim 来编辑
lib 目录下放的是一些包,以及 Atlas 的依赖
log 目录下放的是日志,如报错等错误信息的记录
进入 bin 目录,使用encrypt来对数据库的密码进行加密,我的 MySQL 数据的用户名是repl,密码是hello,我需要对密码进行加密
[root@localhost bin]# ./encrypt hello
RePBqJ+5gI4=
复制代码
配置 Atlas,使用 vim 进行编辑
[root@localhost conf]# cd /usr/local/mysql-proxy/conf/
[root@localhost conf]# vim test.cnf
复制代码
进入后,可以在 Atlas 进行配置,360 写的中文注释都很详细,根据注释来配置信息,其中比较重要,需要说明的配置如下
这是用来登录到 Atlas 的管理员的账号与密码,与之对应的是 “#Atlas 监听的管理接口 IP 和端口”,也就是说需要设置管理员登录的端口,才能进入管理员界面,默认端口是 2345,也可以指定 IP 登录,指定 IP 后,其他的 IP 无法访问管理员的命令界面。方便测试,我这里没有指定 IP 和端口登录。
# 管理接口的用户名
admin-username = admin
# 管理接口的密码
admin-password = admin.com
复制代码这是用来配置主数据的地址与从数据库的地址,这里配置的主数据库是 41,从数据库是 42/43
# Atlas后端连接的MySQL主库的IP和端口,可设置多项,用逗号分隔
proxy-backend-addresses = 192.168.2.41:3306
# Atlas后端连接的MySQL从库的IP和端口,@后面的数字代表权重,用来作负载均衡,若省略则默认为1,可设置多项,用逗号分隔
proxy-read-only-backend-addresses = 192.168.2.42:3306@1,192.168.2.43:3306@1
复制代码这个是用来配置 MySQL 的账户与密码的,我的 MySQL 的用户是 repl, 密码是 hello, 刚刚使用 Atlas 提供的工具生成了对应的加密密码
# 用户名与其对应的加密过的MySQL密码,密码使用PREFIX/bin目录下的加密程序encrypt加密
pwds = repl:RePBqJ+5gI4=
复制代码这是设置工作接口与管理接口的,如果 ip 设置的”0.0.0.0” 就是说任意 IP 都可以访问这个接口,当然也可以指定 IP 和端口,方便测试我这边没有指定,工作接口的用户名密码与 MySQL 的账户对应的,管理员的用户密码与上面配置的管理员的用户密码对应。
# Atlas监听的工作接口IP和端口
proxy-address = 0.0.0.0:1234
# Atlas监听的管理接口IP和端口
admin-address = 0.0.0.0:2345
复制代码
启动 Atlas
[root@localhost bin]# ./mysql-proxyd test start
OK: MySQL-Proxy of test is started
复制代码
使用如下命令,进入 Atlas 的管理模式
[root@localhost bin]# mysql -h127.0.0.1 -P2345 -uadmin -padmin.com
复制代码
能进去说明 Atlas 正常运行着呢,因为它会把自己当成一个 MySQL 数据库,所以在不需要数据库环境的情况下,也可以进入到 MySQL 数据库模式
[root@localhost bin]# mysql -h127.0.0.1 -P2345 -uadmin -padmin.com
Welcome to the MySQL monitor. Commands end with ; or \g.
Your MySQL connection id is 1
Server version: 5.0.99-agent-admin
Copyright (c) 2000, 2013, Oracle and/or its affiliates. All rights reserved.
Oracle is a registered trademark of Oracle Corporation and/or its
affiliates. Other names may be trademarks of their respective
owners.
Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.
mysql>
复制代码
可以访问 "help" 表,来看 MySQL 管理员模式都能做些什么。可以使用 SQL 语句来访问
mysql> select * from help;
+----------------------------+---------------------------------------------------------+
| command | description |
+----------------------------+---------------------------------------------------------+
| SELECT * FROM help | shows this help |
| SELECT * FROM backends | lists the backends and their state |
| SET OFFLINE $backend_id | offline backend server, $backend_id is backend_ndx's id |
| SET ONLINE $backend_id | online backend server, ... |
| ADD MASTER $backend | example: "add master 127.0.0.1:3306", ... |
| ADD SLAVE $backend | example: "add slave 127.0.0.1:3306", ... |
| REMOVE BACKEND $backend_id | example: "remove backend 1", ... |
| SELECT * FROM clients | lists the clients |
| ADD CLIENT $client | example: "add client 192.168.1.2", ... |
| REMOVE CLIENT $client | example: "remove client 192.168.1.2", ... |
| SELECT * FROM pwds | lists the pwds |
| ADD PWD $pwd | example: "add pwd user:raw_password", ... |
| ADD ENPWD $pwd | example: "add enpwd user:encrypted_password", ... |
| REMOVE PWD $pwd | example: "remove pwd user", ... |
| SAVE CONFIG | save the backends to config file |
| SELECT VERSION | display the version of Atlas |
+----------------------------+---------------------------------------------------------+
16 rows in set (0.00 sec)
mysql>
复制代码
也可以使用工作接口来访问,使用命令mysql -h127.0.0.1 -P1234 -urepl -phello
[root@localhost bin]# mysql -h127.0.0.1 -P1234 -urepl -phello
Welcome to the MySQL monitor. Commands end with ; or \g.
Your MySQL connection id is 1
Server version: 5.0.81-log
Copyright (c) 2000, 2013, Oracle and/or its affiliates. All rights reserved.
Oracle is a registered trademark of Oracle Corporation and/or its
affiliates. Other names may be trademarks of their respective
owners.
Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.
mysql>
mysql> select * from backends;
+-------------+-------------------+-------+------+
| backend_ndx | address | state | type |
+-------------+-------------------+-------+------+
| 1 | 192.168.2.41:3306 | up | rw |
| 2 | 192.168.2.42:3306 | up | ro |
| 3 | 192.168.2.43:3306 | up | ro |
+-------------+-------------------+-------+------+
3 rows in set (0.01 sec)
复制代码
读写分离测试
这里测试读写分离需要使用到 Jmeter 了,它是 Java 写第一套开源的压力测试工具,因为这个比较方便。他有专门测试 MySQL 的模块,需要使用 MySQL 的 JDBC 驱动 jar 包,配置很简单,东西很好很强大很好用。
6.1 测试写入操作
可以看到主从数据库的流量都很高,主数据负责写入,从数据库在负责同步数据。
6.2 测试读取操作
可以看到在执行读取操作时,主库基本没有流量,而从库流量非常大,这下就可以确定了数据是从数据库读取的。已经实现了读写分离。
参考资料
[1]
https://github.com/Qihoo360/Atlas/releases/download/2.2.1/Atlas-2.2.1.el6.x86_64.rpm: https://link.juejin.cn/?target=https%3A%2F%2Fgithub.com%2FQihoo360%2FAtlas%2Freleases%2Fdownload%2F2.2.1%2FAtlas-2.2.1.el6.x86_64.rpm
[2]
https://github.com/Qihoo360/Atlas/releases/download/sharding-1.0.1/Atlas-sharding_1.0.1-el6.x86_64.rpm: https://link.juejin.cn/?target=https%3A%2F%2Fgithub.com%2FQihoo360%2FAtlas%2Freleases%2Fdownload%2Fsharding-1.0.1%2FAtlas-sharding_1.0.1-el6.x86_64.rpm
相关推荐
- 一个基于.Net Core遵循Clean Architecture原则开源架构
-
今天给大家推荐一个遵循CleanArchitecture原则开源架构。项目简介这是基于Asp.netCore6开发的,遵循CleanArchitecture原则,可以高效、快速地构建基于Ra...
- AI写代码翻车无数次,我发现只要提前做好这3步,bug立减80%
-
写十万行全是bug之后终于找到方法了开发"提示词管理助手"新版本那会儿,我差点被bug整崩溃。刚开始两周,全靠AI改代码架构,结果十万行程序漏洞百出。本来以为AI说没问题就稳了,结果...
- OneCode低代码平台的事件驱动设计:架构解析与实践
-
引言:低代码平台的事件驱动范式在现代软件开发中,事件驱动架构(EDA)已成为构建灵活、松耦合系统的核心范式。OneCode低代码平台通过创新性的注解驱动设计,将事件驱动理念深度融入平台架构,实现了业务...
- 国内大厂AI插件评测:根据UI图生成Vue前端代码
-
在IDEA中安装大厂的AI插件,打开ruoyi增强项目:yudao-ui-admin-vue31.CodeBuddy插件登录腾讯的CodeBuddy后,大模型选择deepseek-v3,输入提示语:...
- AI+低代码技术揭秘(二):核心架构
-
本文档介绍了为VTJ低代码平台提供支持的基本架构组件,包括Engine编排层、Provider服务系统、数据模型和代码生成管道。有关UI组件库和widget系统的信息,请参阅UI...
- GitDiagram用AI把代码库变成可视化架构图
-
这是一个名为gitdiagram的开源工具,可将GitHub仓库实时转换为交互式架构图,帮助开发者快速理解代码结构。核心功能一键可视化:替换GitHubURL中的"hub...
- 30天自制操作系统:第六天:代码架构整理与中断处理
-
1.拆开bootpack.c文件。根据设计模式将对应的功能封装成独立的文件。2.初始化pic:pic(可编程中断控制器):在设计上,cpu单独只能处理一个中断。而pic是将8个中断信号集合成一个中断...
- AI写代码越帮越忙?2025年研究揭露惊人真相
-
近年来,AI工具如雨后春笋般涌现,许多人开始幻想程序员的未来就是“对着AI说几句话”,就能轻松写出完美的代码。然而,2025年的一项最新研究却颠覆了这一期待,揭示了一个令人意外的结果。研究邀请了16位...
- 一键理解开源项目:两个自动生成GitHub代码架构图与说明书工具
-
一、GitDiagram可以一键生成github代码仓库的架构图如果想要可视化github开源项目:https://github.com/luler/reflex_ai_fast,也可以直接把域名替换...
- 5分钟掌握 c# 网络通讯架构及代码示例
-
以下是C#网络通讯架构的核心要点及代码示例,按协议类型分类整理:一、TCP协议(可靠连接)1.同步通信//服务器端usingSystem.Net.Sockets;usingTcpListene...
- 从复杂到优雅:用建造者和责任链重塑代码架构
-
引用设计模式是软件开发中的重要工具,它为解决常见问题提供了标准化的解决方案,提高了代码的可维护性和可扩展性,提升了开发效率,促进了团队协作,提高了软件质量,并帮助开发者更好地适应需求变化。通过学习和应...
- 低代码开发当道,我还需要学习LangChain这些框架吗?| IT杂谈
-
专注LLM深度应用,关注我不迷路前两天有位兄弟问了个问题:当然我很能理解这位朋友的担忧:期望效率最大化,时间用在刀刃上,“不要重新发明轮子”嘛。铺天盖地的AI信息轰炸与概念炒作,很容易让人浮躁与迷茫。...
- 框架设计并不是简单粗暴地写代码,而是要先弄清逻辑
-
3.框架设计3.框架设计本节我们要开发一个UI框架,底层以白鹭引擎为例。框架设计的第一步并不是直接撸代码,而是先想清楚设计思想,抽象。一个一个的UI窗口是独立的吗?不是的,...
- 大佬用 Avalonia 框架开发的 C# 代码 IDE
-
AvalonStudioAvalonStudio是一个开源的跨平台的开发编辑器(IDE),AvalonStudio的目标是成为一个功能齐全,并且可以让开发者快速使用的IDE,提高开发的生产力。A...
- 轻量级框架Lagent 仅需20行代码即可构建自己的智能代理
-
站长之家(ChinaZ.com)8月30日消息:Lagent是一个专注于基于LLM模型的代理开发的轻量级框架。它的设计旨在简化和提高这种模型下代理的开发效率。LLM模型是一种强大的工具,可以...
你 发表评论:
欢迎- 一周热门
- 最近发表
- 标签列表
-
- 框架图 (58)
- flask框架 (53)
- quartz框架 (51)
- abp框架 (47)
- springmvc框架 (49)
- 分布式事务框架 (65)
- scrapy框架 (56)
- shiro框架 (61)
- 定时任务框架 (56)
- java日志框架 (61)
- mfc框架 (52)
- abb框架断路器 (48)
- beego框架 (52)
- java框架spring (58)
- grpc框架 (65)
- tornado框架 (48)
- 前端框架bootstrap (54)
- orm框架有哪些 (51)
- 知识框架图 (52)
- ppt框架 (55)
- 框架图模板 (59)
- 内联框架 (52)
- cad怎么画框架 (58)
- ssm框架实现登录注册 (49)
- oracle字符串长度 (48)