百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

MySQL + Atlas 实现数据库读写分离

ccwgpt 2024-12-15 11:17 34 浏览 0 评论

背景

当今 MySQL 使用相当广泛,随着用户的增多以及数据量的增大,高并发随之而来。

然而我们有很多办法可以缓解数据库的压力。分布式数据库、负载均衡、读写分离、增加缓存服务器等等。

这里我们将采用读写分离技术进展缓解数据库的压力。

数据库写入效率要低于读取效率,一般系统中数据读取频率高于写入频率,单个数据库实例在写入的时候会影响读取性能,这是做读写分离的原因。

基本环境

系统

IP

配置

CentOS 6.5

192.168.2.40

Atlas 代理服务

CentOS 6.5

192.168.2.41

主 MySQL 数据库

CentOS 6.5

192.168.2.42

从 MySQL 数据库

CentOS 6.5

192.168.2.43

从 MySQL 数据库

数据库的配置

需要进入192.168.2.41192.168.2.42192.168.2.43数据库中配置用户名与密码,用户必须是远程可以访问的用户,配置方法如下:

首先进入到192.168.2.41的 MySQL 数据库中,创建用户repl设置密码为hello下列标红的是用户与密码。

mysql> grant all on *.* to repl@'192.168.2.%' identified by "hello";
Query OK, 0 rows affected (0.00 sec)
复制代码
mysql> select user, host from user;
+------+-----------------------+
| user | host                  |
+------+-----------------------+
| repl | %                     |
| root | 192.168.2.%           |
|      | localhost             |
| root | localhost             |
|      | localhost.localdomain |
| root | localhost.localdomain |
+------+-----------------------+
6 rows in set (0.00 sec)
复制代码

更新数据库信息,如果没更新数据库的信息,修改不会立即生效,那就需要重启数据库了。这边直接更新数据库的信息,可以避免重启。

mysql>  flush privileges;
Query OK, 0 rows affected (0.00 sec)
复制代码

主从 MySQL 都需要创建一个数据库,我这创建的数据库是test,为了方便测试读写分离

mysql> create database test;
Query OK, 1 row affected (0.00 sec)
复制代码

注意:192.168.2.42/43 数据库与 192.168.2.41 的数据库同样配置, 记得要创建同样的数据库

主从数据库连接

配置主从服务器需要编写 MySQL 的配置文件,详情配置步骤如下:

主服务器 (192.168.2.41),使用 vim 进行配置

[mysqld]  
datadir=/data/mysql  
socket=/var/lib/mysql/mysql.sock  
user=mysql  
  
#主从复制配置  
innodb_flush_log_at_trx_commit=1  
sync_binlog=1  
#需要备份的数据库  
binlog-do-db=test
#不需要备份的数据库  
binlog-ignore-db=mysql  
  
#启动二进制文件  
log-bin=mysql-bin  
  
#服务器ID  
server-id=1  
  
# Disabling symbolic-links is recommended to prevent assorted security risks  
symbolic-links=0  
  
[mysqld_safe]  
log-error=/var/log/mysqld.log  
pid-file=/var/run/mysqld/mysqld.pid
复制代码

注意:若没有配置 binlog-do-db 和 binlog_ignore_db,表示备份全部数据库。】

重启 mysqld 服务

[root@localhost bin]# /etc/init.d/mysqld restart
复制代码

进入数据库,配置主从复制的权限

mysql> grant replication slave on *.* to 'repl'@'192.168.2.%' identified by 'hello';
Query OK, 0 rows affected (0.00 sec)
复制代码

锁定数据库

mysql> flush tables with read lock;
Query OK, 0 rows affected (0.00 sec)
复制代码

查看主数据库信息,记住下面的FilePosition的信息,它们是用来配置从数据库的关键信息。

可以看到下面同步的数据库的test数据库,主从数据库如果数据不一样,首先需要手动去同步一下数据

mysql> show master status;
+------------------+----------+--------------+------------------+
| File             | Position | Binlog_Do_DB | Binlog_Ignore_DB |
+------------------+----------+--------------+------------------+
| mysql-bin.000002 | 17620976 | test         | mysql            |
+------------------+----------+--------------+------------------+
1 row in set (0.00 sec)
复制代码

从服务器 (192.168.2.42/43),也需要使用 vim 进行配置,只需要在[mysqld]下面加入server-id=2server-id=3就可以,全部配置如下:

192.168.2.42

[mysqld]
datadir=/data/mysql
socket=/var/lib/mysql/mysql.sock
user=mysql

server-id=2

# Disabling symbolic-links is recommended to prevent assorted security risks
symbolic-links=0

[mysqld_safe]
log-error=/var/log/mysqld.log
pid-file=/var/run/mysqld/mysqld.pid
复制代码

192.168.2.43

[mysqld]
datadir=/data/mysql
socket=/var/lib/mysql/mysql.sock
user=mysql

server-id=3

# Disabling symbolic-links is recommended to prevent assorted security risks
symbolic-links=0

[mysqld_safe]
log-error=/var/log/mysqld.log
pid-file=/var/run/mysqld/mysqld.pid
复制代码

进入数据库,配置从数据库的信息,这里输入刚才记录下来的 “File” 与“Position”的信息,并且在从服务器上执行:

mysql> change master to master_host=’192.168.2.41′

主服务器的 IP

master_user=’repl’

配置主服务器的用户名

master_password=’hello’

对应用户的密码

master_port=3306

主服务器的 mysql 端口

master_log_file=’mysql-bin.000002′

日志文件的名称,需要与主服务器对应

master_log_pos=17620976

日志位置,需要与主服务器对应

master_connect_retry=10

重连次数

mysql> change master to master_host='192.168.2.41',
    -> master_user='repl',
    -> master_password='hello',
    -> master_port=3306,
    -> master_log_file='mysql-bin.000002',
    -> master_log_pos=17620976,
    -> master_connect_retry=10;
Query OK, 0 rows affected (0.01 sec)
复制代码

启动进程

mysql> start slave;
Query OK, 0 rows affected (0.00 sec)
复制代码

检查主从复制状态,要看到下列标红的信息中,两个都是Yes,才说明主从连接正确,如果有一个是 No,需要重新确定刚才记录的日志信息,停掉stop slave重新进行配置主从连接。

mysql> show slave status \G;
*************************** 1. row ***************************
               Slave_IO_State: Waiting for master to send event
                  Master_Host: 192.168.2.41
                  Master_User: repl
                  Master_Port: 3306
                Connect_Retry: 10
              Master_Log_File: mysql-bin.000002
          Read_Master_Log_Pos: 17620976
               Relay_Log_File: mysqld-relay-bin.000002
                Relay_Log_Pos: 251
        Relay_Master_Log_File: mysql-bin.000002
             <span style="color: #ff0000;">Slave_IO_Running: Yes</span>
            <span style="color: #ff0000;">Slave_SQL_Running: Yes</span>
              Replicate_Do_DB: 
          Replicate_Ignore_DB: 
           Replicate_Do_Table: 
       Replicate_Ignore_Table: 
      Replicate_Wild_Do_Table: 
  Replicate_Wild_Ignore_Table: 
                   Last_Errno: 0
                   Last_Error: 
                 Skip_Counter: 0
          Exec_Master_Log_Pos: 17620976
              Relay_Log_Space: 407
              Until_Condition: None
               Until_Log_File: 
                Until_Log_Pos: 0
           Master_SSL_Allowed: No
           Master_SSL_CA_File: 
           Master_SSL_CA_Path: 
              Master_SSL_Cert: 
            Master_SSL_Cipher: 
               Master_SSL_Key: 
        Seconds_Behind_Master: 0
Master_SSL_Verify_Server_Cert: No
                Last_IO_Errno: 0
                Last_IO_Error: 
               Last_SQL_Errno: 0
               Last_SQL_Error: 
1 row in set (0.00 sec)

ERROR: 
No query specified
复制代码

Atlas 配置

下载 Atlas 会有两个版本,其中有个分表的版本,但是这个需要其他的依赖,我这边不需要分表这种需求,所以安装普通的版本

Atlas (普通) : **Atlas-2.2.1.el6.x86_64.rpm**[1]

Atlas (分表) : **Atlas-sharding_1.0.1-el6.x86_64.rpm**[2]

首先进入 Linux 的 Home 目录下,下载非分表的安装包

[root@localhost ~]# cd /home/
[root@localhost home]# wget https://github.com/Qihoo360/Atlas/releases/download/2.2.1/Atlas-2.2.1.el6.x86_64.rpm
复制代码

下载好了之后,进行安装

[root@localhost home]# rpm -ivh Atlas-2.2.1.el6.x86_64.rpm 
Preparing...                ########################################### [100%]
   1:Atlas                  ########################################### [100%]
复制代码

安装好了,它会默认在/usr/local/mysql-proxy下给你生成 4 个文件夹,以及需要配置的文件,如下:

[root@localhost home]# ll /usr/local/mysql-proxy/
total 16
drwxr-xr-x. 2 root root 4096 Dec 28 10:47 bin
drwxr-xr-x. 2 root root 4096 Dec 28 10:47 conf
drwxr-xr-x. 3 root root 4096 Dec 28 10:47 lib
drwxr-xr-x. 2 root root 4096 Dec 17  2014 log
复制代码

bin 目录下放的都是可执行文件

"encrypt" 是用来生成 MySQL 密码加密的,在配置的时候会用到

"mysql-proxy" 是 MySQL 自己的读写分离代理

"mysql-proxyd" 是 360 弄出来的,后面有个 "d",服务的启动、重启、停止。都是用他来执行的

conf 目录下放的是配置文件

"test.cnf" 只有一个文件,用来配置代理的,可以使用 vim 来编辑

lib 目录下放的是一些包,以及 Atlas 的依赖

log 目录下放的是日志,如报错等错误信息的记录

进入 bin 目录,使用encrypt来对数据库的密码进行加密,我的 MySQL 数据的用户名是repl,密码是hello,我需要对密码进行加密

[root@localhost bin]# ./encrypt hello
RePBqJ+5gI4=
复制代码

配置 Atlas,使用 vim 进行编辑

[root@localhost conf]# cd /usr/local/mysql-proxy/conf/
[root@localhost conf]# vim test.cnf
复制代码

进入后,可以在 Atlas 进行配置,360 写的中文注释都很详细,根据注释来配置信息,其中比较重要,需要说明的配置如下

这是用来登录到 Atlas 的管理员的账号与密码,与之对应的是 “#Atlas 监听的管理接口 IP 和端口”,也就是说需要设置管理员登录的端口,才能进入管理员界面,默认端口是 2345,也可以指定 IP 登录,指定 IP 后,其他的 IP 无法访问管理员的命令界面。方便测试,我这里没有指定 IP 和端口登录。

# 管理接口的用户名
admin-username = admin

# 管理接口的密码
admin-password = admin.com
复制代码

这是用来配置主数据的地址与从数据库的地址,这里配置的主数据库是 41,从数据库是 42/43

# Atlas后端连接的MySQL主库的IP和端口,可设置多项,用逗号分隔
proxy-backend-addresses = 192.168.2.41:3306

# Atlas后端连接的MySQL从库的IP和端口,@后面的数字代表权重,用来作负载均衡,若省略则默认为1,可设置多项,用逗号分隔
proxy-read-only-backend-addresses = 192.168.2.42:3306@1,192.168.2.43:3306@1
复制代码

这个是用来配置 MySQL 的账户与密码的,我的 MySQL 的用户是 repl, 密码是 hello, 刚刚使用 Atlas 提供的工具生成了对应的加密密码

# 用户名与其对应的加密过的MySQL密码,密码使用PREFIX/bin目录下的加密程序encrypt加密
pwds = repl:RePBqJ+5gI4=
复制代码

这是设置工作接口与管理接口的,如果 ip 设置的”0.0.0.0” 就是说任意 IP 都可以访问这个接口,当然也可以指定 IP 和端口,方便测试我这边没有指定,工作接口的用户名密码与 MySQL 的账户对应的,管理员的用户密码与上面配置的管理员的用户密码对应。

# Atlas监听的工作接口IP和端口
proxy-address = 0.0.0.0:1234

# Atlas监听的管理接口IP和端口
admin-address = 0.0.0.0:2345
复制代码

启动 Atlas

[root@localhost bin]# ./mysql-proxyd test start
OK: MySQL-Proxy of test is started
复制代码

使用如下命令,进入 Atlas 的管理模式

[root@localhost bin]# mysql -h127.0.0.1 -P2345 -uadmin -padmin.com
复制代码

能进去说明 Atlas 正常运行着呢,因为它会把自己当成一个 MySQL 数据库,所以在不需要数据库环境的情况下,也可以进入到 MySQL 数据库模式

[root@localhost bin]# mysql -h127.0.0.1 -P2345 -uadmin -padmin.com
Welcome to the MySQL monitor.  Commands end with ; or \g.
Your MySQL connection id is 1
Server version: 5.0.99-agent-admin

Copyright (c) 2000, 2013, Oracle and/or its affiliates. All rights reserved.

Oracle is a registered trademark of Oracle Corporation and/or its
affiliates. Other names may be trademarks of their respective
owners.

Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.

mysql>
复制代码

可以访问 "help" 表,来看 MySQL 管理员模式都能做些什么。可以使用 SQL 语句来访问

mysql> select * from help;
+----------------------------+---------------------------------------------------------+
| command                    | description                                             |
+----------------------------+---------------------------------------------------------+
| SELECT * FROM help         | shows this help                                         |
| SELECT * FROM backends     | lists the backends and their state                      |
| SET OFFLINE $backend_id    | offline backend server, $backend_id is backend_ndx's id |
| SET ONLINE $backend_id     | online backend server, ...                              |
| ADD MASTER $backend        | example: "add master 127.0.0.1:3306", ...               |
| ADD SLAVE $backend         | example: "add slave 127.0.0.1:3306", ...                |
| REMOVE BACKEND $backend_id | example: "remove backend 1", ...                        |
| SELECT * FROM clients      | lists the clients                                       |
| ADD CLIENT $client         | example: "add client 192.168.1.2", ...                  |
| REMOVE CLIENT $client      | example: "remove client 192.168.1.2", ...               |
| SELECT * FROM pwds         | lists the pwds                                          |
| ADD PWD $pwd               | example: "add pwd user:raw_password", ...               |
| ADD ENPWD $pwd             | example: "add enpwd user:encrypted_password", ...       |
| REMOVE PWD $pwd            | example: "remove pwd user", ...                         |
| SAVE CONFIG                | save the backends to config file                        |
| SELECT VERSION             | display the version of Atlas                            |
+----------------------------+---------------------------------------------------------+
16 rows in set (0.00 sec)

mysql>
复制代码

也可以使用工作接口来访问,使用命令mysql -h127.0.0.1 -P1234 -urepl -phello

[root@localhost bin]# mysql -h127.0.0.1 -P1234 -urepl -phello
Welcome to the MySQL monitor.  Commands end with ; or \g.
Your MySQL connection id is 1
Server version: 5.0.81-log

Copyright (c) 2000, 2013, Oracle and/or its affiliates. All rights reserved.

Oracle is a registered trademark of Oracle Corporation and/or its
affiliates. Other names may be trademarks of their respective
owners.

Type 'help;' or '\h' for help. Type '\c' to clear the current input statement.

mysql>
mysql> select * from backends;
+-------------+-------------------+-------+------+
| backend_ndx | address | state | type |
+-------------+-------------------+-------+------+
| 1 | 192.168.2.41:3306 | up | rw |
| 2 | 192.168.2.42:3306 | up | ro |
| 3 | 192.168.2.43:3306 | up | ro |
+-------------+-------------------+-------+------+
3 rows in set (0.01 sec)
复制代码

读写分离测试

这里测试读写分离需要使用到 Jmeter 了,它是 Java 写第一套开源的压力测试工具,因为这个比较方便。他有专门测试 MySQL 的模块,需要使用 MySQL 的 JDBC 驱动 jar 包,配置很简单,东西很好很强大很好用。

6.1 测试写入操作

可以看到主从数据库的流量都很高,主数据负责写入,从数据库在负责同步数据。

6.2 测试读取操作

可以看到在执行读取操作时,主库基本没有流量,而从库流量非常大,这下就可以确定了数据是从数据库读取的。已经实现了读写分离。

参考资料

[1]

https://github.com/Qihoo360/Atlas/releases/download/2.2.1/Atlas-2.2.1.el6.x86_64.rpm: https://link.juejin.cn/?target=https%3A%2F%2Fgithub.com%2FQihoo360%2FAtlas%2Freleases%2Fdownload%2F2.2.1%2FAtlas-2.2.1.el6.x86_64.rpm

[2]

https://github.com/Qihoo360/Atlas/releases/download/sharding-1.0.1/Atlas-sharding_1.0.1-el6.x86_64.rpm: https://link.juejin.cn/?target=https%3A%2F%2Fgithub.com%2FQihoo360%2FAtlas%2Freleases%2Fdownload%2Fsharding-1.0.1%2FAtlas-sharding_1.0.1-el6.x86_64.rpm

相关推荐

质量持续改善流程,34页产品研发质量管理流程框架及详细方案

分享职场干货,提升能力!为职场精英打造个人知识体系,升职加薪!产品研发质量管理流程框架及详细方案如何拿到分享的源文件:请您关注、转发,然后私信本头条号“文米”2个字,按照操作流程,专人负责发送源文件给...

[汇川PLC] 汇川IFA程序框架01-新建一个项目

汇川iFA对标西门子,新选择!汇川刚刚发布的iFA平台(2月14日),一眼望去就是对标西门子的全集成自动化平台博途(TIAPortal)。这个平台可以在一个平台上对PLC、变频器、伺服、工业机器人、...

IBM EPF企业过程框架(ibm erp)

前言本人野路子出身,在过往的经历中都是自己摸索着学习,并没有建立体系化的能力框架,也因此往往过多关注具体的技术细节,缺乏体系化方法论支撑。之前也曾尝试去学习“金字塔原理”、“平衡计分卡模型”、“TOG...

嵌入式MCU程序框架设计:三种经典模式,你该选哪种?

在嵌入式开发中,程序框架设计是决定系统性能、可维护性和开发效率的关键。今天,我们将介绍三种经典的嵌入式MCU程序框架设计模式:顺序执行的前后台系统、时间片轮询系统和多任务操作系统(RTOS)。每种模式...

资深工程师分享:PLC程序设计思路分享(二)

在论坛里面有个学员问了一个程序设计的问题,问题如下所示:我现在有个程序没有想到办法,就是有五个气缸!每次随机选择,按先选先动的顺序编程!应该怎么做!能不能写个程序看看?s7-1200的plc.。例如选...

135页企业流程框架——美的战略经营部咨询方法论(可提供PDF)

如果觉得本文不错,欢迎大家转发、点赞和评论,您的鼓励是我持续更新的不竭动力!如何拿到分享的源文件:请您关注本头条号,然后私信本头条号“俊知道”3个字,按照操作流程,专人负责发送源文件给您。...

单片机最好用的程序框架,莫过于状态机了

ZorbFramework是一个基于面向对象的思想来搭建一个轻量级的嵌入式框架。本次分享的是ZorbFramework的状态机的实现。中小型嵌入式程序说白了就是由各种状态机组成,因此掌握了如何构建...

智能硬件产品/项目研发流程框架及交付件模板V5.0

52页流程信息化总体规划项目,制造与供应链高阶流程框架L1-L4

分享职场干货,提升能力!为职场精英打造个人知识体系,升职加薪!流程信息化总体规划项目如何拿到分享的源文件:请您关注、转发,然后私信本头条号“文米”2个字,按照操作流程,专人负责发送源文件给您。...

这52张PPT把期货基础、研究框架和下半年策略都说透了

...

研报学习:稀土产业链研究框架(国信证券)

【推荐】AI大模型研究框架|附下载

锋行链盟推荐阅读非会员仅试读以上内容公众号:锋行链盟后台回复【9033】下载报告回复【5】领取人工智能大模型报告合集|3200份...

四川石窟寺“1+4”保护研究框架协议签订

来源:环球网【环球网文化综合报道】近日,巴中石窟保护利用项目专家论证会召开。四川石窟寺保护研究院、乐山大佛石窟研究院、安岳石窟研究院、广元石窟研究所、巴中石窟研究中心四方共同签订了《四川石窟寺“1+...

中考数学知识框架(中考数学知识点细目表)

如何使用知识框架进行学习和发展 | 2023年7月15日

今天想聊一聊知识框架这回事。在《费曼学习法》一书中看到了这样一个小故事:"从中学开始,小唐就拥有自己的学习小组,每个学习小组都代表了不同的兴趣和方向。他与不同的老师和同学在小组中做针对性的讨论...

取消回复欢迎 发表评论: