1、简介

官网：https://shardingsphere.apache.org/index_zh.html

文档：https://shardingsphere.apache.org/document/5.1.1/cn/overview/

Apache ShardingSphere 由 JDBC、Proxy 和 Sidecar（规划中）这 3 款既能够独立部署，又支持混合部署配合使用的产品组成。

2、ShardingSphere-JDBC

程序代码封装

定位为轻量级 Java 框架，在 Java 的 JDBC 层提供的额外服务。 它使用客户端直连数据库，以 jar 包形式提供服务，无需额外部署和依赖，可理解为增强版的 JDBC 驱动，完全兼容 JDBC 和各种 ORM 框架。

3、ShardingSphere-Proxy

中间件封装

定位为透明化的数据库代理端，提供封装了数据库二进制协议的服务端版本，用于完成对异构语言的支持。 目前提供 MySQL 和 PostgreSQL版本，它可以使用任何兼容 MySQL/PostgreSQL 协议的访问客户端（如：MySQL Command Client, MySQL Workbench, Navicat 等）操作数据，对 DBA 更加友好。

MySQL主从同步原理

基本原理：

slave会从master读取binlog来进行数据同步

具体步骤：

• step1：master将数据改变记录到二进制日志（binary log）中。
• step2： 当slave上执行 start slave 命令之后，slave会创建一个 IO 线程用来连接master，请求master中的binlog。
• step3：当slave连接master时，master会创建一个 log dump 线程，用于发送 binlog 的内容。在读取 binlog 的内容的操作中，会对主节点上的 binlog 加锁，当读取完成并发送给从服务器后解锁。
• step4：IO 线程接收主节点 binlog dump 进程发来的更新之后，保存到 中继日志（relay log） 中。
• step5：slave的SQL线程，读取relay log日志，并解析成具体操作，从而实现主从操作一致，最终数据一致。

2、一主多从配置

服务器规划：使用docker方式创建，主从服务器IP一致，端口号不一致

2.1、准备主服务器

• step1：在docker中创建并启动MySQL主服务器：端口3306

拉取镜像

docker pull docker.1ms.run/library/mysql:latest

docker run -d \
-p 3306:3306 \
-v /home/run/mysql/master/conf:/etc/mysql/conf.d \
-v /home/run/mysql/master/data:/var/lib/mysql \
-e MYSQL_ROOT_PASSWORD=123456 \
--name mysql-master \
docker.1ms.run/library/mysql:latest

执行结果

• step2：创建MySQL主服务器配置文件：

默认情况下MySQL的binlog日志是自动开启的，可以通过如下配置定义一些可选配置

vim /home/run/mysql/master/conf/my.cnf

配置内容

[mysqld]
# 服务器唯一id，默认值1
server-id=1
# 设置日志格式，默认值ROW
binlog_format=STATEMENT
# 二进制日志名，默认binlog
# log-bin=binlog
# 设置需要复制的数据库，默认复制全部数据库
#binlog-do-db=mytestdb
# 设置不需要复制的数据库
#binlog-ignore-db=mysql
#binlog-ignore-db=infomation_schema

服务重启

docker restart mysql-master

binlog格式说明：

• binlog_format=STATEMENT：日志记录的是主机数据库的写指令，性能高，但是now()之类的函数以及获取系统参数的操作会出现主从数据不同步的问题。
• binlog_format=ROW（默认）：日志记录的是主机数据库的写后的数据，批量操作时性能较差，解决now()或者 user()或者 @@hostname 等操作在主从机器上不一致的问题。
• binlog_format=MIXED：是以上两种level的混合使用，有函数用ROW，没函数用STATEMENT，但是无法识别系统变量

binlog-ignore-db和binlog-do-db的优先级问题：

• step3：使用命令行登录MySQL主服务器：

#进入容器：env LANG=C.UTF-8 避免容器中显示中文乱码
docker exec -it mysql-master env LANG=C.UTF-8 /bin/bash
#进入容器内的mysql命令行
mysql -uroot -p
#修改默认密码校验方式
ALTER USER 'root'@'%' IDENTIFIED WITH mysql_native_password BY '123456';

• step4：主机中创建slave用户：

-- 创建slave用户
CREATE USER 'mysql_slave'@'%';
-- 设置密码
ALTER USER 'mysql_slave'@'%' IDENTIFIED BY '123456';
-- 授予复制权限
GRANT REPLICATION SLAVE ON *.* TO 'mysql_slave'@'%';
-- 刷新权限
FLUSH PRIVILEGES;

执行结果：

• step5：主机中查询master状态：

执行完此步骤后不要再操作主服务器MYSQL，防止主服务器状态值变化

SHOW MASTER STATUS;

高版本使用

SHOW BINARY LOG STATUS;

记下File和Position的值。执行完此步骤后不要再操作主服务器MYSQL，防止主服务器状态值变化。

2.2、准备从服务器

可以配置多台从机slave1、slave2…，这里以配置slave1为例

• step1：在docker中创建并启动MySQL从服务器：端口3307

docker run -d \
-p 3308:3306 \
-v /home/run/mysql/slave1/conf:/etc/mysql/conf.d \
-v /home/run/mysql/slave1/data:/var/lib/mysql \
-e MYSQL_ROOT_PASSWORD=123456 \
--name mysql-slave1 \
docker.1ms.run/library/mysql:latest

执行结果：

• step2：创建MySQL从服务器配置文件：

vim /home/run/mysql/slave1/conf/my.cnf

配置如下内容：

[mysqld]
# 服务器唯一id，每台服务器的id必须不同，如果配置其他从机，注意修改id
server-id=2
# 中继日志名，默认xxxxxxxxxxxx-relay-bin
#relay-log=relay-bin

重启MySQL容器

docker restart mysql-slave1

• step3：使用命令行登录MySQL从服务器：

#进入容器：
docker exec -it mysql-slave1 env LANG=C.UTF-8 /bin/bash
#进入容器内的mysql命令行
mysql -uroot -p
#修改默认密码校验方式
ALTER USER 'root'@'%' IDENTIFIED  BY '123456';

执行结果：

• step4：在从机上配置主从关系：

在从机上执行以下SQL操作

CHANGE MASTER TO MASTER_HOST='172.18.8.229', 
MASTER_USER='mysql_slave',MASTER_PASSWORD='123456', MASTER_PORT=3307,
MASTER_LOG_FILE='binlog.000003',MASTER_LOG_POS=1450; 

新版本执行命令

CHANGE REPLICATION SOURCE TO 
    SOURCE_HOST='172.18.8.229',
    SOURCE_USER='mysql_slave',
    SOURCE_PASSWORD='123456',
    SOURCE_PORT=3307,
    SOURCE_LOG_FILE='binlog.000003',
    SOURCE_LOG_POS=1450;

旧参数（≤ MySQL 8.0.22）	新参数（≥ MySQL 8.0.23）
MASTER_HOST	SOURCE_HOST
MASTER_USER	SOURCE_USER
MASTER_PASSWORD	SOURCE_PASSWORD
MASTER_PORT	SOURCE_PORT
MASTER_LOG_FILE	SOURCE_LOG_FILE
MASTER_LOG_POS	SOURCE_LOG_POS
CHANGE MASTER TO	CHANGE REPLICATION SOURCE TO

执行结果：

2.3、启动主从同步

启动从机的复制功能，执行SQL：

START SLAVE;
-- 查看状态（不需要分号）
SHOW SLAVE STATUS\G

高版本：

-- 4. 启动复制 (新命令)
START REPLICA;

-- 5. 查看状态 (新命令)
SHOW REPLICA STATUS\G

两个关键进程：下面两个参数都是Yes，则说明主从配置成功！

  Replica_IO_Running: Connecting
  Replica_SQL_Running: Yes

2.4、实现主从同步

在主机中执行以下SQL，在从机中查看数据库、表和数据是否已经被同步

CREATE DATABASE db_user;
USE db_user;
CREATE TABLE t_user (
 id BIGINT AUTO_INCREMENT,
 uname VARCHAR(30),
 PRIMARY KEY (id)
);
INSERT INTO t_user(uname) VALUES('zhang3');
INSERT INTO t_user(uname) VALUES(@@hostname);

主机执行

从机查看结果：
存在异常：

不要用宿主机的IP地址，用容器内的IP地址：

STOP REPLICA;

CHANGE REPLICATION SOURCE TO 
    SOURCE_HOST='172.17.0.2',  -- 主库容器内网IP
    SOURCE_USER='mysql_slave',
    SOURCE_PASSWORD='123456',
    SOURCE_PORT=3306,          -- 【关键修改】这里必须是 3306，不是 3307！
    SOURCE_LOG_FILE='binlog.000003',
    SOURCE_LOG_POS=1450;

START REPLICA;

从库查看，数据同步成功

2.5、停止和重置

需要的时候，可以使用如下SQL语句

-- 在从机上执行。功能说明：停止I/O 线程和SQL线程的操作。
stop slave; 

-- 在从机上执行。功能说明：用于删除SLAVE数据库的relaylog日志文件，并重新启用新的relaylog文件。
reset slave;

-- 在主机上执行。功能说明：删除所有的binglog日志文件，并将日志索引文件清空，重新开始所有新的日志文件。
-- 用于第一次进行搭建主从库时，进行主库binlog初始化工作；
reset master;

2.6、常见问题

问题1

启动主从同步后，常见错误是Slave_IO_Running： No 或者 Connecting 的情况，此时查看下方的 Last_IO_ERROR错误日志，根据日志中显示的错误信息在网上搜索解决方案即可

典型的错误例如：Last_IO_Error: Got fatal error 1236 from master when reading data from binary log: 'Client requested master to start replication from position > file size'

解决方案：

-- 在从机停止slave
SLAVE STOP;

-- 在主机查看mater状态
SHOW MASTER STATUS;
-- 在主机刷新日志
FLUSH LOGS;
-- 再次在主机查看mater状态（会发现File和Position发生了变化）
SHOW MASTER STATUS;
-- 修改从机连接主机的SQL，并重新连接即可

问题2

启动docker容器后提示 WARNING: IPv4 forwarding is disabled. Networking will not work.

此错误，虽然不影响主从同步的搭建，但是如果想从远程客户端通过以下方式连接docker中的MySQL则没法连接

C:\Users\administrator>mysql -h 192.168.100.201 -P 3306 -u root -p

解决方案：

#修改配置文件：
vim /usr/lib/sysctl.d/00-system.conf
#追加
net.ipv4.ip_forward=1
#接着重启网络
systemctl restart network

参考链接：

B站传送门