Appearance
十一、Redis集群
1、主从复制
1、是什么
主机数据更新后根据配置和策略, 自动同步到备机的master/slaver机制,Master以写为主,Slave以读为主
2、能干嘛
- 读写分离,性能扩展
- 容灾快速恢复
3、配置主从复制
1、新建3个配置文件
- 这里只在一台机器上模拟 不同端口 多台机器效果一样
- 使用到了之前 /myredis/redis.conf 配置文件
- redis6379.conf
sh
include /myredis/redis.conf
pidfile /var/run/redis_6379.pid
port 6379
dbfilename dump6379.rdb
- redis6380.conf
sh
include /myredis/redis.conf
pidfile /var/run/redis_6380.pid
port 6380
dbfilename dump6380.rdb
- redis6381.conf
sh
include /myredis/redis.conf
pidfile /var/run/redis_6381.pid
port 6381
dbfilename dump6381.rdb
- 可以加这个配置 slave-priority 10
- 设置从机的优先级,值越小,优先级越高,用于选举主机时使用。默认100
4、启动3台机器
sh
redis-server /myredis/redis6379.conf
redis-server /myredis/redis6380.conf
redis-server /myredis/redis6381.conf
sh
ps -ef | grep redis
5、查看三台主机运行情况
sh
# 根据端口连接客户端
redis-cli -p 6379
sh
# 打印主从复制的相关信息
info replication
- 可以连接三台都看一下
- 可以发现每台都是master
- 因为还没有加入集群
6、配从(库)不配主(库)
sh
slaveof <ip> <port>
在6380和6381上执行
shellslaveof 127.0.0.1 6379
- 再看6379
master写数据
shset name zhangsan
从机获取数据
- 从机上写数据报错
关掉master
shshutdown
启动master
shredis-server /myredis/redis6379.conf
主机挂掉,重启就行,一切如初
从机重启需重设:slaveof 127.0.0.1 6379
可以将配置增加到文件中。永久生效。
sh
redis-server /myredis/redis6380.conf
info replication
- 自己变成独立的机器了
7、自己测试
切入点问题?slave1、slave2是从头开始复制还是从切入点开始复制?比如从k4进来,那之前的k1,k2,k3是否也可以复制?
从机是否可以写?set可否?
主机shutdown后情况如何?从机是上位还是原地待命?
主机又回来了后,主机新增记录,从机还能否顺利复制?
其中一台从机down后情况如何?依照原有它能跟上大部队吗?
8、复制原理
- Slave启动成功连接到master后会发送一个sync命令
- Master接到命令启动后台的存盘进程,同时收集所有接收到的用于修改数据集命令, 在后台进程执行完毕之后,master将传送整个数据文件到slave,以完成一次完全同步
- 全量复制:而slave服务在接收到数据库文件数据后,将其存盘并加载到内存中。
- 增量复制:Master继续将新的所有收集到的修改命令依次传给slave,完成同步
- 但是只要是重新连接master,一次完全同步(全量复制)将被自动执行
9、哨兵模式(sentinel)
1、是什么
- 能够后台监控主机是否故障,如果故障了根据投票数自动将从库转换为主库
2、配置步骤
/myredis目录下新建sentinel.conf文件,名字绝不能错
配置哨兵,填写内容
shsentinel monitor mymaster 127.0.0.1 6379 1
其中mymaster为监控对象起的服务器名称, 1 为至少有多少个哨兵同意迁移的数量。
启动哨兵
sh/usr/local/bin 目录下有 redis-sentinel # 输入以下命令启动即可 redis-sentinel /myredis/sentinel.conf
杀掉主机,当主机挂掉,从机选举中产生新的主机
(大概10秒左右可以看到哨兵窗口日志,切换了新的主机)
哪个从机会被选举为主机呢?根据优先级别:slave-priority
原主机重启后会变为从机。
3、复制延时
由于所有的写操作都是先在Master上操作,然后同步更新到Slave上,所以从Master同步到Slave机器有一定的延迟,当系统很繁忙的时候,延迟问题会更加严重,Slave机器数量的增加也会使这个问题更加严重。
10、故障恢复
优先级在redis.conf中默认:slave-priority 100,值越小优先级越高
偏移量是指获得原主机数据最全的
每个redis实例启动后都会随机生成一个40位的runid
11、主从复制
java
private static JedisSentinelPool jedisSentinelPool = null;
public static Jedis getJedisFromSentinel() {
if (jedisSentinelPool == null) {
Set<String> sentinelSet = new HashSet<>();
sentinelSet.add("192.168.11.103:26379");
JedisPoolConfig jedisPoolConfig = new JedisPoolConfig();
jedisPoolConfig.setMaxTotal(10); //最大可用连接数
jedisPoolConfig.setMaxIdle(5); //最大闲置连接数
jedisPoolConfig.setMinIdle(5); //最小闲置连接数
jedisPoolConfig.setBlockWhenExhausted(true); //连接耗尽是否等待
jedisPoolConfig.setMaxWaitMillis(2000); //等待时间
jedisPoolConfig.setTestOnBorrow(true); //取连接的时候进行一下测试 ping pong
jedisSentinelPool = new JedisSentinelPool("mymaster", sentinelSet, jedisPoolConfig);
return jedisSentinelPool.getResource();
} else {
return jedisSentinelPool.getResource();
}
}
2、Redis集群
1、什么是集群
- Redis 集群实现了对Redis的水平扩容,即启动N个redis节点,将整个数据库分布存储在这N个节点中,每个节点存储总数据的1/N。
- Redis 集群通过分区(partition)来提供一定程度的可用性(availability): 即使集群中有一部分节点失效或者无法进行通讯, 集群也可以继续处理命令请求。
2、删除持久化数据
- 将rdb,aof文件都删除掉。
3、制作6个实例
- 配置基本信息
- 开启daemonize yes
- Pid文件名字
- 指定端口
- Log文件名字
- Dump.rdb名字
- Appendonly 关掉或者换名字
4、redis cluster配置修改
cluster-enabled yes 打开集群模式
cluster-config-file nodes-6379.conf 设定节点配置文件名
cluster-node-timeout 15000 设定节点失联时间,超过该时间(毫秒),集群自动进行主从切换。
mkdir -p /myredis/redis_cluster
sh
# 其他实例仿照就行
include /myredis/redis.conf
port 6379
pidfile "/var/run/redis_6379.pid"
dbfilename "dump6379.rdb"
dir "/myredis/redis_cluster"
logfile "/myredis/redis_cluster/redis_err_6379.log"
cluster-enabled yes
cluster-config-file nodes-6379.conf
cluster-node-timeout 15000
5、启动6个redis服务
sh
redis-server /myredis/redis6379.conf
redis-server /myredis/redis6380.conf
redis-server /myredis/redis6381.conf
redis-server /myredis/redis6389.conf
redis-server /myredis/redis6390.conf
redis-server /myredis/redis6391.conf
6、将六个节点合成一个集群
- 组合之前,请确保所有redis实例启动后,nodes-xxxx.conf文件都生成正常。
1、合体
- 此处不要用127.0.0.1, 请用真实IP地址
sh
redis-cli --cluster create --cluster-replicas 1 42.193.37.228:6379 42.193.37.228:6380 42.193.37.228:6381 42.193.37.228:6389 42.193.37.228:6390 42.193.37.228:6391
- --replicas 1 采用最简单的方式配置集群,一台主机,一台从机,正好三组。
普通方式登录
可能直接进入读主机,存储数据时,会出现MOVED重定向操作。所以,应该以集群方式登录。 -
-c 采用集群策略连接,设置数据会自动切换到相应的写主机
通过 cluster nodes 命令查看集群信息
redis cluster 如何分配这六个节点?
一个集群至少要有三个主节点。
选项 --cluster-replicas 1 表示我们希望为集群中的每个主节点创建一个从节点。
分配原则尽量保证每个主数据库运行在不同的IP地址,每个从库和主库不在一个IP地址上。
7、什么是slots
- 一个 Redis 集群包含 16384 个插槽(hash slot), 数据库中的每个键都属于这 16384 个插槽的其中一个
- 集群使用公式 CRC16(key) % 16384 来计算键 key 属于哪个槽, 其中 CRC16(key) 语句用于计算键 key 的 CRC16 校验和 。
- 集群中的每个节点负责处理一部分插槽。 举个例子, 如果一个集群可以有主节点, 其中:
- 节点 A 负责处理 0 号至 5460 号插槽。
- 节点 B 负责处理 5461 号至 10922 号插槽。
- 节点 C 负责处理 10923 号至 16383 号插槽。
8、 查询集群中的值
sh
CLUSTER GETKEYSINSLOT <slot><count> 返回 count 个 slot 槽中的键。
9、故障恢复
如果主节点下线?从节点能否自动升为主节点?注意:15秒超时
主节点恢复后,主从关系会如何?主节点回来变成从机。
如果所有某一段插槽的主从节点都宕掉,redis服务是否还能继续?
如果某一段插槽的主从都挂掉,而cluster-require-full-coverage 为yes ,那么 ,整个集群都挂掉
如果某一段插槽的主从都挂掉,而cluster-require-full-coverage 为no ,那么,该插槽数据全都不能使用,也无法存储。
redis.conf中的参数 cluster-require-full-coverage