Redis具有高可靠性,体现在两方面:
一是数据尽量少丢失,通过前面介绍的持久化方式AOF和RDB,在宕机时可以恢复数据。
二是服务尽量少中断,通过副本冗余来实现。
今天我们学习的就是通过主从复制实现副本冗余,从而实现Redis的高可靠性。
什么是主从复制Redis提供主从库模式,保证数据副本的一致,主从库之间采用的是读写分离的方式。
为什么要读写分离?如果允许所有节点能够处理读写请求,就需要解决加锁、实例间协商、数据同步等操作,会带来巨额的开销。
因此采用主从库模式时,要配置主库只写,从库只读。
主从库如何进行第一次同步?当设置了主从库模式,此时从库是空的,如何进行主从库的第一次同步呢?
Redis采用全量复制来进行第一次同步,具体有三个步骤,如下图所示:
第一步,主从库建立连接,协商同步。
从库发送psync命令,表示进行数据同步。其中runID表示主库ID,第一次不知道主库的runID,就设置为"?"
主库收到psync命令后,用FULLRESYNC响应,返回runID(主库ID)和offset(主库目前的复制进度)。
从库收到响应后,记录这两个参数
第二步:主库同步数据给从库。
从库收到数据后,在本地完成数据加载。这过程依赖于RDB快照。
主库执行bgsave命令,生成RDB文件,再把文件发强从库。
从库收到RDB文件后,先清空当前数据库,然后加载RDB文件。
第三步,主库发送新写命令给从库
主库在数据同步过程中,会记录所有写操作,避免丢失同步过程接收的新的写命令。
主库使用replication buffer来新的写命令。
当从库加载RDB文件完成后,主库再把replication buffer的内容发送给从库,从库再执行这些操作实现同步。
关于replication buffer的更多内容,下面再介绍。
如果有多个从库,每个从库都要跟主库进行全量同步,这样主库的压力会很大。
主从级联模式Redis提供“主-从-从”模式将主库生成RDB和传输RDB的压力,以级联的方式分散到从库上。
简单来说,构建父子从库结构,子从库的数据同步从父从库获取。如下图所示:
在从库上执行命令:replicaof 所选从库的IP 6379,就可以设置从库的父从库了。
至此,主从库完成了第一次同步,那后续如何保持同步呢?
如何保持同步?当主从库完成同步后,会维护一个网络连接,主库会通过这个连接将后续的命令同步给从库。
但是这里有潜在的风险点:如果网络断连或者出现阻塞了,那怎么办呢?
主从库间网络断了怎么办?在Redis 2.8之前,网络断了后要重新进行全量复制。但在Redis 2.8之后,Redis提供了增量复制的方式。
当建立了主从结构后,主库会把写命令写入repl_backlog_buffer缓冲区里,当网络断开并重新连接后,从库会发送同步命令,然后主库再把未同步的命令发送给从库,从库执行这些命令就恢复数据一致了。具体流程如下图所示:
repl_backlog_buffer是一个环形缓冲区,如下图所示:
由于其环形结构,当因为网络问题影响从库读取命令的速度,会出现写满后继续写入命令时,会覆盖掉从库还没读的内容,从而造成数据不一致,需要重新全量复制。
因此要根据情况来设置repl_backlog_buffer的大小,通过配置repl_backlog_size来调整缓冲区大小。配置公式为:缓冲空间大小 = 主库写入命令速度 * 操作大小 - 主从库间网络传输命令速度 * 操作大小。而repl_backlog_size= 缓冲空间 * 2。
例如主库写操作2000/秒,每个操作大小2KB,网络传输1000个操作/秒,那缓冲空间大小=2000*2 - 1000*2=2MB,那repl_backlog_size就设置为4MB。
拓展为什么主库间的数据复制同步不使用AOF?
有三方面原因:
RDB文件是经过二进制压缩的,文件很小,这样主从库间传输就很快。
从库加载RDB文件速度很快,而AOF日志还要逐行命令执行,速度很慢。
假设使用AOF,那就必须打开AOF,Redis默认是不开启AOF的,可能会影响Redis性能。
关于replication buffer
每个与Redis通信的客户端(从库也算client),都会分配一个buffer,所有数据交互都是通过这个buffer进行的。
Redis先把数据写到这个buffer中,然后再把buffer中的数据发到client的socket中,通过网络发送出去,完成数据交互。
而主从同步的这个buffer,是用于保证主从数据一致的,所以才叫它replication buffer。