0%

redis05_事件处理器

redis线程IO模型

概述

Redis服务器是一个单线程事件驱动程序,服务器需要处理以下两类事件:

  1. 文件事件,服务器与客户端通信,会产生相应的文件事件。
  2. 事件事件,服务器一些操作需要在给定时间执行。

文件事件

Redis基于Reactor模式开发了自己的网络事件处理器:这个处理器被称为文件事件处理器:

  • 文件事件处理器使用I/O多路复用程序来同时监听多个套接字,并为套接字关联不同的事件处理器
  • 当被监听的套接字准备好执行连接应答、读取、写入、关闭等操作时,与操作相对应的文件事件就会产生,这时文件事件处理器就会调用套接字之前关联好的事件处理器来处理这些事件。

TODO Reactor模式是网络编程常用的模式,需要了解。

文件事件处理器的构成

文件事件处理器有四个组成部分,套接字、I/O多路复用程序、文件事件分派器,以及事件处理器。

多个文件事件可能会并发地出现,但I/O多路复用程序总是会将所有产生事件的套接字都放到一个队列里面,然后通过这个队列,以有序、同步、每次一个套接字的方式向文件事件分派器传送套接字。当上一个套接字产生的事件处理完毕之后,多路复用程序才会继续传送下一个套接字。

I/O多路复用程序的实现

I/O多路复用程序的所有功能都是通过包装常见的select、epoll、evport这些I/O多路复用函数来实现的。

程序在编译时自动选择系统中性能最高的I/O多路复用函数来作为Redis的底层实现

ps : select epoll 等命令是由操作系统底层实现的,深入了解需要从LinuxI/O模型入手。

事件类型

I/O多路复用程序允许服务器同时监听套接字的AE_READABLE事件和AE_WRITABLE事件,如果一个套接字同时出现了这两个事件,服务器会先处理AE_READABLE事件再处理AE_WRITABLE事件。

文件事件的处理器

文件事件派分器会根据不同的命令请求,关联不同的处理器。

  • 连接应答处理器
  • 命令请求处理器
  • 命令回复处理器
  • 复制处理器,当主从服务器进行复制

连接应答处理器

当redis启动时,程序会将连接应答处理器和服务器监听套接字的AE_READBALE事件关联,当客户端连接服务器套接字的时候,会由连接应答处理器执行相关操作,并初始化客户端套接字。

命令请求处理器

当一个客户端成功连接到服务器以后,服务器会将客户端套接字的AE_READABLE事件和命令请求处理器关联,并且在客户端连接服务器的整个过程中,服务器会一直为客户端套接字的AE_READABLE关联请求命令处理器。

命令回复处理器

当服务器有命令回复需要传送给客户端的时候,服务器会将客户端套接字的AE_WRITABLE事件和命令回复处理器关联起来。当客户端产生AE_WRITABLE事件,服务端会将数据写入,然后解除命令回复处理器和客户端套接字的AE_WRITABLE事件之间的关联。

一次完整的客户端与服务器连接示例

  1. 连接服务器 客户端连接服务器套接字,产生AE_READBALE事件,连接应答处理器会对请求进行应答并创建客户端套接字,将客户端套接字AE_READABLE事件和命令请求处理器关联。
  2. 发送请求
  3. 命令回复 服务器执行完请求命令,获取到请求结果后,服务器会将客户端套接字的AE_WRITABLE事件和命令回复处理器关联起来当客户端尝试读取命令回复的时候,会产生AE_WRITABLE事件,服务端会将数据写入,然后解除命令回复处理器和客户端套接字的AE_WRITABLE事件之间的关联

时间事件

时间事件主要由以下3个属性构成

  1. id,服务器为时间事件创建的全局唯一ID
  2. when,UNIX时间戳,记录了时间事件的到达时间
  3. timeProc,时间事件处理器,一个函数,当事件到达时,服务器调用相应的timeProc处理事件。

Redis时间事件分为两类,根据时间处理器的返回值判断一个时间事件是哪一类

  1. 定时事件,返回为AE_NOMORE,该事件到达一次后删除。
  2. 周期事件,不为AE_NOMORE,到达后更新when属性,使它下次再次到达。

实现

服务器将所有时间事件都放在一个无序列表中,每当时间执行器运行时,它就遍历链表,对已经到达的时间事件进行处理。

无序链表不会影响性能
因为redis时间事件很少,正常只有一个serverCron函数,benchmark模式下也只有两个,链表几乎退化成一个指针使用。

事件调度与执行

事件调度和执行由aeProcessEvents()函数负责,伪代码如下:

1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
def aeProcessEvents():
# 获取到达时间离当前时间最接近的时间事件
time_event = aeSearchNearestTimer()
# 计算最接近的时间事件距离到达还有多少毫秒
remaind_ms = time_event.when - unix_ts_now()
# 如果事件已到达,那么 remaind_ms 的值可能为负数,将它设为 0
if remaind_ms < 0:
remaind_ms = 0
# 根据 remaind_ms 的值,创建 timeval
timeval = create_timeval_with_ms(remaind_ms)
# 阻塞并等待文件事件产生,最大阻塞时间由传入的 timeval 决定
aeApiPoll(timeval)
# 处理所有已产生的文件事件
procesFileEvents()
# 处理所有已到达的时间事件
processTimeEvents()

从事件处理角度看,Redis服务器运行流程如下图

serverCron函数

serverCron函数默认每隔100毫秒执行一次,用于执行一些维护操作。

更新服务器时间缓存

更新LRU时钟

一个对象的空转时间为 服务器的LRU时钟 - 对象lru属性记录的时间。

更新服务器每秒执行命令次数

更新服务器内存峰值记录

处理SIGTERM信号

当要关闭服务器时,关闭之前会进行持久化操作。

管理客户端资源

  1. 检查客户端与服务器之间的链接是否超时,超时则释放超时链接。
  2. 如果客户端在上一次执行命令之后,输入缓冲区的大小超过一定长度,服务器会释放当前输入缓冲区,并创建一个默认大小的输入缓冲区,防止输入缓冲区过大耗费内存。

管理数据库资源(删除过期键)

执行被延迟的BGWRITEAOF

检查持久化操作的运行状态

如果持久化已经完成,则执行相应维护逻辑。持久化未完成,不做操作。

将AOF缓冲区写入AOF文件

关闭异步客户端

增加cronloops计数器的值

记录当前serverCron执行次数