平时在面试中你肯定会经常碰见的问题就是:RocketMQ 为什么快?Kafka 为什么快?什么是 mmap?
这一类的问题都逃不过的一个点就是零拷贝,虽然还有一些其他的原因,但是今天我们的话题主要就是零拷贝。

在开始谈零拷贝之前,首先要对传统的 IO 方式有一个概念。基于传统的 IO 方式,底层实际上通过调用 read() 和 write() 来实现。
通过 read() 把数据从硬盘读取到内核缓冲区,再复制到用户缓冲区;然后再通过 write() 写入到 socket 缓冲区,最后写入网卡设备。

整个过程发生了 4 次用户态和内核态的上下文切换和 4 次拷贝,具体流程如下:
那么,这里指的用户态、内核态指的是什么?上下文切换又是什么?
简单来说,用户空间指的就是用户进程的运行空间,内核空间就是内核的运行空间。如果进程运行在内核空间就是内核态,运行在用户空间就是用户态。为了安全起见,他们之间是互相隔离的,而在用户态和内核态之间的上下文切换也是比较耗时的。从上面我们可以看到,一次简单的 IO 过程产生了 4 次上下文切换,这个无疑在高并发场景下会对性能产生较大的影响。
那么什么又是 DMA 拷贝呢?
因为对于一个 IO 操作而言,都是通过 CPU 发出对应的指令来完成,但是相比 CPU 来说,IO 的速度太慢了,CPU 有大量的时间处于等待 IO 的状态。因此就产生了 DMA(Direct Memory Access)直接内存访问技术,本质上来说他就是一块主板上独立的芯片,通过它来进行内存和 IO 设备的数据传输,从而减少 CPU 的等待时间。但是无论谁来拷贝,频繁的拷贝耗时也是对性能的影响。
零拷贝是指计算机执行操作时,CPU 不需要先将数据从某处内存复制到另一个特定区域,这种技术通常用于通过网络传输文件时节省 CPU 周期和内存带宽。那么对于零拷贝而言,并非真的是完全没有数据拷贝的过程,只不过是减少用户态和内核态的切换次数以及 CPU 拷贝的次数。这里,仅仅有针对性的来谈谈几种常见的零拷贝技术。

mmap + write 简单来说就是使用 mmap 替换了 read + write 中的 read 操作,减少了一次 CPU 的拷贝。mmap 主要实现方式是将读缓冲区的地址和用户缓冲区的地址进行映射,内核缓冲区和应用缓冲区共享,从而减少了从读缓冲区到用户缓冲区的一次 CPU 拷贝。
整个过程发生了 4 次用户态和内核态的上下文切换和 3 次拷贝,具体流程如下:
mmap 的方式节省了一次 CPU 拷贝,同时由于用户进程中的内存是虚拟的,只是映射到内核的读缓冲区,所以可以节省一半的内存空间,比较适合大文件的传输。

相比 mmap 来说,sendfile 同样减少了一次 CPU 拷贝,而且还减少了 2 次上下文切换。
sendfile 是 Linux 2.1 内核版本后引入的一个系统调用函数,通过使用 sendfile 数据可以直接在内核空间进行传输,因此避免了用户空间和内核空间的拷贝,同时由于使用 sendfile 替代了 read + write 从而节省了一次系统调用,也就是 2 次上下文切换。

整个过程发生了 2 次用户态和内核态的上下文切换和 3 次拷贝,具体流程如下:

sendfile + DMA Scatter/Gather
Linux 2.4 内核版本之后对 sendfile 做了进一步优化,通过引入新的硬件支持,这个方式叫做 DMA Scatter/Gather。它将读缓冲区中的数据描述信息(内存地址和偏移量)记录到 socket 缓冲区,由 DMA 根据这些将数据从读缓冲区拷贝到网卡,相比之前版本减少了一次 CPU 拷贝的过程
整个过程发生了 2 次用户态和内核态的上下文切换和 2 次拷贝,其中更重要的是完全没有 CPU 拷贝,具体流程如下:
DMA gather 和 sendfile 一样数据对用户空间不可见,而且需要硬件支持,同时输入文件描述符只能是文件,但是过程中完全没有 CPU 拷贝过程,极大提升了性能。
对于文章开头说的两个场景:RocketMQ 和 Kafka 都使用到了零拷贝的技术。
对于 MQ 而言,无非就是生产者发送数据到 MQ 然后持久化到磁盘,之后消费者从 MQ 读取数据。
对于 RocketMQ 来说这两个步骤使用的是 mmap + write,而 Kafka 则是使用 mmap + write 持久化数据,发送数据使用 sendfile。