看一遍就理解：零拷贝详解
Python涨薪研究所
共 6456字，需浏览 13分钟
·
2022-01-03 03:05
源 / 文/
前言
1.什么是零拷贝
“拷贝”：就是指数据从一个存储区域转移到另一个存储区域。 “零” ：表示次数为0，它表示拷贝数据的次数为0。
零拷贝是指计算机执行IO操作时，CPU不需要将数据从一个存储区域复制到另一个存储区域，从而可以减少上下文切换以及CPU的拷贝时间。它是一种 I/O操作优化技术。
2. 传统 IO 的执行流程
while((n = read(diskfd, buf, BUF_SIZE)) > 0)
write(sockfd, buf , n);
read：把数据从磁盘读取到内核缓冲区，再拷贝到用户缓冲区write：先把数据写入到socket缓冲区，最后写入网卡设备。
用户应用进程调用read函数，向操作系统发起IO调用，上下文从用户态转为内核态（切换1） DMA控制器把数据从磁盘中，读取到内核缓冲区。 CPU把内核缓冲区数据，拷贝到用户应用缓冲区，上下文从内核态转为用户态（切换2），read函数返回 用户应用进程通过write函数，发起IO调用，上下文从用户态转为内核态（切换3） CPU将用户缓冲区中的数据，拷贝到socket缓冲区 DMA控制器把数据从socket缓冲区，拷贝到网卡设备，上下文从内核态切换回用户态（切换4），write函数返回
3. 零拷贝相关的知识点回顾
3.1 内核空间和用户空间
内核空间：主要提供进程调度、内存分配、连接硬件资源等功能 用户空间：提供给各个程序进程的空间，它不具有访问内核空间资源的权限，如果应用程序需要使用到内核空间的资源，则需要通过系统调用来完成。进程从用户空间切换到内核空间，完成相关操作后，再从内核空间切换回用户空间。
3.2 什么是用户态、内核态
如果进程运行于内核空间，被称为进程的内核态 如果进程运行于用户空间，被称为进程的用户态。
3.3 什么是上下文切换
什么是CPU上下文？
CPU 寄存器，是CPU内置的容量小、但速度极快的内存。而程序计数器，则是用来存储 CPU 正在执行的指令位置、或者即将执行的下一条指令位置。它们都是 CPU 在运行任何任务前，必须的依赖环境，因此叫做CPU上下文。
什么是CPU上下文切换？
它是指，先把前一个任务的CPU上下文（也就是CPU寄存器和程序计数器）保存起来，然后加载新任务的上下文到这些寄存器和程序计数器，最后再跳转到程序计数器所指的新位置，运行新任务。
CPU 寄存器里原来用户态的指令位置，需要先保存起来。接着，为了执行内核态代码，CPU 寄存器需要更新为内核态指令的新位置。最后才是跳转到内核态运行内核任务。
3.4 虚拟内存
虚拟内存空间可以远远大于物理内存空间 多个虚拟内存可以指向同一个物理地址
3.5 DMA技术
用户应用进程调用read函数，向操作系统发起IO调用，进入阻塞状态，等待数据返回。 CPU收到指令后，对DMA控制器发起指令调度。 DMA收到IO请求后，将请求发送给磁盘； 磁盘将数据放入磁盘控制缓冲区，并通知DMA DMA将数据从磁盘控制器缓冲区拷贝到内核缓冲区。 DMA向CPU发出数据读完的信号，把工作交换给CPU，由CPU负责将数据从内核缓冲区拷贝到用户缓冲区。 用户应用进程由内核态切换回用户态，解除阻塞状态
主要就是效率，它帮忙CPU做事情，这时候，CPU就可以闲下来去做别的事情，提高了CPU的利用效率。大白话解释就是，CPU老哥太忙太累啦，所以他找了个小弟（名叫DMA） ，替他完成一部分的拷贝工作，这样CPU老哥就能着手去做其他事情。
4. 零拷贝实现的几种方式
mmap+write sendfile 带有DMA收集拷贝功能的sendfile
4.1 mmap+write实现的零拷贝
void *mmap(void *addr, size_t length, int prot, int flags, int fd, off_t offset);
addr：指定映射的虚拟内存地址 length：映射的长度 prot：映射内存的保护模式 flags：指定映射的类型 fd:进行映射的文件句柄 offset:文件偏移量
mmap+write实现的零拷贝流程如下：
用户进程通过 mmap方法向操作系统内核发起IO调用，上下文从用户态切换为内核态。CPU利用DMA控制器，把数据从硬盘中拷贝到内核缓冲区。 上下文从内核态切换回用户态，mmap方法返回。 用户进程通过 write方法向操作系统内核发起IO调用，上下文从用户态切换为内核态。CPU将内核缓冲区的数据拷贝到的socket缓冲区。 CPU利用DMA控制器，把数据从socket缓冲区拷贝到网卡，上下文从内核态切换回用户态，write调用返回。
mmap+write实现的零拷贝，I/O发生了4次用户空间与内核空间的上下文切换，以及3次数据拷贝。其中3次数据拷贝中，包括了2次DMA拷贝和1次CPU拷贝。mmap是将读缓冲区的地址和用户缓冲区的地址进行映射，内核缓冲区和应用缓冲区共享，所以节省了一次CPU拷贝‘’并且用户进程内存是虚拟的，只是映射到内核的读缓冲区，可以节省一半的内存空间。4.2 sendfile实现的零拷贝
sendfile是Linux2.1内核版本后引入的一个系统调用函数，API如下：ssize_t sendfile(int out_fd, int in_fd, off_t *offset, size_t count);
out_fd:为待写入内容的文件描述符，一个socket描述符。， in_fd:为待读出内容的文件描述符，必须是真实的文件，不能是socket和管道。 offset：指定从读入文件的哪个位置开始读，如果为NULL，表示文件的默认起始位置。 count：指定在fdout和fdin之间传输的字节数。
用户进程发起sendfile系统调用，上下文（切换1）从用户态转向内核态 DMA控制器，把数据从硬盘中拷贝到内核缓冲区。 CPU将读缓冲区中数据拷贝到socket缓冲区 DMA控制器，异步把数据从socket缓冲区拷贝到网卡， 上下文（切换2）从内核态切换回用户态，sendfile调用返回。
sendfile实现的零拷贝，I/O发生了2次用户空间与内核空间的上下文切换，以及3次数据拷贝。其中3次数据拷贝中，包括了2次DMA拷贝和1次CPU拷贝。那能不能把CPU拷贝的次数减少到0次呢？有的，即带有DMA收集拷贝功能的sendfile！4.3 sendfile+DMA scatter/gather实现的零拷贝
sendfile做了优化升级，引入SG-DMA技术，其实就是对DMA拷贝加入了scatter/gather操作，它可以直接从内核空间缓冲区中将数据读取到网卡。使用这个特点搞零拷贝，即还可以多省去一次CPU拷贝。
用户进程发起sendfile系统调用，上下文（切换1）从用户态转向内核态 DMA控制器，把数据从硬盘中拷贝到内核缓冲区。 CPU把内核缓冲区中的文件描述符信息（包括内核缓冲区的内存地址和偏移量）发送到socket缓冲区 DMA控制器根据文件描述符信息，直接把数据从内核缓冲区拷贝到网卡 上下文（切换2）从内核态切换回用户态，sendfile调用返回。
sendfile+DMA scatter/gather实现的零拷贝，I/O发生了2次用户空间与内核空间的上下文切换，以及2次数据拷贝。其中2次数据拷贝都是包DMA拷贝。这就是真正的 零拷贝（Zero-copy) 技术，全程都没有通过CPU来搬运数据，所有的数据都是通过DMA来进行传输的。5. java提供的零拷贝方式
Java NIO对mmap的支持 Java NIO对sendfile的支持
5.1 Java NIO对mmap的支持
MappedByteBuffer的类，可以用来实现内存映射。它的底层是调用了Linux内核的mmap的API。public class MmapTest {
public static void main(String[] args) {
try {
FileChannel readChannel = FileChannel.open(Paths.get("./jay.txt"), StandardOpenOption.READ);
MappedByteBuffer data = readChannel.map(FileChannel.MapMode.READ_ONLY, 0, 1024 * 1024 * 40);
FileChannel writeChannel = FileChannel.open(Paths.get("./siting.txt"), StandardOpenOption.WRITE, StandardOpenOption.CREATE);
//数据传输
writeChannel.write(data);
readChannel.close();
writeChannel.close();
}catch (Exception e){
System.out.println(e.getMessage());
}
}
}
5.2 Java NIO对sendfile的支持
transferTo()/transferFrom()，底层就是sendfile() 系统调用函数。Kafka 这个开源项目就用到它，平时面试的时候，回答面试官为什么这么快，就可以提到零拷贝sendfile这个点。@Override
public long transferFrom(FileChannel fileChannel, long position, long count) throws IOException {
return fileChannel.transferTo(position, count, socketChannel);
}
public class SendFileTest {
public static void main(String[] args) {
try {
FileChannel readChannel = FileChannel.open(Paths.get("./jay.txt"), StandardOpenOption.READ);
long len = readChannel.size();
long position = readChannel.position();
FileChannel writeChannel = FileChannel.open(Paths.get("./siting.txt"), StandardOpenOption.WRITE, StandardOpenOption.CREATE);
//数据传输
readChannel.transferTo(position, len, writeChannel);
readChannel.close();
writeChannel.close();
} catch (Exception e) {
System.out.println(e.getMessage());
}
}
}
END
顶级程序员：topcoding
做最好的程序员社区：Java后端开发、Python、大数据、AI
一键三连「分享」、「点赞」和「在看」
评论