mmap原理

·  阅读 490

认真分析mmap:是什么 为什么 怎么用

  • 等6.S081的lab做完后回来继续做这个总结.

——参考(www.cnblogs.com/huxiao-tee/…)

mmap基础概念

mmap是一种内存映射文件的方法,即将一个文件或者其它对象映射到进程的地址空间实现文件磁盘地址和进程虚拟地址空间中一段虚拟地址的一一对映关系。实现这样的映射关系后,进程就可以采用指针的方式读写操作这一段内存,而系统会自动回写脏页面到对应的文件磁盘上,即完成了对文件的操作而不必再调用read,write等系统调用函数。相反,内核空间对这段区域的修改也直接反映用户空间,从而可以实现不同进程间的文件共享。如下图所示:

image-20210508150229297

由上图可以看出,进程的虚拟地址空间,由多个虚拟内存区域构成。虚拟内存区域是进程的虚拟地址空间中的一个同质区间,即具有同样特性的连续地址范围。上图中所示的text数据段(代码段)、初始数据段、BSS数据段、堆、栈和内存映射,都是一个独立的虚拟内存区域。而为内存映射服务的地址空间处在堆栈之间的空余部分

linux内核使用vm_area_struct结构来表示一个独立的虚拟内存区域,由于每个不同质的虚拟内存区域功能和内部机制都不同,因此一个进程使用多个vm_area_struct结构来分别表示不同类型的虚拟内存区域。各个vm_area_struct结构使用链表或者树形结构链接,方便进程快速访问,如下图所示:

image-20210508150425738

vm_area_struct结构中包含区域起始和终止地址以及其他相关信息,同时也包含一个vm_ops指针,其内部可引出所有针对这个区域可以使用的系统调用函数。这样,进程对某一虚拟内存区域的任何操作需要用要的信息,都可以从vm_area_struct中获得mmap函数就是要创建一个新的vm_area_struct结构,并将其与文件的物理磁盘地址相连。具体步骤请看下一节。

mmap内存映射原理

mmap内存映射的实现过程,总的来说可以分为三个阶段:

(一)进程启动映射过程,并在虚拟地址空间中为映射创建虚拟映射区域

1、进程在用户空间调用库函数mmap,原型:

 void *mmap(void *start, size_t length, int prot, int flags, int fd, off_t offset);
复制代码

2、在当前进程的虚拟地址空间中,寻找一段空闲的满足要求的连续的虚拟地址

3、为此虚拟区分配一个vm_area_struct结构,接着对这个结构的各个域进行了初始化

4、将新建的虚拟区结构(vm_area_struct)插入进程的虚拟地址区域链表或树中

(二)调用内核空间的系统调用函数mmap(不同于用户空间函数),实现文件物理地址和进程虚拟地址的一一映射关系

5、为映射分配了新的虚拟地址区域后,通过待映射的文件指针,在文件描述符表中找到对应的文件描述符,通过文件描述符,链接到内核“已打开文件集”中该文件的文件结构体(struct file),每个文件结构体维护着和这个已打开文件相关各项信息。

6、通过该文件的文件结构体,链接到file_operations模块,调用内核函数mmap,其原型为:

 int mmap(struct file *filp, struct vm_area_struct *vma)
复制代码

不同于用户空间库函数。

7、内核mmap函数通过虚拟文件系统inode模块定位到文件磁盘物理地址

8、通过remap_pfn_range函数建立页表,即实现了文件地址和虚拟地址区域的映射关系此时,这片虚拟地址并没有任何数据关联到主存中。

(三)进程发起对这片映射空间的访问,引发缺页异常,实现文件内容到物理内存(主存)的拷贝

注:前两个阶段仅在于创建虚拟区域并完成地址映射,但是并没有将任何文件数据的拷贝至主存。真正的文件读取是当进程发起读或写操作时

9、进程的读或写操作访问虚拟地址空间这一段映射地址,通过查询页表,发现这一段地址并不在物理页面上。因为目前只建立了地址映射,真正的硬盘数据还没有拷贝到内存中,因此引发缺页异常

10、缺页异常进行一系列判断,确定无非法操作后内核发起请求调页过程

11、调页过程先在交换缓存空间(swap cache)中寻找需要访问的内存页,如果没有则调用nopage函数把所缺的页从磁盘装入到主存中。

12、之后进程即可对这片主存进行读或者写的操作,如果写操作改变了其内容,一定时间后系统会自动回写脏页面到对应磁盘地址,也即完成了写入到文件的过程

注:修改过的脏页面并不会立即更新回文件中,而是有一段时间的延迟,可以调用msync()来强制同步, 这样所写的内容就能立即保存到文件里了。

mmap和常规文件操作的区别

对linux文件系统不了解的朋友,请参阅我之前写的博文《从内核文件系统看文件读写过程》,我们首先简单的回顾一下常规文件系统操作(调用read/fread等类函数)中,函数的调用过程:

1、进程发起读文件请求。

2、内核通过查找进程文件符表,定位到内核已打开文件集上的文件信息,从而找到此文件的inode

3、inodeaddress_space查找要请求的文件页是否已经缓存在页缓存中。如果存在,则直接返回这片文件页的内容。

4、如果不存在,则通过inode定位到文件磁盘地址将数据从磁盘复制到页缓存。之后再次发起读页面过程,进而将页缓存中的数据发给用户进程。

总结来说:

  • 常规文件操作为了提高读写效率和保护磁盘,使用了页缓存机制。这样造成读文件时需要先将文件页从磁盘拷贝到页缓存中,由于页缓存处在内核空间不能被用户进程直接寻址,所以还需要将页缓存中数据页再次拷贝到内存对应的用户空间中。这样,通过了两次数据拷贝过程,才能完成进程对文件内容的获取任务。操作也是一样,待写入的buffer在内核空间不能直接访问,必须要先拷贝至内核空间对应的主存再写回磁盘中(延迟写回),也是需要两次数据拷贝
  • 而使用mmap操作文件中,创建新的虚拟内存区域和建立文件磁盘地址和虚拟内存区域映射这两步,没有任何文件拷贝操作。而之后访问数据时发现内存中并无数据而发起的缺页异常过程,可以通过已经建立好的映射关系,只使用一次数据拷贝,就从磁盘中将数据传入内存的用户空间中,供进程使用

总而言之,常规文件操作需要从磁盘到页缓存再到用户主存的两次数据拷贝。而mmap操控文件,只需要从磁盘到用户主存的一次数据拷贝过程。 说白了,mmap的关键点是实现了用户空间和内核空间的数据直接交互而省去了空间不同数据不通的繁琐过程。因此mmap效率更高

mmap优点总结

由上文讨论可知,mmap优点共有一下几点:

1、对文件的读取操作跨过了页缓存,减少了数据的拷贝次数,用内存读写取代I/O读写,提高了文件读取效率

2、实现了用户空间和内核空间的高效交互方式两空间的各自修改操作可以直接反映在映射的区域内,从而被对方空间及时捕捉

3、提供进程间共享内存及相互通信的方式。不管是父子进程还是无亲缘关系的进程,都可以将自身用户空间映射到同一个文件或匿名映射到同一片区域。从而通过各自对映射区域的改动,达到进程间通信和进程间共享的目的

同时,如果进程A和进程B都映射了区域C,当A第一次读取C时通过缺页从磁盘复制文件页到内存中;但当B再读C的相同页面时,虽然也会产生缺页异常,但是不再需要从磁盘中复制文件过来,而可直接使用已经保存在内存中的文件数据。

4、可用于实现高效的大规模数据传输。内存空间不足,是制约大数据操作的一个方面,解决方案往往是借助硬盘空间协助操作,补充内存的不足。但是进一步会造成大量的文件I/O操作,极大影响效率。这个问题可以通过mmap映射很好的解决。换句话说,但凡是需要用磁盘空间代替内存的时候,mmap都可以发挥其功效

mmap函数

函数原型

 void *mmap(void *start, size_t length, int prot, int flags, int fd, off_t offset);
 // 将fd文件的offset偏移开始的length字节映射到用户空间的start数组中
复制代码

返回说明

成功执行时,mmap()返回被映射区的指针。失败时,mmap()返回MAP_FAILED[其值为(void *)-1].

参数

start:——映射的虚拟地址空间的起始地址,如果是NULL,则由内核帮你分配

prot:——映射的虚拟内存区域的访问权限位

 1 PROT_EXEC :页内容可以被执行
 2 PROT_READ :页内容可以被读取
 3 PROT_WRITE :页可以被写入
 4 PROT_NONE :页不可访问
复制代码

flags——映射对象的类型,映射选项和映射页是否可以共享

  2 MAP_SHARED //与其它所有映射这个对象的进程共享映射空间。对共享区的写入,相当于输出到文件。直到msync()或者munmap()被调用,文件实际上不会被更新。
      
  3 MAP_PRIVATE //建立一个写入时拷贝的私有映射。内存区域的写入不会影响到原文件。这个标志和以上标志是互斥的,只能使用其中一个。
 ​
  9 MAP_ANONYMOUS //匿名映射,映射区不与任何文件关联。
  10 MAP_ANON //MAP_ANONYMOUS的别称,不再被使用。
  
  //等等...
复制代码

fd:——有效的文件描述符。如果MAP_ANONYMOUS被设定,为了兼容问题,其值应为-1

相关函数:——

 int munmap( void * addr, size_t len ) ; //成功返回0,失败返回-1
 //删除从虚拟地址addr开始的,由接下来len个字节组成的区域(接下来对该区域再引用会导致段错误)
复制代码
 int msync( void *addr, size_t len, int flags ); //直接将这部分虚拟内存写回到磁盘
 //一般说来,进程在映射空间的对共享内容的改变并不直接写回到磁盘文件中,往往在调用munmap()后才执行该操作。
 //可以通过调用msync()实现磁盘上文件内容与共享内存区的内容一致。
复制代码

mmap使用细节

1、使用mmap需要注意的一个关键点是,mmap映射区域大小必须是物理页大小(page_size)的整倍数(32位系统中通常是4k字节)。原因是,内存的最小粒度是页,而进程虚拟地址空间和内存的映射也是以页为单位。为了匹配内存的操作,mmap从磁盘到虚拟地址空间的映射也必须是页。

2、内核可以跟踪被内存映射的底层对象(文件)的大小,进程可以合法的访问在当前文件大小以内又在内存映射区以内的那些字节。也就是说,如果文件的大小一直在扩张,只要在映射区域范围内的数据,进程都可以合法得到,这和映射建立时文件的大小无关。具体情形参见“情形三”。

3、映射建立之后,即使文件关闭,映射依然存在因为映射的是磁盘的地址,不是文件本身,和文件句柄无关。同时可用于进程间通信的有效地址空间不完全受限于被映射文件的大小,因为是按页映射。

mmap代码示例

mmap函数详解与代码实操 - 简书 (jianshu.com)

1.用mmap修改磁盘文件的数据

lianxi1.c

 #include <sys/mman.h>
 #include <sys/stat.h>
 #include <fcntl.h>
 #include <stdio.h>
 #include <stdlib.h>
 #include <unistd.h>
 ​
 int main (int argc, char **argv) 
 {
     int fd, nread, i;
     struct stat sb;
     char *mapped;
     
     if ( argc <= 1 ) {
         printf("%s: Need file path! \n",argv[0]);
         exit(-1);
     }
 ​
     /* 打开文件 */
     if ((fd = open (argv[1], O_RDWR)) < 0) {    
         perror ("open");
     }
 ​
     /* 获取文件的属性 */
     if ((fstat (fd, &sb)) == -1) {
         perror ("fstat");
     }
 ​
     /* 将文件映射至进程的地址空间 */
     // void *mmap(void *start, size_t length, int prot, int flags, int fd, off_t offset);
     if ((mapped = (char *) mmap (NULL, sb.st_size, PROT_READ | PROT_WRITE, MAP_SHARED, fd, 0)) == (void *) -1) {
         perror ("mmap");
     }
 ​
     /* 映射完后, 关闭文件也可以操纵内存 */
     close (fd);
 ​
     printf ("%s", mapped);
   
     /* 修改一个字符,同步到磁盘文件 */
     mapped[0] = '0';
 ​
     if ((msync ((void *) mapped, sb.st_size, MS_SYNC)) == -1) {
         perror ("msync");
     }
 ​
     /* 释放存储映射区 */
     if ((munmap ((void *) mapped, sb.st_size)) == -1) {
         perror ("munmap");
     }
   
     return 0;
  }
 ​
复制代码

结果: image-20210508165018531

程序将文件映射到了内存中,并将第一个字符进行了修改并同步到了磁盘文件中。

2.父子进程通信

使用fork创建进程,父子进程分别往共享内存中写入各自字符串,并读出。

lianxi2.c

 #include <sys/mman.h>
 #include <stdio.h>
 #include <stdlib.h>
 #include <unistd.h>
 ​
 #define BUF_SIZE 100
 ​
 int main (int argc, char **argv) 
 {
     char *p_map;
 ​
     /* 匿名映射,创建一块内存供父子进程通信 */
         // void *mmap(void *start, size_t length, int prot, int flags, int fd, off_t offset);
     p_map = (char *) mmap (NULL, BUF_SIZE, PROT_READ | PROT_WRITE, MAP_SHARED | MAP_ANONYMOUS, -1, 0);
     if (fork () == 0) { //子进程
         sleep (1); //可以修改此处睡眠时间,看看不同的输出。
         printf ("child got a message: %s\n", p_map);
         sprintf (p_map, "%s", "from u son");
         munmap (p_map, BUF_SIZE); //实际上,进程终止时,会自动解除映射。 
         exit (0);
     } 
 ​
     sprintf (p_map, "%s", "from u father");
     sleep (2); //可以修改此处睡眠时间,看看不同的输出。
     printf ("parent got a message: %s\n", p_map);
 ​
     return 0;
 }
复制代码
image-20210508165800833

3.内存访问溢出

linux采用的是页式管理机制,使用mmap()映射普通文件后,进程会在自己的地址空间新增一块空间,空间大小由mmap()len参数指定。但是,进程并不一定能够对全部新增空间都能进行有效访问。进程能够访问的有效地址大小取决于文件被映射部分的大小。决定进程能访问的大小是容纳文件被映射部分的最小页面数。如下图。

image-20210508165923439 ...

mmap代码示例2

Linux的内存共享映射(mmap和munmap) - 云+社区 - 腾讯云 (tencent.com)

write.c

 #include <stdio.h>
 #include <sys/types.h>
 #include <sys/stat.h>
 #include <sys/mman.h>
 #include <stdlib.h>
 #include <unistd.h>
 #include <fcntl.h>
 ​
 void sys_err(char *s){  // 出错返回函数
     perror(s);
     exit(1);
 }
 ​
 int main(int argc, char *argv[])
 {
     if(argc != 2){
         printf("Run error\n");
         exit(1);
     }
     int fd = open(argv[1], O_RDWR | O_CREAT, 0777);
     char *mm;
     int cnt = 1;
     if(fd == -1) 
         sys_err("open");
     if(lseek(fd, 0x1000 - 1, SEEK_SET) == -1)     // 文件当前位置移动到4095的位置(将文件大小变为4096)
         sys_err("lseek");
     if(write(fd, "\0", 1) == -1)                  // lseek之后必须要有写操作
         sys_err("write");
     mm = mmap(NULL, 0x1000, PROT_WRITE, MAP_SHARED, fd, 0);
     if(mm == MAP_FAILED)
         sys_err("mmap");
     close(fd);
     while(1){
         sprintf(mm, "Hello %d\n", cnt);
         printf("Write :Hello %d\n", cnt ++);
         sleep(1);
     }
     munmap(mm, 0x1000);
     return 0;
 }
复制代码

可以看到,write.c就是先将传入的文件大小扩展到4096之后,然后映射这个文件,每次修改文件的开头为Hello cnt

read.c

 #include <stdio.h>
 #include <sys/types.h>
 #include <sys/stat.h>
 #include <unistd.h>
 #include <sys/mman.h>
 #include <stdlib.h>
 #include <fcntl.h>
 ​
 void sys_err(char *str){
     perror(str);
     exit(1);
 }
 ​
 int main(int argc, char *argv[])
 {
     if(argc != 2){
         printf("Open error\n");
         exit(1);
     }
     int fd = open(argv[1], O_RDONLY);
     if(fd == -1)
         sys_err("open");
     char *mm = mmap(NULL, 0x1000, PROT_READ, MAP_SHARED, fd, 0);
     close(fd);
     while(1){
         printf("Read :%s", mm);
         sleep(1);
     }
     munmap(mm, 0x1000);
     return 0;
 }
复制代码

可以看到,这里所做的就是每次从文件中取.

结果: image-20210508172339401

我们可以注意到,由于我们上述两个都是MAP_SHARED共享映射,所以我们能保证数据一致性,因为是会写回到磁盘中的.

如果改为MAP_PRIVATE,任何的写操作都不会反映到磁盘上,因为会写时复制.

分类:
后端
标签:
收藏成功!
已添加到「」, 点击更改