C++实现内存映射文件提升大文件读写性能方法

内存映射文件是一种将文件内容直接映射到进程地址空间的技术，使程序可通过操作内存的方式高效读写文件。其核心优势包括减少系统调用和数据拷贝、支持随机访问、适合处理大文件。在Windows上实现的步骤为：1. 使用CreateFile打开文件；2. 调用CreateFileMapping创建映射对象；3. 使用MapViewOfFile映射到内存；4. 操作内存指针；5. 最后依次调用UnmapViewOfFile和CloseHandle释放资源。Linux下的实现步骤类似：1. 使用open()打开文件；2. 调用mmap()进行映射；3. 操作内存指针；4. 使用munmap()解除映射并关闭文件描述符。使用时需注意：确保映射范围不超过文件大小；多个进程共享时需同步；大文件建议分块映射；写入是否立即保存取决于映射方式；异常退出需注意资源清理；跨平台使用建议封装接口。

在处理大文件时，传统的文件读写方式（比如 fread 和 fwrite）往往性能有限，尤其是频繁的系统调用和缓冲区拷贝会带来明显开销。而使用内存映射文件（Memory-Mapped File），可以将文件直接映射到进程的地址空间，通过操作内存的方式访问文件内容，显著提升读写效率。

C++ 中可以通过操作系统提供的 API 来实现内存映射文件。下面是一些实用的方法和注意事项。

什么是内存映射文件？

内存映射文件是一种让程序将文件内容当作内存来访问的技术。操作系统负责把文件的一部分或全部加载到虚拟内存中，程序可以直接读写对应的内存区域，而不需要显式地调用读写函数。

这种方式的好处包括：

• 减少数据拷贝次数
• 省去频繁的系统调用
• 可以随机访问文件内容，效率更高

尤其适合处理几十MB甚至GB级别的大文件。

如何在 Windows 上实现？

Windows 提供了 CreateFileMapping 和 MapViewOfFile 这两个 API 来创建和映射文件。

基本步骤如下：

1. 使用 CreateFile 打开文件
2. 调用 CreateFileMapping 创建文件映射对象
3. 使用 MapViewOfFile 将文件映射到进程地址空间
4. 操作内存指针进行读写
5. 最后依次调用 UnmapViewOfFile、CloseHandle 释放资源

示例代码片段：

HANDLE hFile = CreateFile(L"test.bin", GENERIC_READ | GENERIC_WRITE, 0, NULL, OPEN_EXISTING, FILE_ATTRIBUTE_NORMAL, NULL);
HANDLE hMap = CreateFileMapping(hFile, NULL, PAGE_READWRITE, 0, 0, NULL);
void* pData = MapViewOfFile(hMap, FILE_MAP_ALL_ACCESS, 0, 0, 0);

// 使用 pData 指针读写文件内容

UnmapViewOfFile(pData);
CloseHandle(hMap);
CloseHandle(hFile);

注意：如果你只读不写，应该使用 PAGE_READONLY 和 FILE_MAP_READ。

Linux 下怎么操作？

Linux 使用 mmap 系统调用来完成内存映射，流程也类似：

1. 使用 open() 打开文件
2. 调用 mmap() 映射文件到内存
3. 操作返回的指针
4. 调用 munmap() 解除映射，并关闭文件描述符

示例代码：

int fd = open("test.bin", O_RDWR);
char* data = (char*) mmap(NULL, file_size, PROT_READ | PROT_WRITE, MAP_SHARED, fd, 0);

// 通过 data 指针访问文件内容

munmap(data, file_size);
close(fd);

其中 file_size 是你要映射的大小，通常可以用 lseek(fd, 0, SEEK_END) 获取文件长度。

使用内存映射需要注意的问题

虽然内存映射很高效，但也要注意一些细节：

• 映射范围不要超过文件实际大小，否则可能触发段错误。
• 如果是多个进程共享映射文件，要确保同步机制，避免数据竞争。
• 对于非常大的文件，不要一次性映射整个文件，而是按需分块映射。
• 写入后是否立即保存取决于映射方式（如 Windows 的 MAP_SHARED 或 Linux 的对应设置）。
• 在程序异常退出时，记得清理资源，否则可能导致资源泄漏。

另外，不同平台的 API 差异较大，如果需要跨平台支持，建议封装一层抽象接口。

基本上就这些。内存映射文件是一个简单但强大的工具，在处理大文件时值得尝试。