Question

我尝试编写一个小应用程序来熟悉用户空间中的写时复制概念。我已阅读answer by MSalters并认为仅当我开始使用mmap个文件存储我的数据时它才有用。因为我不需要基于文件的持久性，我试图用共享内存做同样的事情。首先我mmap编辑并初始化了一个shm fd，然后我用MAP_PRIVATE映射了第二个副本并再次读取它。但是，只需读取它就会导致内核复制整个内容，花费更多时间并占用内存的两倍。为什么不做COW？

这是我提出的用于说明行为的程序：

#include <stdio.h>
#include <stdlib.h>
#include <unistd.h>
#include <sys/mman.h>
#include <fcntl.h>
#include <assert.h>

static const size_t ARRAYSIZE = 1UL<<30;

void init(int* A)
{
    for (size_t i = 0; i < ARRAYSIZE; ++i)
        A[i] = i;
}

size_t agg(const int* A)
{
    size_t sum = 0;
    for (size_t i = 0; i < ARRAYSIZE; ++i)
        sum += A[i];
    return sum;
}

int main()
{
    assert(sizeof(int) == 4);
    shm_unlink("/cowtest");
    printf("ARRAYSIZE: %lu\n", ARRAYSIZE);
    int fd = shm_open("/cowtest", O_RDWR | O_CREAT | O_TRUNC, 0);
    if (fd == -1)
    {
        perror("Error allocating fd\n");
        return 1;
    }
    if (ftruncate(fd, sizeof(int) * ARRAYSIZE) == -1)
    {
        perror("Error ftruncate\n");
        return 1;
    }
    /* Open shm */
    int* A= (int*)mmap(NULL, sizeof(int) * ARRAYSIZE, PROT_READ | PROT_WRITE, MAP_SHARED, fd, 0);
    if (A == (int*)-1)
    {
        perror("Error mapping A to memory\n");
        return 1;
    }
    init(A);

    /* Create cow copy */
    int* Acopy = (int*)mmap(NULL, sizeof(int) * ARRAYSIZE, PROT_READ, MAP_PRIVATE, fd, 0);
    if (Acopy == (int*)-1)
    {
        printf("Error mapping copy from file\n");
        return 1;
    }

    /* Aggregate over A */
    size_t sumA = agg(A);
    size_t expected = (ARRAYSIZE * (ARRAYSIZE - 1)) >> 1;
    assert(expected == sumA);

    /* Aggregate over Acopy */
    size_t sumCopy = agg(Acopy);
    assert(expected == sumCopy);


    shm_unlink("/cowtest");
    printf("Enter to exit\n");
    getchar();
    return 0;
}

我用g++ -O3 -mtune=native -march=native -o shm-min shm-min.cpp -lrt编译了它。

它创建的数组包含4GB的整数值。在终止程序之前，然后分配8GB的共享内存，在/proc/<pid>/smaps中，您可以看到它在只读操作期间实际上完成了一个完整的副本。我不知道为什么会那样做。这是一个内核错误吗？或者我错过了什么？

非常感谢任何见解。拉斯

修改这里是Ubuntu 14.04（3.13.0-24）上/proc/<pid>/smaps的相关内容：

7f3b9b4ae000-7f3c9b4ae000 r--p 00000000 00:14 168154                     /run/shm/cowtest (deleted)
Size:            4194304 kB
Rss:             4194304 kB
Pss:             2097152 kB
Shared_Clean:          0 kB
Shared_Dirty:    4194304 kB
Private_Clean:         0 kB
Private_Dirty:         0 kB
Referenced:      4194304 kB
Anonymous:             0 kB
AnonHugePages:         0 kB
Swap:                  0 kB
KernelPageSize:        4 kB
MMUPageSize:           4 kB
Locked:                0 kB
VmFlags: rd mr mw me sd
7f3c9b4ae000-7f3d9b4ae000 rw-s 00000000 00:14 168154                     /run/shm/cowtest (deleted)
Size:            4194304 kB
Rss:             4194304 kB
Pss:             2097152 kB
Shared_Clean:          0 kB
Shared_Dirty:    4194304 kB
Private_Clean:         0 kB
Private_Dirty:         0 kB
Referenced:      4194304 kB
Anonymous:             0 kB
AnonHugePages:         0 kB
Swap:                  0 kB
KernelPageSize:        4 kB
MMUPageSize:           4 kB
Locked:                0 kB
VmFlags: rd wr sh mr mw me ms sd

Answer 1

没有复制。 smaps文件有一个提示：

Size:            4194304 kB
Rss:             4194304 kB
Pss:             2097152 kB

看看Pss是映射区域实际大小的一半？这是因为它除以两个用法（Pss =比例共享大小）。也就是说，您将相同的文件映射两次到不同的虚拟内存范围，但两个映射的底层物理页面都是相同的。

要确定相关网页的实际地址，您可以使用a tool here。将其另存为page-types.c，然后运行make page-types，然后./page-types -p <pid> -l -N。您将看到不同的虚拟地址（在第一列中）映射到相同的物理页面（在第二列中）。

如果为第二个映射添加PROT_WRITE权限位，并调用init(Acopy)，您将看到Pss跳转到4GB，相应页面的物理地址不再相同。

TL; DR COW工作。

如何在linux上使用copy-on-write来处理共享内存

1 个答案: