Question

我收到错误消息＆＃34; MPI_Gather＆＃34;发生错误当我尝试将超过750个元素的double类型数组收集到表示矩阵的数组中时。正在收集的数组应该表示矩阵的列，并且因为矩阵的构造使得行在内存中是连续的，所以我将派生的数据类型定义为列向量并像这样调用MPI_Gather：

for (i = 0; i < k; i++) {
    MPI_Gather(&Q_vector[i*m], m, MPI_DOUBLE, &Q[i*size], 1, vector_m, 0, MPI_COMM_WORLD);
}

其中 k 是向量的数量， m 是每个向量的长度（矩阵中的行数）， size 是进程数， vector_m 是这样构造的派生数据类型：

MPI_Type_vector(m, 1, n, MPI_DOUBLE, &vector_m_type);
MPI_Type_create_resized(vector_m_type, 0, sizeof(double), &vector_m);
MPI_Type_commit(&vector_m);

其中 n 是矩阵中的列数。

这可以正常工作，直到 m ＆gt; 750.例如，如果 m = 751，则会发生错误（类型为double的751个元素）。它不依赖于 n 的值。我完全改变了算法，以便矩阵的列连续存储在内存中，而不是通过完全避免派生的数据类型来解决问题，但我仍然很好奇为什么会发生这种情况。

电脑规格：

CPU：Intel（R）Core（TM）i7-4790K CPU @ 4.00GHz

RAM：8 GB

操作系统：Windows 10 Home 64位

编译器：gcc 6.4.0

我使用Cygwin。

有时会打印此错误消息：

＆＃34; 在流程[52635822596882433,77309411328]上报告的关于通信器MPI_COMM_WORLD的MPI_Gather发生错误

MPI_ERR_IN_STATUS：状态错误代码 MPI_ERRORS_ARE_FATAL（此通信器中的进程现在将中止，并且可能是您的MPI作业）＆＃34;

重现错误的最小工作示例代码：

#include <stdio.h>
#include <mpi.h>
#include <stdlib.h>

int main(int argc, char *argv[]) {
    int n, m, size, rank, i, j, k;
    double *Q, *Q_vector;
    MPI_Datatype vector_m_type, vector_m;

    MPI_Init(&argc, &argv);
    MPI_Comm_size(MPI_COMM_WORLD, &size);
    MPI_Comm_rank(MPI_COMM_WORLD, &rank);

    m = atoi(argv[1]);
    n = atoi(argv[2]);

    if (rank == 0) {
        Q = (double *)malloc(m*n*sizeof(double));
        for (i = 0; i < m; i++) {
            for (j = 0; j < n; j++) {
                Q[i*n+j] = drand48()*10;
            }
        }
    }

    // k = number of (column) vectors per process
    k = n/size;
    Q_vector = (double *)malloc(k*m*sizeof(double));

    MPI_Type_vector(m, 1, n, MPI_DOUBLE, &vector_m_type);
    MPI_Type_create_resized(vector_m_type, 0, sizeof(double), &vector_m);
    MPI_Type_commit(&vector_m);

    for (i = 0; i < k; i++) {
        MPI_Scatter(&Q[i*size], 1, vector_m, &Q_vector[i*m], m, MPI_DOUBLE, 0, MPI_COMM_WORLD);
    }

    for (i = 0; i < k; i++) {
        MPI_Gather(&Q_vector[i*m], m, MPI_DOUBLE, &Q[i*size], 1, vector_m, 0, MPI_COMM_WORLD);
    }

    if (rank == 0) {
        printf("Success!\n");
        free(Q);
    }
    free(Q_vector);

    MPI_Finalize();
}

编译并运行如下：

mpicc -o test MPI_Type_vector_test.c -lmpi -lm
mpirun -np 8 ./test 751 750

Answer 1

这是Open MPI中的known issue，当集合操作使用匹配的签名但数据类型不同时会发生（例如，一方面是一个矢量，另一方面是几个元素）。

解决此问题的最简单方法是禁用%timeit max([i for i in lst if len(i) > 1], key=itemgetter(-1)) 128 ms ± 976 µs per loop (mean ± std. dev. of 7 runs, 10 loops each)模块

coll/tuned

另一个选择是重写代码并使用描述行的其他派生数据类型（而不是使用mpirun --mca coll ^tuned -np 8 ./test 751 750元素）

最大消息长度MPI_Type_vector和MPI_Gather

1 个答案: