在boost.python中包装MPI

时间:2015-12-07 19:02:56

标签: python c++ boost mpi

我已经设法使用Boost.python编写初始化和设置MPI环境的包装器,但我不确定是否所有内容都已正确初始化。我还没有遇到任何问题,但是我想看看我所做的事情是否在某种程度上是不正确的,以后会引起问题,或者是否有更好的方法来做到这一点。

我知道python确实绑定了MPI(通过mpi4py),但这并不能满足我的需求。下面的简单示例可以替换为mpi4py,但我实际上并不需要初始化普通的MPI环境:我需要初始化一个专门的MPI环境(MADNESS / TiledArray),其中没有我能找到的python绑定。

我的文件结构如下:

interface.cxx:

#include <iostream>
#include <boost/python.hpp>
#include <mpi.h>

void initMPI(int argc, boost::python::list argv){
  char ** argv_ = new char *[argc];
  for(auto i = 0; i < argc; i++){
    std::string str = boost::python::extract<std::string>(argv[i]);
    auto len = str.length();
    argv_[i] = new char[len+1];
    strncpy(argv_[i],&str[0],len);
    argv_[i][len] = '\0'; // Termination character
  }
  MPI_Init(&argc,&argv_);
  for(auto i = 0; i < argc; i++){
    delete [] argv_[i];
  }
  delete [] argv_;
};

void finalizeMPI(){
  MPI_Finalize();
};

void hello(){
  int world_size, rank, name_len;
  std::string name;
  name.reserve(MPI_MAX_PROCESSOR_NAME);
  MPI_Comm_size(MPI_COMM_WORLD,&world_size);
  MPI_Comm_rank(MPI_COMM_WORLD,&rank);
  MPI_Get_processor_name(&name[0],&name_len);
printf("Hello world from processor %s, rank %d"
           " out of %d processors\n",
           name.c_str(), rank, world_size);
};

BOOST_PYTHON_MODULE(mpiinterface){
  boost::python::def("init", initMPI);
  boost::python::def("finalize", finalizeMPI);
  boost::python::def("hello",hello);
};

test.py:

import sys,os
sys.path.append('/home/dbwy/devel/tests/MPI/boost.python')
import mpiinterface

mpiinterface.init(len(sys.argv),sys.argv)
mpiinterface.hello();
mpiinterface.finalize();

编译时,它确实给了我正确的输出:

[dbwy@medusa boost.python]$ mpirun -np 4 python test.py
Hello world from processor medusa.chem.washington.edu, rank 0 out of 4 processors
Hello world from processor medusa.chem.washington.edu, rank 3 out of 4 processors
Hello world from processor medusa.chem.washington.edu, rank 1 out of 4 processors
Hello world from processor medusa.chem.washington.edu, rank 2 out of 4 processors

这真的很容易吗?或者我错过了以后会发生灾难性的大事?

1 个答案:

答案 0 :(得分:1)

由于现在几乎所有现有的MPI实现都符合1998年发布的MPI-2规范,因此根本不需要对参数列表进行整个处理。从MPI-2开始,可以通过调用MPI_Init(NULL, NULL)来初始化MPI。

事实上,使用MPI就像在应用程序开始时调用MPI_Init 一次并在退出之前调用MPI_Finalize 一次一样简单。如果您的程序是多线程的,那么您应该用MPI_Init_thread替换MPI_Init,并确保MPI库支持所需的多线程级别。