pybind11加速函数调用

时间:2018-10-20 22:54:47

标签: python c++ performance pybind11

我有几个使用pybind11在Python中构造的C ++函数对象,然后将这些对象从Python传递到另一个调用它们的C ++函数。由于这些函数具有状态,因此它们没有针对无状态python函数进行pybind11优化,并且性能非常慢。

我可以使用一个丑陋的方法解决此问题,该方法将创建的C ++对象的指针返回给Python,然后将其传递回调用方C ++函数。但是,我希望有一种更清洁,更易维护的方法来实现此目的。

以下是一些基于以下代码的代码(import_call_execute嵌入Python进程并运行它):https://pythonextensionpatterns.readthedocs.io/en/latest/debugging/debug_in_ide.html

下面的第一个python程序在我的计算机上耗时163毫秒,第二个仅0.5毫秒

#include <pybind11/pybind11.h>
#include <pybind11/functional.h>
#include <iostream>
#include <chrono>

#include "py_import_call_execute.hpp"

using namespace std;
using namespace std::chrono;
using namespace pybind11::literals;

namespace py = pybind11;

class TestFunc {
public:
    TestFunc(int a): _a(a) {}

    int operator()(int b) const {
        return _a + b;
    }

    size_t get_ptr() {
        return (size_t)this;
    }
private:
    int _a;
};

int test_dummy_function(const std::function<int(int)> &f) {
    auto start = high_resolution_clock::now();

    int sum = 0;
    for (int i = 0; i < 100000; ++i) {
        sum += f(i);
    }
    auto stop = high_resolution_clock::now();
    auto duration = duration_cast<microseconds>(stop - start);

    cout << "sum: " << sum << " time: " << duration.count() / 1000.0 << " milliseconds" << endl;

    return sum;
}

int test_dummy_function2(std::size_t ptr) {
    auto start = high_resolution_clock::now();

    TestFunc* f = reinterpret_cast<TestFunc*>(ptr);

    int sum = 0;
    for (int i = 0; i < 100000; ++i) {
        sum += (*f)(i);
    }
    auto stop = high_resolution_clock::now();
    auto duration = duration_cast<microseconds>(stop - start);

    cout << "sum: " << sum << " time: " << duration.count() / 1000.0 << " milliseconds" << endl;

    return sum;
}

PYBIND11_MODULE(pybind_testing, m) {
    py::class_<TestFunc>(m, "TestFunc")
    .def(py::init<int>(), "a"_a)
    .def("__call__", &TestFunc::operator(), "b"_a = 3)
    .def("get_ptr", &TestFunc::get_ptr);

    m.def("test_dummy_function", test_dummy_function);
    m.def("test_dummy_function2", test_dummy_function2);
 }

int main(int argc, const char *argv[]) {
    argc = 4;
    const char *argv2[] = {
            "python",
            "/Users/sal/Developer/coatbridge/testing/pybind11",
            "test_pybind11",
            "test_pybind11"};
    return import_call_execute(argc, argv2);
}

Python函数1:

import pybind_testing as pt

def test_pybind11():
    test_func = pt.TestFunc(2)
    pt.test_dummy_function(test_func)

Python函数2:

import pybind_testing as pt

def test_pybind11():
    test_func = pt.TestFunc(2)
    pt.test_dummy_function2(test_func.get_ptr())

1 个答案:

答案 0 :(得分:1)

糟糕的性能与pybind11或Python无关。这很慢,因为您正在使用std::function,这与常规函数调用完全不同。

您可以通过以下方式替换main()中的代码来看到此内容:

TestFunc test_func(2);
test_dummy_function(test_func);
test_dummy_function2(test_func.get_ptr());

要解决此问题,只需停止使用std::function。您可以直接通过引用或(smart?)指针传递TestFunc对象。应该没有必要将其地址强制转换为size_t并再次返回(尽管请注意,如果确实需要这样做,则正确的类型是uintptr_t而不是size_t)。