快速和通用的lambda函数

时间:2014-11-21 10:10:50

标签: c++ matlab c++11 lambda

动机

我创建了一个头文件,它将matlab的mex功能包装在c ++ 11类中;特别是对于MxNxC图像。我创建的两个函数是forEach,它遍历图像中的每个像素,还有一个forKernel,它在图像中给出了一个内核和像素,在该像素周围迭代内核,处理各种漂亮的样板式索引数学

我们的想法是可以像这样对滑动窗口进行编程:

image.forEach([](Image &image, size_t row, size_t col) {
  //kr and lc specify which pixel is the center of the kernel
  image.forKernel<double>(row, col, kernel, kr, kc, [](Image &image, double w, size_t row, size_t col) {
    // w is the weight/coefficient of the kernel, row/col are the corresponding coordinates in the image.
    // process ...
  });
});

问题

这为

提供了一个很好的方法
  • 提高可读性:两个函数调用比相应的4个for循环要清晰得多,
  • 保持灵活性:lambda函数允许您通过值或引用来定义所有类型的变量,这些变量对于forEach / forKernel的实现者是不可见的,并且
  • 不幸的是,
  • 增加了执行时间:这比使用for循环慢了大约8倍。

当然,后一点是问题所在。我希望g ++能够优化lambda函数并内联所有代码。这不会发生。因此,我在1D数据上创建了一个最小的工作示例:

#include <iostream>
#include <functional>

struct Data {
  size_t d_size;
  double *d_data;
  Data(size_t size) : d_size(size), d_data(new double[size]) {}
  ~Data() { delete[] d_data; }
  double &operator[](size_t i) { return d_data[i]; }


  inline void forEach(std::function<void(Data &, size_t)> f) {
    for (size_t index = 0; index != d_size; ++index)
      f(*this, index);
  }
};



int main() {
  Data im(50000000);
  im.forEach([](Data &im, size_t i) {
    im[i] = static_cast<double>(i);
  });

  double sum = 0;
  im.forEach([&sum](Data &im, size_t i) {
    sum += im[i];
  });

  std::cout << sum << '\n';
}

来源:http://ideone.com/hviTwx

我猜测编译器无法为每个lambda函数编译forEach代码,因为lambda函数不是模板变量。好处是可以编译一次并使用不同的lambda函数更频繁地链接到它,但不好的是它很慢。

此外,动机中讨论的情况已经包含数据类型的模板(double,int,...),因此无论如何都会推翻“好事”。

实现前一个的快速方法是这样的:

#include <iostream>
#include <functional>

struct Data {
  size_t d_size;
  double *d_data;
  Data(size_t size) : d_size(size), d_data(new double[size]) {}
  ~Data() { delete[] d_data; }
  double &operator[](size_t i) { return d_data[i]; }
};



int main() {
  size_t len = 50000000;
  Data im(len);
  for (size_t index = 0; index != len; ++index)
    im[index] = static_cast<double>(index);

  double sum = 0;
  for (size_t index = 0; index != len; ++index)
    sum += im[index];

  std::cout << sum << '\n';
}

来源:http://ideone.com/UajMMz

它大约快8倍,但也不太可读,特别是当我们考虑更复杂的结构,如带有内核的图像时。

问题

有没有办法将lambda函数作为模板参数提供,以便为每次调用编译forEach,并针对lambda函数的每个特定实例进行优化? lambda函数能否以某种方式内联,因为lambda函数通常不是递归的,这应该是微不足道的,但语法是什么?

我找到了一些相关的帖子:

但是他们没有以最小的工作示例的形式给出解决方案,并且他们没有讨论内联lambda函数的可能性。我的问题的答案应该这样做:更改Data.forEach成员函数及其调用,以尽可能快/允许尽可能多的运行时优化(不是在运行时优化,而是在尽可能减少运行时间的编译时间。

关于forEveR的建议

感谢您创建该修复程序,这是一个巨大的改进,但仍然大约2倍的速度:

结果:

herbert@machine ~ $ g++ -std=c++11 -Wall test0.cc -o test0
herbert@machine ~ $ g++ -std=c++11 -Wall test1.cc -o test1
herbert@machine ~ $ g++ -std=c++11 -Wall test2.cc -o test2
herbert@machine ~ $ time ./test0
1.25e+15

real    0m2.563s
user    0m2.541s
sys     0m0.024s
herbert@machine ~ $ time ./test1
1.25e+15

real    0m0.346s
user    0m0.320s
sys     0m0.026s
herbert@machine ~ $ time ./test2
1.25e+15

real    0m0.601s
user    0m0.575s
sys     0m0.026s
herbert@machine ~ $ 

我用-O2重新运行代码,这解决了问题。 test1和test2的运行时间现在非常相似。谢谢@stijn和@forEveR。

herbert@machine ~ $ g++ -std=c++11 -Wall -O2 test0.cc -o test0
herbert@machine ~ $ g++ -std=c++11 -Wall -O2 test1.cc -o test1
herbert@machine ~ $ g++ -std=c++11 -Wall -O2 test2.cc -o test2

herbert@machine ~ $ time ./test0
1.25e+15

real    0m0.256s
user    0m0.229s
sys 0m0.028s
herbert@machine ~ $ time ./test1
1.25e+15

real    0m0.111s
user    0m0.078s
sys 0m0.033s
herbert@machine ~ $ time ./test2
1.25e+15

real    0m0.108s
user    0m0.076s
sys 0m0.032s
herbert@machine ~ $ 

1 个答案:

答案 0 :(得分:6)

问题是,您使用std::function,实际使用type-erasure和虚拟呼叫。 您只需使用模板参数,而不是std::function。由于n3376 5.1.2 / 5

,将内联调用lambda函数
  

lambda表达式的闭包类型具有公共内联函数   呼叫运营商(13.5.4),其参数和返回类型是   由lambda-expression的parameter-declaration-clause和   分别为trailing-return-type

所以,只需编写

即可
  template<typename Function>
  inline void forEach(Function f) {
    for (size_t index = 0; index != d_size; ++index)
      f(*this, index);
  }

Live example