优化大型模型 - 尝试利用并行性

时间:2011-11-05 13:33:15

标签: wolfram-mathematica mathematical-optimization mathematica-8

我有一大堆代码,在过去一周左右我一直在重写,以尽快让它运行。

该代码正在对衍射激光束进行建模,其本质是640 * 640内核在许多2D 1280 * 1280切片上的卷积 - 每个切片是沿着光束轴的新位置。

优化的第一阶段是编译我的函数,第二阶段是学习Mathematica喜欢使用大型数据列表 - 所以一次传递多个层的3D空间而不是一个接一个地切片。

然而这吃了我的RAM!

这是我目前的设置:

Func2[K_ , ZRange_] :=
Module[{layers = Dimensions[ZRange][[1]]},
x = ConstantArray[Table[x, {x, -80, 80, 0.125}, {y, -80, 80, 0.125}], {layers}];
y = ConstantArray[Table[y, {x, -80, 80, 0.125}, {y, -80, 80, 0.125}], {layers}];
z = Table[ConstantArray[z, {1281, 1281}], {z, ZRange}];

UTC = Func3[x, y, z];

Abs[ListConvolve[K, #] & /@ UTC]
] 


Func3 = Compile[{{x, _Real}, {y, _Real}, {z, _Real}},
Module[{Sr2R2 = Sqrt[x^2 + y^2 + z^2]},
0.5 (1. + z/Sr2R2) Exp[2 \[Pi] I (Sr2R2 - z)]/Sr2R2],
RuntimeAttributes -> {Listable},
CompilationTarget -> "C"
];


ZRangeList = {{20., 19., 18., 17., 16., 15., 14., 13., 12., 11.},
               {10., 9., 8., 7., 6., 5., 4., 3., 2., 1.}};


results = Table[Func2[kernel, ZList], {ZList, ZRangeList}];

一些解释:

  • 这项工作分为两个部分,因为我希望能够尽可能地编译。
  • 将Z值拆分为列表列表,以使函数一次评估多个图层。

一些问题:

  • 你怎么能更快地做到这一点?
  • 当按原样运行时,我的两个内核都被使用,但是由一个mathematica内核使用。如果我使用ParallelTable运行它,它会运行多个内核,但会占用更多RAM并最终变慢。
  • 我希望能够在尽可能多的内核上运行它 - 我运行了LightweightGrid - 我该怎么做?
  • 为什么我不能传递不同维度的编译功能列表?

2 个答案:

答案 0 :(得分:1)

立即跳出来的东西是

Abs [ListConvolve [K,#]& /@ 世界标准时间]  可以制成 ParallelMap [A​​bs @ ListConvolve [K,#]& ,UTC]

然而,我真的很惊讶ParallelTable比普通表慢,因为这只是两种情况下的情况:并行化比执行任务更昂贵,或者并行化需要子内核之间的过多通信。

您在并行化时是否分发了定义?例如。对于上面,你首先启动内核,然后再启动,然后分发K的定义(UTC不需要分发,因为它实际上并没有在子内核中使用,而是它的部分是。看看你是否可以制作使用Share []也可以减少内存负载。

您是否考虑过使用CUDA进行此操作?对于您在函数内部进行的简单数值计算似乎是完美的。

另请注意,您不断重新创建此表:表[x,{x,-80,80,0.125},{y,-80,80,0.125}],为什么不将其变为变量,并创建该变量值的ConstantArray? 你在每一个上浪费大约0.2秒。

最后,一个小小的怪癖:当你试图优化时,除法总是很糟糕 - 这很费时间:

Module[{Sr2R2 = Sqrt[x^2 + y^2 + z^2]},
       0.5 (1. + z/Sr2R2) Exp[2 \[Pi] I (Sr2R2 - z)]/Sr2R2]

可以做得更好(随意检查我的数学):

Module[{R2=N[x^2 + y^2 + z^2],Sr2R2 = Sqrt[R2]}, 
       (0.5 Exp[2 I \[Pi] (Sr2R2 - z)] (Sr2R2 + z))/R2]

答案 1 :(得分:1)

既不是并行化也不是C编译 (使用来自equation.com的gcc 4.7,在Windows 64位上用VC ++ Express扩充)确实改善了时序。

运行此代码大约需要6.5秒:

    $start = AbsoluteTime[];
Func2[K_, ZRange_] := 
 Module[{layers = Dimensions[ZRange][[1]], x, y, z, UTC, tx, ty, t1},
  tx = Table[x, {x, -80, 80, 0.125}, {y, -80, 80, 0.125}];
  ty = Table[y, {x, -80, 80, 0.125}, {y, -80, 80, 0.125}];
  x = ConstantArray[tx, {layers}];
  y = ConstantArray[ty, {layers}];
  z = Table[ConstantArray[z, {1281, 1281}], {z, ZRange}];
  t1 = AbsoluteTime[];
  UTC = Func3[x, y, z];
  Print["Func3 time = ", AbsoluteTime[] - t1];
  Abs[ListConvolve[K, #] & /@ UTC]]
Func3 = Compile[{{x, _Real, 3}, {y, _Real, 3}, {z, _Real, 3}}, 
   Module[{Sr2R2 = Sqrt[x^2 + y^2 + z^2]}, 
    0.5 (1. + z/Sr2R2) Exp[2 \[Pi] I (Sr2R2 - z)]/Sr2R2]];
ZRangeList = {{20., 19., 18., 17., 16., 15., 14., 13., 12., 
    11.}, {10., 9., 8., 7., 6., 5., 4., 3., 2., 1.}};
SeedRandom[1]; kernel = RandomReal[{-1, 1}, {640, 640}];
results1 = Table[Func2[kernel, ZList], {ZList, ZRangeList}];
AbsoluteTime[] - $start

将所有内容编译成一个函数的速度较慢(8.1秒):

$start = AbsoluteTime[]; 
CFunc2 = Compile[{{kern, _Real, 2}, {ZRange, _Real, 1}}, 
    Module[{layers = Length[ZRange], x, y, z, UTC, ty, Sr2R2}, 
     ty = Table[y, {x, -80, 80, 0.125}, {y, -80, 80, 0.125}]; 
      x = Table[x, {layers}, {x, -80, 80, 0.125}, {y, -80, 80, 0.125}]; 
      y = Table[y, {layers}, {x, -80, 80, 0.125}, {y, -80, 80, 0.125}]; 
      z = Table[ConstantArray[z, {1281, 1281}], {z, ZRange}]; 
      Sr2R2 = Sqrt[x^2 + y^2 + z^2]; UTC = 0.5*(1. + z/Sr2R2)*
        (Exp[2*Pi*I*(Sr2R2 - z)]/Sr2R2); 
      Abs[(ListConvolve[kern, #1] & ) /@ UTC]]]; 
ZRangeList = {{20., 19., 18., 17., 16., 15., 14., 13., 12., 11.}, 
    {10., 9., 8., 7., 6., 5., 4., 3., 2., 1.}}; 
SeedRandom[1]; kernel = RandomReal[{-1, 1}, {640, 640}]; 
results = Table[CFunc2[kernel, ZList], {ZList, ZRangeList}]; 
AbsoluteTime[] - $start

通常并不容易弄清楚ParallelTable和朋友真正帮助的时候。 只取决于问题,大小,Mathematica verison等。