如何在MATLAB中的SPMD中保存中间迭代?

时间:2018-07-02 14:20:33

标签: matlab parallel-processing spmd

我正在尝试使用MATLAB SPDM。但是,我有以下问题要解决:

  • 我正在运行很长的算法,因此我希望保存过程中的进度,以防万一电源中断,有人拔出电源插头或内存错误。
  • 该循环包含144个迭代,每个迭代大约需要30分钟才能完成=> 72h。在此间隔内可能会发生很多问题。 当然,我的机器上有分布式计算工具箱。该计算机具有4个物理核心。我运行MATLAB R2016a。
  • 我真的不想使用parfor循环,因为我可以连接结果并在迭代之间具有依赖性。我认为SPMD是我想要做的最好的选择。

我将尽我所能描述我想要的东西: 我希望能够在循环的设置迭代中保存到目前为止的结果,并且希望按工作人员保存结果。

下面是一个最小(非)工作示例。最后四行应放在不同的.m文件中。在parfor循环中调用此函数可保存中间迭代。它在我使用的其他例程中正常工作。错误在第45行(output_save)。我想以某种方式将复合对象“拉”成“常规”对象(单元格/结构)。

我的直觉是我不太了解Composite对象的工作原理,尤其是如何将它们保存到“常规”对象(单元格,结构等)中。

% SPMD MWE

% Clear necessary things
clear output output2 output_temp iter kk


% Useful thing that will be used later on
Rorder=perms(1:4);

% Stem of the file to save the data to
stem='MWE_MATLAB_spmd';

% Create empty cells where the results of the kk loop will be stored
output1{1,1}=[];
output2{1,2}=[];

% Start the parpool
poolobj=gcp;

% Define which worker/lab will do which iteration
iterperworker=ceil(size(Rorder,1)/poolobj.NumWorkers);
for i=1:poolobj.NumWorkers
    if i<poolobj.NumWorkers
        itertodo{1,i}=1+(iterperworker)*(i-1):iterperworker*i;
    else
        itertodo{1,i}=1+(iterperworker)*(i-1):size(Rorder,1);
    end
end

%Start the spmd
% try
    spmd
        iter=1;
        for kk=itertodo{1,labindex}
            % Print which iteration is done at the moment
            fprintf('\n');
            fprintf('Ordering %d/%d \r',kk,size(Rorder,1));

            for j=1:size(Rorder,2)
            output_temp(1,j)=Rorder(kk,j).^j; % just to populate a structure
            end
            output.output1{1,1}=cat(2,output.output1{1,1},output_temp);  % Concatenate the results
            output.output2{1,2}=cat(2,output.output1{1,2},0.5*output_temp);  % Concatenate the results

            labindex_save=labindex;

            if mod(iter,2)==0
                output2.output=output; % manually put output in a structure
                dosave(stem,labindex_save,output2); % Calls the function that allows me to save in parallel computing
                end
                iter=iter+1;
            end
        end
    % catch me
    % end


    % Function to paste in another m-file
    % function dosave(stem,i,vars)
    %     save(sprintf([stem '%d.mat'],i),'-struct','vars')
    % end

1 个答案:

答案 0 :(得分:1)

仅在spmd块外部创建Composite。特别是,您在spmd块内定义的变量在该块外以Composite的形式存在。当在spmd块内部使用同一变量时,该变量将转换回原始值。像这样:

spmd
    x = labindex;
end
isa(x, 'Composite') % true
spmd
    isa(x, 'Composite') % false
    isequal(x, labindex) % true
end

因此,您不应该使用output索引来转换{:}-它不是Composite。我认为您应该可以使用

dosave(stem, labindex, output);