Matlab公式优化：径向基函数

Question

• z - 双打矩阵，大小Nx2;
• x - 双打矩阵，大小Nx2;

sup = x(i, :);

phi(1, i) = {@(z) exp(-g * sum((z - sup(ones([size(z, 1) 1]),:)) .^ 2, 2))};

这是用于逻辑回归的径向基函数（RBF）。这是公式：

我需要你的建议，我可以优化这个公式吗？因为它呼叫数百万次，而且需要花费很多时间......

Answer 1

在您最近的编辑中，您介绍了一些语法错误，但我想我理解您尝试做的事情（从第一个版本开始）。

不要使用REPMAT或索引来重复向量x(i,:)以匹配z的行，而是考虑使用高效的BSXFUN函数：

rbf(:,i) = exp( -g .* sum(bsxfun(@minus,z,x(i,:)).^2,2) );

上面明显地遍历x的每一行

---

您可以更进一步，使用PDIST2计算z和x中每对行之间的欧氏距离：

%# some random data
X = rand(10,2);
Z = rand(10,2);
g = 0.5;

%# one-line solution
rbf = exp(-g .* pdist2(Z,X,'euclidean').^2);

现在矩阵中的每个值：rbf(i,j)都对应z(i,:)和x(j,:)之间的函数值

---

编辑：

我计算了不同的方法，这是我使用的代码：

%# some random data
N = 5000;
X = rand(N,2);
Z = rand(N,2);
g = 0.5;

%# PDIST2
tic
rbf1 = exp(-g .* pdist2(Z,X,'euclidean').^2);
toc

%# BSXFUN+loop
tic
rbf2 = zeros(N,N);
for j=1:N
    rbf2(:,j) = exp( -g .* sum(bsxfun(@minus,Z,X(j,:)).^2,2) );
end
toc

%# REPMAT+loop
tic
rbf3 = zeros(N,N);
for j=1:N
    rbf3(:,j) = exp( -g .* sum((Z-repmat(X(j,:),[N 1])).^2,2) );
end
toc

%# check if results are equal
all( abs(rbf1(:)-rbf2(:)) < 1e-15 )
all( abs(rbf2(:)-rbf3(:)) < 1e-15 )

结果：

Elapsed time is 2.108313 seconds.     # PDIST2
Elapsed time is 1.975865 seconds.     # BSXFUN
Elapsed time is 2.706201 seconds.     # REPMAT

Answer 2

Amro提到了一些非常好的方法。但是，通过重塑其中一个矩阵可以进一步利用bsxfun。

>> type r.m

N = 5000;
X = rand(N,2);
Z = rand(N,2);
g = 0.5;

%BSXFUN+loop
tic
rbf2 = zeros(N,N);
for j=1:N
    rbf2(:,j) = exp( -g .* sum(bsxfun(@minus,Z,X(j,:)).^2,2) );
end
toc

tic
diffs = bsxfun(@minus, reshape(X', [1, 2, N]), Z);
dist = reshape(sum(diffs.^2, 2), [N, N]);
rbf3 = exp(-g .* dist);
toc

>> r
Elapsed time is 2.235527 seconds.
Elapsed time is 0.877833 seconds.
>> r
Elapsed time is 2.253943 seconds.
Elapsed time is 1.047295 seconds.
>> r
Elapsed time is 2.234132 seconds.
Elapsed time is 0.856302 seconds.
>> max(abs(rbf2(:) - rbf3(:)))

ans =

     0

你想从Z的每一行中减去X的每一行。当它们中的一个是矢量而另一个是矩阵时，这通常是直截了当的。但如果它们都是矩阵，我们可以通过确保卷中的每个矩阵只包含一个向量来实现。在这里我选择了X，但Z可以与X互换使用。