Question

有人检查一下我猜输入/隐藏/输出层中的神经元数量是否正确，请求整体参数。

我对这个ANN的想法：

输入神经元：784（28x28）
隐藏层：1
隐藏层的大小：25
激活功能：Log-sigmoid
训练方法：梯度下降
数据大小：400 + 200

有400个bmp图像用于训练，200个用于检查（但只有1-50个被猜到100％率，其他0％率......）

clear all;
clc
for kk=1:400
    pl=ones(28,28);                     %³õÊ¼»¯28*28¶þÖµÍ¼ÏñÎªÈ«°×
    m=strcat('b',int2str(kk),'.bmp');   %Á¬½Ó×Ö·ûµÃµ½Ñù±¾ÎÄ¼þÃû
    x=imread(m,'bmp');                  %¶ÁÈëÑÐ±¾ÎÄ¼þÍ¼Ïñ
    pl=im2bw(x,0.5);                    %°ÑÑù±¾Í¼Ïñ×ª»¯Îª¶þÖµÍ¼
    for m=0:27                          %ÐÎ³ÉÉñ¾ÍøÂçÊäÈëÏòÁ¿
        p(m*28+1:(m+1)*28,kk)=pl(1:28,m+1);
    end
end
%ÊÖÐ´ÌåÑù±¾¶ÔÓ¦µÄÊý×Ö£¨´Ób1.bmpµ½b400.bmp ¹²400¸ö£©£º
t=[5 0 4 1 9 2 1 3 1 4 3 6 3 6 1 7 2 8 6 9 4 0 9 1 1 2 4 3 2 7 8 8 6 9 0 5 6 0 7......
   6 1 8 7 9 3 9 8 5 9 3 3 0 7 4 9 8 0 9 4 1 4 4 6 0 4 5 6 1 0 0 1 7 1 6 3 0 2 1......
   1 7 8 0 2 6 7 8 3 9 0 4 6 7 4 6 8 0 7 8 3 1 5 7 1 7 1 1 6 3 0 2 9 3 1 1 0 4 9......
   2 0 0 2 0 2 7 1 8 6 4 1 6 3 4 1 9 1 3 3 9 5 4 7 7 4 2 8 5 8 6 0 3 4 6 1 9 9 6......
   0 3 7 2 8 2 9 4 4 6 4 9 7 0 9 2 7 5 1 5 9 1 2 3 1 3 5 9 1 7 6 2 8 2 2 6 0 7 4......
   9 7 8 3 2 1 1 8 3 6 1 0 3 1 0 0 1 1 2 7 3 0 4 6 5 2 6 4 7 1 8 9 9 3 0 7 1 0 2......
   0 3 5 4 6 5 8 6 3 7 5 8 0 9 1 0 3 1 2 2 3 3 6 4 7 5 0 6 2 7 9 8 5 9 2 1 1 4 4......
   5 6 4 1 2 5 3 9 3 9 0 5 9 6 5 7 4 1 3 4 0 4 8 0 4 3 6 8 7 6 0 9 7 5 7 2 1 1 6......
   8 9 4 1 5 2 2 9 0 3 9 6 7 2 0 3 5 4 3 6 5 8 9 5 4 7 4 2 7 3 4 8 9 1 9 2 1 7 9......
   1 8 7 4 1 3 1 1 0 2 3 9 4 9 2 1 6 8 4 7 7 4 4 9 2 5 7 2 4 4 2 1 9 2 2 8 7 6 9...... 
   8 2 3 8 1 6 5 1 1 0];
%´´½¨BPÍøÂç
pr(1:784,1)=0;
pr(1:784,2)=1;
t1=clock;                   %¼ÆÊ±¿ªÊ¼
%ÉèÖÃÑµÁ·²ÎÊý
net=newff(pr,[25 1],{'logsig','purelin'},'traingdx','learngdm');
net.trainParam.epochs=5000;             %ÉèÖÃÑµÁ·´ÎÊý
net.trainParam.goal=0.05;               %ÉèÖÃÐÔÄÜº¯Êý
net.trainParam.show=10;                 %Ã¿10ÏÔÊ¾
net.trainParam.Ir=0.05;                 %ÉèÖÃÑ§Ï°ËÙÂÊ
net=train(net,p,t);                     %ÑµÁ·BPÍøÂç
datat=etime(clock,t1)                   %¼ÆËãÉè¼ÆÍøÂçµÄÊ±¼äÎª66.417s
%Éú³É²âÊÔÑù±¾
pt(1:784,1)=1;                       
pl=ones(28,28);                         %³õÊ¼»¯28*28¶þÖµÍ¼ÏñÏñËØ
for kk=401:600
    pl=ones(28,28);                     %³õÊ¼»¯28*28¶þÖµÍ¼ÏñÎªÈ«°×
    m=strcat('b',int2str(kk),'.bmp');   %Á¬½Ó×Ö·ûµÃµ½Ñù±¾ÎÄ¼þÃû
    x=imread(m,'bmp');                  %¶ÁÈëÑÐ±¾ÎÄ¼þÍ¼Ïñ
    pl=im2bw(x,0.5);                    %°ÑÑù±¾Í¼Ïñ×ª»¯Îª¶þÖµÍ¼
    for m=0:27                          %ÐÎ³ÉÉñ¾ÍøÂçÊäÈëÏòÁ¿
        pt(m*28+1:(m+1)*28,kk-400)=pl(1:28,m+1);
    end
end
[a,Pf,Af]=sim(net,pt);                  %ÍøÂç·ÂÕæ
a=round(a)                              %Êä³öÊ¶±ð½á¹û
%²âÊÔÑù±¾¶ÔÓ¦µÄÊý×Ö£¨´Ób401.bmpµ½b600.bmp ¹²200¸ö£©£º
tl=[2 6 4 5 8 3 1 5 1 9 2 7 4 4 4 8 1 5 8 9 5 6 7 9 9 3 7 0 9......
   0 6 6 2 3 9 0 7 5 4 8 0 9 4 1 1 8 7 1 2 6 1 0 3 0 1 1 8 2 0 3 9 4 0 5 0 6 1 7......
   7 8 1 9 2 0 5 1 2 2 7 3 5 4 4 7 1 8 3 9 6 0 3 1 1 2 0 3 5 7 6 8 2 9 5 8 5 7 4...... 
   1 1 3 1 7 5 5 5 2 5 8 2 0 9 7 7 5 0 9 0 0 8 9 2 4 8 1 6 1 6 5 1 8 3 4 0 5 5 8...... 
   3 4 2 3 9 2 1 1 5 2 1 3 2 8 7 3 7 2 4 6 9 7 2 4 2 8 1 1 3 8 4 0 6 5 9 3 0 9 2......
   4 7 1 1 9 4 2 6 1 8 9 0 6 6 7];
k=0;
for i=1:200
    if a(i)==tl(i)
        k=k+1;
    end
end
rate=1.00*k/200;                        %¼ÆËã×îºóÕýÈ·ÂÊÎª0.495

Answer 1

我可能错了，因为您没有指定数据集中输出神经元的数量和每个类的模式数。但是，您似乎只为网络创建了一个输出神经元。在这种情况下，网络将所有模式分配给同一个类，并且您获得的分类准确度等于先验概率。例如，如果数据集的前50个模式属于同一个类，而其余模式属于不同的类，则具有一个输出的分类器将所有模式分配给第一个类，因此您将获得前50个权限。

如果是这种情况，您应该创建一个具有N个输出的分类器，其中N是数据集中的类数。在这种情况下，分类器将为每个类投票，并且模式将被分配给具有最大输出的类。例如，如果您有3个类，并且特定模式的输出为[0.2,0.83,0.6]，则该模式将分配给第二个类。

此外，将图像转换为黑白可能不是最好的方法。最好将图像转换为灰度（在某种程度上保留直方图），并使用一些标准化来补偿光照的差异。

最后，请记住神经网络基本上检测输入向量之间的相似性。因此，如果您需要对图片进行分类，您需要找到一种表示，使得相似的图像产生类似的输入向量。将像素的值馈送到分类器中不是这种表示。例如，如果将图像上下颠倒，则输入矢量会完全改变，即使它仍然显示相同的对象。你不希望这样。您需要依赖于所显示对象的特征，而不是依赖于光照/角度等。但是，提取这些特征完全是另一回事（例如，参见OpenCV框架中image preprocessing和feature extraction的一些示例，C ++ / python中的标准图像处理和计算机视觉工具

如果您对神经网络而不是图像处理感兴趣，最好从UCI repository（例如鸢尾花，威斯康星州乳腺癌）的一些标准分类问题开始，并与它们一起练习，直到您产生使用您正在使用的工具，效果很好，感觉很舒服。

MATLAB中特定ANN的体系结构

1 个答案: