通过全批量培训将信件图像训练到神经网络

时间:2016-11-18 18:05:21

标签: python numpy machine-learning neural-network artificial-intelligence

根据https://radioml.com/research/(纯Python与NumPy),我想建立一个简单的(在最简单的学习目的)神经网络(Perceptron),可以训练识别" A"信件。在本教程中,在提出的示例中,他们构建了一个可以学习" AND"逻辑运算符。在这种情况下,我们有一些输入(4 * 3矩阵)和一个输出(4 * 1矩阵):

this tutorial

每次我们用输入矩阵减去输出矩阵并计算误差和更新率等等。

现在我想将图像作为输入,在这种情况下,我的输出是什么?如何定义该图像是" A"信件?一个解决方案是定义" 1" as" A"信和" 0"为"非A" ,但如果我的输出是标量,我如何用隐藏层减去它并计算错误和更新权重?本教程使用"完整批处理"训练并将整个输入矩阵与权重矩阵相乘。我想用这种方法。最终的目标是设计一个能够识别" A"最简单的信件。我不知道该怎么做。

1 个答案:

答案 0 :(得分:2)

Fist off:很好,您尝试通过从头开始编程来理解神经网络,而不是从一些复杂的库开始。让我试着澄清一下:你的理解:

  

每次我们用输入矩阵减去输出矩阵并计算误差和更新率等等。

不是很正确。在您的示例中,输入矩阵X是您提供给神经网络输入的内容。输出Y是您希望网络为X执行的操作:第一个元素Y[0]是第一行X的所需输出,依此类推。我们经常将其称为"目标向量"。现在,为了计算损失函数(即误差),我们将网络的输出(链接的示例代码中的L2)与目标向量Y进行比较。换句话说,我们将我们想要网络要做的事情(Y)与真正所做的事情进行比较(L2)。然后我们朝着更接近Y的方向迈出一步。

现在,如果要将图像用作输入,则应将图像中的每个像素视为一个输入变量。以前,我们有两个输入变量:A和B,我们想要计算X =A∧B。

示例

如果我们拍摄一个8×8像素的图像,我们有8 * 8 = 64个输入变量。因此,我们的输入矩阵X应该是一个包含65列的矩阵(图像的64个像素+ 1个输入作为偏置项,常常= 1),每个训练示例有一行。例如。如果你有26个字母中每个字母的一个图像,矩阵将包含26行。

输出(目标)向量Y应与X具有相同的长度,即前一个示例中的26。如果相应的输入行是A,则Y中的每个元素为1,如果是另一个字母,则为0。在我们的示例中,Y[0]为1,Y[1:]为0。

现在,您可以使用与以前相同的代码:输出L2将是包含网络预测的向量,然后您可以像以前一样将其与Y进行比较。

tl; dr 关键的想法是忘记图像是2D,并将每个输入图像存储为矢量。