在使用Tensorflow占位符函数时,我应该考虑x0,阈值吗?

时间:2015-12-12 12:16:45

标签: python tensorflow

我目前正在通过监督学习使用张量流进行情绪分类项目。

在机器学习理论中,如你所知,总有一个x0是+1。在为输入数据集创建占位符时,该函数是否会自动生成x0部分?或者我应该手动指定它?

由于

1 个答案:

答案 0 :(得分:1)

有两种方式可以考虑x0。您的输入有一个额外的维度,其中始终包含1,然后神经网络中的线性回归或完全连接的图层将表示为:

out = W * in

其中*是矩阵向量乘法,或者更常见的是,不添加额外的维度,而是将其建模为

out = W * in + b

这部分是为了突出显示W(我们如何“加权”输入)和b之间的区别,这是我们“转移”它的多少({{1}被称为“偏见”的词。这种表示更为可取的另一个原因是因为将b规范化,而不是W规则化。

现在,回到你的问题,TensorFlow神经网络库根据权重矩阵和偏向量建模完全连接的层,因此你不需要在输入向量中添加额外的一个。

如果您使用低级Tensor操作而不是高级预定义层,则TensorFlow不会对您的输入做出任何假设,并且如果您希望根据对具有额外{{1的向量的操作来建模您的模型在其中,您有责任将b添加到该向量中,TensorFlow不会为您执行此操作。