我目前正在通过监督学习使用张量流进行情绪分类项目。
在机器学习理论中,如你所知,总有一个x0是+1。在为输入数据集创建占位符时,该函数是否会自动生成x0部分?或者我应该手动指定它?
由于
答案 0 :(得分:1)
有两种方式可以考虑x0
。您的输入有一个额外的维度,其中始终包含1
,然后神经网络中的线性回归或完全连接的图层将表示为:
out = W * in
其中*
是矩阵向量乘法,或者更常见的是,不添加额外的维度,而是将其建模为
out = W * in + b
这部分是为了突出显示W
(我们如何“加权”输入)和b
之间的区别,这是我们“转移”它的多少({{1}被称为“偏见”的词。这种表示更为可取的另一个原因是因为将b
规范化,而不是W
规则化。
现在,回到你的问题,TensorFlow神经网络库根据权重矩阵和偏向量建模完全连接的层,因此你不需要在输入向量中添加额外的一个。
如果您使用低级Tensor操作而不是高级预定义层,则TensorFlow不会对您的输入做出任何假设,并且如果您希望根据对具有额外{{1的向量的操作来建模您的模型在其中,您有责任将b
添加到该向量中,TensorFlow不会为您执行此操作。