Question

我正在学习TensorFlow。

我对Introduction中的代码有疑问：

import tensorflow as tf
import numpy as np

# Create 100 phony x, y data points in NumPy, y = x * 0.1 + 0.3
x_data = np.random.rand(100).astype(np.float32)
y_data = x_data * 0.1 + 0.3

# Try to find values for W and b that compute y_data = W * x_data + b
# (We know that W should be 0.1 and b 0.3, but TensorFlow will
# figure that out for us.)
W = tf.Variable(tf.random_uniform([1], -1.0, 1.0))
b = tf.Variable(tf.zeros([1]))
y = W * x_data + b

# Minimize the mean squared errors.
loss = tf.reduce_mean(tf.square(y - y_data))
optimizer = tf.train.GradientDescentOptimizer(0.5)
train = optimizer.minimize(loss)

# Before starting, initialize the variables.  We will 'run' this first.
init = tf.global_variables_initializer()

# Launch the graph.
sess = tf.Session()
sess.run(init)

# Fit the line.
for step in range(201):
    sess.run(train)
    if step % 20 == 0:
        print(step, sess.run(W), sess.run(b))

# Learns best fit is W: [0.1], b: [0.3]

该程序学习W和b的最佳拟合。

如果我不知道公式（y = W * x_data + b），我该如何训练模型？

例如，这是一套训练集：

{input = {{1,1}, {1,2}, {2,3}, ... },  target = {2, 3, 5, ...}}

如何训练一个函数（a，b）〜=（a + b）？

Answer 1

在大多数情况下，我们不知道客观公式的确切形式。因此，我们必须设计一个函数并尝试通过该函数逼近客观公式。在神经网络中，公式由网络架构（例如，多层感知器或递归神经网络）和超参数（例如，隐藏层的数量，隐藏层中的神经元的数量）来定义。

在这种特殊情况下，例如，您可以假设近似函数的形式为（y = Wa + Ub + C - 线性感知器）并训练此函数的参数（W，U，C）近似使用给定数据的目标公式（y = a + b）的参数。

Answer 2

神经网络是一种通用函数逼近器：即，对于任何函数（线性，多项式等），神经网络可以在隐藏层中具有足够节点和激活函数的情况下近似它。非线性激活函数（例如，sigmoid，tanh，ReLU）将会弯曲＆＃34;由Wx + b产生的线性边界是非线性的。

如何在不给出公式的情况下使用TensorFlow训练模型？

2 个答案: