了解神经网络中的阈值

Question

考虑假设的神经网络here

[
    {
        "id" : 01,
        "subject": "history",
        "school_mark": 9,
        "user": 01
    },
    {
        "id" : 03,
        "subject": "math",
        "school_mark": 7,
        "user": 01
    }
]

我正确吗？

Answer 1

我认为这不是问这类问题的地方。您会在网上找到许多NN资源。对于您的简单情况，每个链接都有权重，因此基本上神经元3的输入是：

Neuron3Input = Neuron1Output * WeightOfLinkNeuron1To3 + Neuron2Output * WeightOfLinkNeuron2To3 +偏见。 然后，要获取输出，只需使用激活功能。 Neuron3Output = F_Activation（Neuron3Input）

O3 = F（O1 * W1 + O2 * W2 +偏置）

Answer 2

阈值用于二元神经元（我忘了技术名称），而偏差用于S型（几乎所有现代）神经元。您对阈值的理解是正确的，但是再次将其用于输出为1或0的神经元中，这对于学习（优化）不是很有用。对于S形神经元，您只需添加偏差（以前是阈值，但移至等式的另一侧），因此输出为f（权重*输入+偏差）。 Sigmoid函数所做的所有事情（大部分情况下）将输出限制为0到1之间的值