如何获得神经网络中权重与损失的凸曲线

时间:2018-01-23 11:30:01

标签: python machine-learning neural-network deep-learning gradient-descent

在大多数神经网络文献中,权重,偏差和损失函数的三维图如下所示, enter image description here 当我尝试时,我获得了这样的情节 enter image description here

以下是更多细节,以下是数据集的一瞥,有15,000个训练样例, enter image description here

以下是使用的成本函数的公式, enter image description here

enter image description here

带有代码和可视化的

Here is the link to the ipython notebook

我想获得类似于第一张图片中显示的曲线以供演示。

1 个答案:

答案 0 :(得分:1)

要获得凸曲线,请执行以下操作:

在x轴上绘制系数w(权重) 在y轴上绘制截距b 在z轴上绘制交叉熵。

定义w和b的范围并计算每对w的交叉熵b,b

在3D中绘制x,y,z值。已经完成了。