使用常数cntk进行权重/偏差初始化

时间:2017-04-08 03:44:22

标签: cntk

有没有办法用常数矩阵初始化权重/偏差。例如,代替Dense(hidden_​​layers_dim_1,init = he_normal()),我可以做Dense(hidden_​​layers_dim_1,init = W),其中W是一个浮点矩阵。

1 个答案:

答案 0 :(得分:0)

<强> 更新-1

根据参数文档here

密集层似乎接受numpy数组和常量值作为初始权重(cntk-2.0rc3)。

图层无法获取初始权重值。但是,您可以在任何适当的层中使用init_bias命名参数传递初始偏差值。但是,如果你必须使用初始权重值,我猜你已经创建了一个变量并像你一样定义了你自己的网络。即。

features = <your_input_var>
W = cntk.Parameter((<proper_shape>), init=<intial_value>)
B = cntk.Parameter((<proper_shape>), init=<intial_value>)

output = features @ W + B;