CNTK:训练嵌入层是否用预训练嵌入初始化?

时间:2017-02-27 03:00:46

标签: cntk

Embedding图层(https://www.cntk.ai/pythondocs/layerref.html#embedding)的文档显示可以使用weights参数通过预训练嵌入来初始化它,但这些嵌入在训练期间不会更新。

有没有办法使用预训练嵌入来初始化Embedding图层并在训练期间仍然更新它们?

如果没有,那么批处理嵌入的最有效方法是使用一个热矢量查找?

1 个答案:

答案 0 :(得分:0)

是的,只需传递init参数的初始值即可。这将创建一个可学习的参数,该参数使用您传入的数组初始化。