我一直在尝试重新训练通用句子编码器模块(use),但是我似乎无法从任何更新/重新训练的模块权重中生成新的嵌入。
我遵循了classifier example for elmo
并将其替换为use模块。分类器有效,我似乎无法弄清楚如何访问新模块embeddings
。我可以恢复保存的模型,但不确定如何实际调用嵌入函数吗?
例如,以前我通过
m=hub.module(path) then generate the embeddings via
m(sentences)
但是如何使用已恢复的分类器模型进行此调用?请注意,我确实如示例教程中那样将参数设置为trainable=True
。
我是否只需拨打相同的电话,它会自动获得通过分类器重新训练而训练的新权重? 我已经检查过类似的问题,但其中大多数与操纵元图有关。我只想简单地使用新的权重来生成一些新的嵌入,以查看在对其他数据进行微调后它们是否有所不同。 也许这不可能吗?
任何澄清将不胜感激。
答案 0 :(得分:0)
所以当我运行分布式张量流并且损失没有改变时,我实际上遇到了这个问题。
诀窍在于,当您首次下载该文件时,需要将trainable设置为True,否则权重将被锁定。
因此,在您的情况下,请使用trainable = True重新下载模块以解锁权重。