使用学习参数学习其他参数

Question

是否有这样做的名称 - 如果是这样，它通常不赞成？我无法通过网络学习某个模型参数...但与其他参数的地面实况（实验室测试）相比，可以获得良好的结果。我想知道我是否可以将这些学习的参数用作另一个网络的输入，以便学习最初给算法带来很大困难的参数。

Answer 1

一般来说，训练一个模型以模仿其他模型的行为称为模型转移。关于它的文献丰富且不断增长。很多这项工作往往是相当研究。我特别喜欢Geoffrey Hinton的Dark Knowledge演讲。