如何在云中部署张量流模型,当作为输入给出时可以学习和更新权重。由于我看到的大多数部署方法都涉及模型冻结,这也意味着权重冻结。有可能还是后者是唯一的方法?
答案 0 :(得分:0)
冻结模型是最紧凑的形式,它使您可以使用较小的推理节点,您可以将其称为仅预测,并且只有必要的信息才能做到这一点。
如果您想进行建模并使其可以在线学习并进行推理,则可以使所有图形都具有最新的权重。为了安全起见,请不时节省重量。当然,您可以有两个程序,一个可以推断最新的冻结模型,另一个可以不时使用最后保存的权重进行新的训练。我建议您第二种选择。希望对您有帮助!