Question

我正在尝试从答案中实施建议： Tensorflow: how to save/restore a model?

我有一个以tensorflow样式包装sklearn模型的对象。

import tensorflow as tf
class tflasso():
    saver = tf.train.Saver()
    def __init__(self,
                 learning_rate = 2e-2,
                 training_epochs = 5000,
                    display_step = 50,
                    BATCH_SIZE = 100,
                    ALPHA = 1e-5,
                    checkpoint_dir = "./",
             ):
        ...

    def _create_network(self):
       ...


    def _load_(self, sess, checkpoint_dir = None):
        if checkpoint_dir:
            self.checkpoint_dir = checkpoint_dir

        print("loading a session")
        ckpt = tf.train.get_checkpoint_state(self.checkpoint_dir)
        if ckpt and ckpt.model_checkpoint_path:
            self.saver.restore(sess, ckpt.model_checkpoint_path)
        else:
            raise Exception("no checkpoint found")
        return

    def fit(self, train_X, train_Y , load = True):
        self.X = train_X
        self.xlen = train_X.shape[1]
        # n_samples = y.shape[0]

        self._create_network()
        tot_loss = self._create_loss()
        optimizer = tf.train.AdagradOptimizer( self.learning_rate).minimize(tot_loss)

        # Initializing the variables
        init = tf.initialize_all_variables()
        " training per se"
        getb = batchgen( self.BATCH_SIZE)

        yvar = train_Y.var()
        print(yvar)
        # Launch the graph
        NUM_CORES = 3  # Choose how many cores to use.
        sess_config = tf.ConfigProto(inter_op_parallelism_threads=NUM_CORES,
                                                           intra_op_parallelism_threads=NUM_CORES)
        with tf.Session(config= sess_config) as sess:
            sess.run(init)
            if load:
                self._load_(sess)
            # Fit all training data
            for epoch in range( self.training_epochs):
                for (_x_, _y_) in getb(train_X, train_Y):
                    _y_ = np.reshape(_y_, [-1, 1])
                    sess.run(optimizer, feed_dict={ self.vars.xx: _x_, self.vars.yy: _y_})
                # Display logs per epoch step
                if (1+epoch) % self.display_step == 0:
                    cost = sess.run(tot_loss,
                            feed_dict={ self.vars.xx: train_X,
                                    self.vars.yy: np.reshape(train_Y, [-1, 1])})
                    rsq =  1 - cost / yvar
                    logstr = "Epoch: {:4d}\tcost = {:.4f}\tR^2 = {:.4f}".format((epoch+1), cost, rsq)
                    print(logstr )
                    self.saver.save(sess, self.checkpoint_dir + 'model.ckpt',
                       global_step= 1+ epoch)

            print("Optimization Finished!")
        return self

当我跑步时：

tfl = tflasso()
tfl.fit( train_X, train_Y , load = False)

我得到输出：

Epoch:   50 cost = 38.4705  R^2 = -1.2036
    b1: 0.118122
Epoch:  100 cost = 26.4506  R^2 = -0.5151
    b1: 0.133597
Epoch:  150 cost = 22.4330  R^2 = -0.2850
    b1: 0.142261
Epoch:  200 cost = 20.0361  R^2 = -0.1477
    b1: 0.147998

然而，当我尝试恢复参数时（即使没有杀死对象）： tfl.fit( train_X, train_Y , load = True)

我得到了奇怪的结果。首先，加载的值与保存的值不对应。

loading a session
loaded b1: 0.1          <------- Loaded another value than saved
Epoch:   50 cost = 30.8483  R^2 = -0.7670
    b1: 0.137484

加载的正确方法是什么，可能首先检查已保存的变量？

Answer 1

TL; DR：您应该尝试重做此类，以便{i}仅调用{i}}一次，并且（ii）在构造self.create_network()之前调用tf.train.Saver()。

这里有两个微妙的问题，这是由于代码结构和tf.train.Saver constructor的默认行为。当您构造一个没有参数的保护程序时（如在您的代码中），它会收集程序中的当前变量集，并将操作添加到图中以保存和恢复它们。在您的代码中，当您调用tflasso()时，它将构建一个保护程序，并且不会有变量（因为尚未调用create_network()）。因此，检查点应为空。

第二个问题是 - 默认情况下 - 保存的检查点的格式是从name property of a variable到其当前值的映射。如果您创建两个具有相同名称的变量，它们将由TensorFlow自动“无法识别”：

v = tf.Variable(..., name="weights")
assert v.name == "weights"
w = tf.Variable(..., name="weights")
assert v.name == "weights_1"  # The "_1" is added by TensorFlow.

这样做的结果是，当您在第二次调用self.create_network()时调用tfl.fit()时，变量将与存储在检查点中的名称具有不同的名称 - 或者本来是如果在网络之后构建了保护程序。（您可以通过将名称 - Variable字典传递给保护程序构造函数来避免此行为，但这通常很尴尬。）

有两种主要的解决方法：

在每次调用tflasso.fit()时，通过定义新的tf.Graph重新创建整个模型，然后在该图表中构建网络并创建tf.train.Saver。
推荐创建网络，然后在tf.train.Saver构造函数中创建tflasso，并在每次调用tflasso.fit()时重复使用此图表。请注意，您可能需要做更多的工作来重新组织事物（特别是，我不确定您使用self.X和self.xlen做了什么）但是应该可以使用{{3和喂养。

tensorflow：保存和恢复会话

1 个答案: