“ Epoch”在训练生成对抗网络时意味着什么

时间:2020-03-17 02:37:05

标签: tensorflow machine-learning deep-learning pytorch generative-adversarial-network

我正在用文本数据训练GAN。训练鉴别器时,我从数据集中随机采样正数据,并使用生成器生成m个负数据。我发现许多文章提到了有关实施细节的细节,例如培训纪元。关于训练纪元,我有一个关于采样阳性数据的问题:

  1. 按顺序从数据集中采样(可能会随机播放),当覆盖整个数据集时,我们称1个历元
  2. 就像我一样,对正数据进行随机采样,当采样数据的总数与数据集大小相同时,我们称1个历元

哪个是对的?或通常使用哪一个?还是哪个更好?

1 个答案:

答案 0 :(得分:1)

我认为,一个时期是您一次遍历整个训练数据。而且我认为在本文中,当提到一个时代时,它们也意味着要通过整个训练集。

但是,纪元也可以定义为在处理 k 个元素之后,其中 k 可以小于 n (训练集)。当您想要捕获对开发集上的模型的一些评估,并且通常在every single epoch之后进行评估时,这样的定义可能很有意义。

毕竟,这是我的看法和对GAN论文的理解。

祝你好运!