我正在研究文本自动编码器，所以想要使用负抽样来训练我们的模型。我想知道负采样和采样softmax之间的区别。
提前致谢
答案 0 :(得分：1)
https://www.tensorflow.org/extras/candidate_sampling.pdf
根据张量流量负采样与物流损失有关，而采样softmax与softmax有关。
两者都是核心，选择一个负面例子样本来计算损失并更新渐变。
对于您的模型，如果您的输出非常大（许多类）并且常规丢失计算速度太慢，请使用它。如果输出的类很少，那么增益就不多了。如果训练速度很快，为什么还要用近似值。