关于word2vec连续词袋(CBOW)的疑问

时间:2017-03-05 01:30:01

标签: machine-learning nlp word2vec

enter image description here

对于CBOW模型,INPUT单词是同时还是逐个输入训练模型?

由于

2 个答案:

答案 0 :(得分:1)

  

对于CBOW模型,INPUT单词是同时还是逐个输入训练模型?

CBOW模型的输入是当前单词的前后单词。神经网络的输出将是当前的单词。因此,您可以将任务视为"根据其上下文预测单词"。

因此,上下文单词或输入单词(根据您的问题)在培训期间同时提供给网络。

答案 1 :(得分:-1)

这是word2vec连续词袋(CBOW)的更具描述性的图表 word2vec Continuous bag-of-words (CBOW)

这些单词X_1到X_c在训练期间同时输入。

来源:https://iksinc.wordpress.com/tag/continuous-bag-of-words-cbow/

论文进一步讨论:http://www-personal.umich.edu/~ronxin/pdf/w2vexp.pdf