Question

以下是demo.sh of glove中的超参数。 VERBOSE，MEMORY，WINDOW_SIZE和BINARY是什么意思。

WINDOW_SIZE是15，是否意味着从右边选择了15个单词，并从左边选择了15个单词？

VERBOSE=2        ?
MEMORY=4.0       ?
VOCAB_MIN_COUNT=5
VECTOR_SIZE=128
MAX_ITER=15
WINDOW_SIZE=15   ?
BINARY=2         ?
NUM_THREADS=8
X_MAX=100

Answer 1

VERBOSE是当今用于模型训练的常规参数，其值告诉函数在训练模型时要打印多少信息。通常，0意味着没有中间信息，1意味着最少，2意味着更多细节。（请检查：https://github.com/stanfordnlp/GloVe/blob/master/src/cooccur.c）以获取有关打印内容的更多详细信息。

MEMORY：我对此不太确定，但我认为这与模型训练的内存使用情况有关。（随时进行纠正和更新）

WINDOW_SIZE：是的，这是上下文的大小（请检查：https://github.com/stanfordnlp/GloVe/blob/master/src/cooccur.c）

BINARY：这是文件输出类型的切换选项。 0表示文本文件，1表示二进制文件，2表示两者（检查：https://github.com/stanfordnlp/GloVe/blob/master/src/glove.c）。

手套中超参数的含义

1 个答案: