要求gpt-2用拥抱的脸部变形金刚完成句子

Question

我目前正在使用gpt-2的huggestface变形金刚库的示例脚本run_generation.py从左侧上下文生成文本：

$ python transformers/examples/run_generation.py \
  --model_type gpt2 \
  --model_name_or_path gpt2 \
  --prompt "Hi, " --length 5

=== GENERATED SEQUENCE 1 ===
Hi,  could anyone please inform me

我想生成完整的简短句子。有什么办法告诉模型在length个单词之前完成句子？

---

注意：我不介意更改模型，但希望使用自动回归模型。

Answer 1

很遗憾，没有办法这样做。您可以将length参数设置为更大的值，然后只丢弃最后的不完整部分。

即使GPT3也不支持在特定的length之前完成句子。虽然GPT3支持“序列”。满足特定条件时，序列会强制模型停止。您可以在article

中找到有关的更多信息。