OpenAI GPT-2模型与TensorFlow JS一起使用

Question

是否可以使用TensorFlowJS从OpenAI GPT-2生成文本？

如果没有限制，例如模型格式或...？

Answer 1

我看不出为什么不这样做，除了可能是tensorflowjs不支持的gpt-2中的某些操作。

我不知道该怎么做，但这是一个不错的起点：

install.sh

python3 -m pip install -q git+https://github.com/huggingface/transformers.git
python3 -m pip install tensorflow tensorflowjs

save.py

from transformers import TFGPT2LMHeadModel, GPT2Tokenizer
import tensorflowjs
tokenizer = GPT2Tokenizer.from_pretrained("gpt2")
# add the EOS token as PAD token to avoid warnings
model = TFGPT2LMHeadModel.from_pretrained("gpt2", pad_token_id=tokenizer.eos_token_id)
model.save("./test_gpt2")

将为您提供一个SavedModel文件。现在，您可以尝试找出输入和输出节点，并使用tensorflowjs_converter进行转换。指针：https://www.tensorflow.org/js/tutorials/conversion/import_saved_model。