从谷歌云存储桶运行 Eleuther AI GPT 模型

时间:2021-06-05 19:38:32

标签: python machine-learning nlp gpt-3

谁能就我如何从 Google 云存储桶中的语言模型生成提示提供建议?

我一直在使用 colab 笔记本来运行 Eleuther AI GPT Neo models。这很棒,除了每次实例超时时我都必须再次将模型复制到云存储桶。除了不方便之外,这还浪费带宽,因为模型的大小通常只有几 GB。因此,鉴于模型已经在我的云存储桶中,我希望能够查询它们而无需每次都复制它们。

现在,这应该很简单了。然而,似乎将模型从 colab 复制到存储桶的行为会生成很难手动解开的文件名和路径——我已经尝试了很久。

那么,我的问题是,给定一个包含 GPT 模型检查点和配置文件的云存储桶,我如何访问该模型并通过提示将其呈现?

0 个答案:

没有答案