标签： nlp bert-language-model
我想将我的Bert关系提取模型投入生产。但是，即使仅运行200个句子的预测也要花费大约20分钟，这对于生产使用来说太长了。我认为20分钟包括分配资源等。
有什么建议可以使它始终运行并减少时间吗？
非常感谢您！