来自预训练的pytext模型的注意权重

Question

有人知道如何从像XLM-RoBerta这样的pytext中将输入句子的注意力权重转移到预训练模型中吗？