稀疏交叉熵损失,用于计算NLP问题中的损失。火炬

时间:2020-09-03 08:57:20

标签: nlp pytorch huggingface-transformers

我的输入张量看起来像:

torch.Size([8, 23])

// where,
// 8 -> batch size
// 23 -> words in each of them

我的输出张量看起来像:

torch.Size([8, 23, 103])

// where,
// 8 -> batch size
// 23 -> words predictions
// 103 -> vocab size.

我想为此任务计算稀疏交叉熵损失,但由于PyTorch仅计算损失单个元素,所以我无法计算。我该如何编码才能工作?感谢您的帮助。

0 个答案:

没有答案