如何在张量流中使用波束搜索解码器中的调度采样。

Question

基本解码器包含一个用于添加辅助方法的参数，该辅助方法可以是一个计划采样助手。但是波束搜索解码不包含任何辅助参数。

虽然在代码中看起来使用了一些采样，但是不清楚是否使用了计划采样。 class BeamSearchDecoder（decoder.Decoder）：   “”BeamSearch采样解码器。“”“

知道并明白我的怀疑会很高兴。 会对这件事有所了解。 提前谢谢。

Answer 1

预定抽样助手用于培训。波束搜索解码器用于推理。您应该做的是：使用您在基本解码器中使用的相同单元创建光束搜索解码器，并在您想要执行推理时仅使用光束搜索解码器。