标签： huggingface-transformers
我想从头开始在训练LM时使用全字掩码。我找不到如何使用Trainer应用此选项的方法。 我认为应该在“类DataCollatorForLanguageModeling”中管理此选项，但是我找不到用于全字掩盖的选项。 我是在看错地方还是尚未实施？ 如果没有，可以使用run_language_modeling.py吗？
感谢您的帮助！ 谢谢