Question

NLTK perceptron tagger的标签集是什么？什么是用于预训练模型的语料库？

我试图从NLTK网站上找到官方信息。但他们没有那个。

Answer 1

从https://github.com/nltk/nltk/pull/1143开始，我们看到它是https://spacy.io/blog/part-of-speech-pos-tagger-in-python

的端口

受过训练的tagdict中的标记集包含以下标记：

>>> from nltk.tag import PerceptronTagger
>>> tagger = PerceptronTagger()
>>> set(tagger.tagdict.values())
set(['PRP$', 'VBG', 'VBD', '``', 'VBN', "''", 'VBP', 'WDT', 'JJ', 'WP', 'VBZ', 'DT', '#', '$', 'NN', ')', '(', ',', '.', 'TO', 'PRP', 'RB', ':', 'NNS', 'NNP', 'VB', 'WRB', 'CC', 'CD', 'EX', 'IN', 'WP$', 'MD', 'JJS', 'JJR'])

完整的标记集是：

>>> sorted(tagger.classes)
['#', '$', "''", '(', ')', ',', '.', ':', 'CC', 'CD', 'DT', 'EX', 'FW', 'IN', 'JJ', 'JJR', 'JJS', 'LS', 'MD', 'NN', 'NNP', 'NNPS', 'NNS', 'PDT', 'POS', 'PRP', 'PRP$', 'RB', 'RBR', 'RBS', 'RP', 'SYM', 'TO', 'UH', 'VB', 'VBD', 'VBG', 'VBN', 'VBP', 'VBZ', 'WDT', 'WP', 'WP$', 'WRB', '``']

这是Penn Treebank Tagset：https://www.ling.upenn.edu/courses/Fall_2003/ling001/penn_treebank_pos.html

NLTK perceptron tagger的标签集是什么？

1 个答案: