Question

我有一个大型文本文件的数据挖掘意见，每个都分为正面，负面，中立或混合。每行以＆＃34; +＆＃34;，＆＃34; - ＆＃34;，＆＃34; =＆＃34;或＆＃34; *＆＃34;开头。这些分类符对应。此外，以＆＃34; !!开头的行＆＃34;代表要忽略的评论。

下面是一个简单的Python脚本，它应该计算每个分类器并忽略注释行：

classes = [0, 0, 0, 0] # "+", "-", "=", "*"

f = open("All_Classified.txt")
for i, line in enumerate(f):
    line = line.strip()
    classifier = line.split(" ")[0]

    if classifier == "+": classes[0] += 1
    elif classifier == "-": classes[1] += 1
    elif classifier == "=": classes[2] += 1
    elif classifier == "*": classes[3] += 1
    elif classifier == "!!": continue
    else: print "Line "+str(i+1)+": \""+line+"\""
f.close()

print classes

以下是＆＃34; All_Classified.txt＆＃34;的前5行示例：

!! GROUP 1, 1001 - 1512
= 1001//CD TITLETITLE//NNP How//WRB many//JJ conditioners/conditioner/NNS do//VBP you//PRP have//VBP ?//. 
= 1002//CD I//PRP have//VBP two//CD different//JJ kinds/kind/NNS ,//, Garnier//NNP Fructis//NNP Triple//NNP Nutrition//NNP conditioner//NN ,//, and//CC Suave//NNP coconut//NN .//. 
= 1003//CD But//CC I//PRP think//VBP I//PRP have//VBP about//IN 8//CD bottles/bottle/NNS of//IN the//DT Suave//NNP coconut//NN My//PRP$ mom//NN gave/give/VBD me//PRP a//DT bunch//NN for//IN Christmas//NNP because//IN she//PRP was/be/VBD getting/get/VBG tired/tire/VBN of//IN me//PRP saying/say/VBG I//PRP was/be/VBD out//IN 
= 1004//CD TITLETITLE//NNP Need//VB a//DT gel//NN that//IN works/work/NNS ,//, 8//CD mo//NN ,//, post//NN ,//, ready//JJ to//TO relax//VB edges/edge/NNS ,//, HELP//NNP ,//,

无论出于何种原因，我的输出在第一次迭代期间触发else语句，好像它不能识别＆＃34; !!＆＃34;，我不知道为什么。我得到这个作为输出：

Line 1: "!! GROUP 1, 1001 - 1512"
[2986, 1034, 16278, 535]

此外，如果我从＆＃34; All_Classified.txt＆＃34;删除第一行。然后它无法识别＆＃34; =＆＃34;然后是第一行。不确定要按预期识别第一行需要做什么。

编辑（再次）：正如Peter所问，如果我将else: print "Line "+str(i+1)+": \""+line+"\""替换为else: print "Classifier "+classifier+ " Line "+str(i+1)+": \""+line+"\""，则输出结果如下：

Classifier !! Line 1: "!! GROUP 1, 1001 - 1512"
[2986, 1034, 16278, 535]

修改：第一部分使用xxd All_Classified.txt：

0000000: efbb bf21 2120 4752 4f55 5020 312c 2031  ...!! GROUP 1, 1
0000010: 3030 3120 2d20 3135 3132 0d0a 3d20 3130  001 - 1512..= 10
0000020: 3031 2f2f 4344 2054 4954 4c45 5449 544c  01//CD TITLETITL
0000030: 452f 2f4e 4e50 2048 6f77 2f2f 5752 4220  E//NNP How//WRB

Answer 1

我怀疑你的输入文件不是它的样子。例如，classifier可能包含一些在打印时未显示的控制字符（但会影响比较）：

>>> classifier = '!\0!'
>>> print classifier
!!
>>> classifier == '!!'
False

编辑你有它：

0000000: efbb bf21 2120
         ^^^^ ^^

它是UTF-8 BOM，它成为classifier的一部分。

尝试使用codecs.open()打开文件并使用"utf-8-sig"作为编码（例如，参见https://stackoverflow.com/a/13156715/367273）。

Python split（）在文件中的第一行没有按预期工作

1 个答案: