如何提取TREC文件?

时间:2016-12-27 11:19:33

标签: python python-3.x parsing

我一直在尝试使用上面的代码将TREC文档提取到单独的文本文件中,但我遇到了一些错误。以下是我的TREC文件内容示例,其中包含标记<DOC></DOC>之间的2个文档:

<DOC>
    <DOCNO>
       WSJ910102-0145
    </DOCNO>
    <DOCID>
       910102-0145.
    </DOCID>
    <HL>
       xxxx
    </HL>
    <DATE>
        01/02/91
    </DATE>
    <LP>
       text LP1
    </LP>
    <TEXT>
       text1
    </TEXT>
</DOC>
<DOC>
    <DOCNO>
        WSJ910102-0144
    </DOCNO>
    <DOCID>
        910102-0144.
    </DOCID>
    <HL>
       ....
    </HL>
    <DATE>
       01/02/91
    </DATE>
    <LP>
       text LP2
    </LP>
    <TEXT>
       text2
    </TEXT>
</DOC>

我想在一个单独的文本文件中提取每个文档。我必须得到标签的内容&#34; LP&#34;和&#34; TEXT&#34;文件编号为#34; DOCNO&#34;。这是我的代码:

text=text.replace('\n',' ').replace('\t', ' ')
i=0
txtDoc=''
regexTxt='(<LP>(.*?)</LP>)? <TEXT>(.*?)</TEXT>'
regexDoc='<DOC>(.*?)</DOC>'
regexDocNo='<DOCNO>(.*?)</DOCNO>'
pattern = compile(r'<DOC>(.*?)</DOC>')
iterator = finditer(pattern, text)
count = 0
for match in iterator:
    count +=1
res=re.search(regexDoc,text)
while (i<count):
    txtDoc=res.group(i)
    resNo=re.search(regexDocNo,txtDoc)
    docNo=resNo.group()
    docNo=docNo.replace('<DOCNO>', ' ').replace('</DOCNO>', ' ')
    res2=re.search(regexTxt,txtDoc)
    txt=res2.group()
    txt=txt.replace('<TEXT>', ' ').replace('</TEXT>', ' ').replace('<LP>',' ').replace('</LP>',' ')
    print("Document : %s \n %s" %(docNo,txt))
    i+=1

print ("Fin")

以下是打印结果:

Document :       WSJ910102-0145
          text1
Document :       WSJ910102-0145
          text1
Fin

我想得到这个:

Document :       WSJ910102-0145
           text LP1
           text1 
Document :       WSJ910102-0144
           text LP2
           text2
Fin

1 个答案:

答案 0 :(得分:4)

我会尝试使用xml解析器。这是一个如何解析这种结构的示例代码:

import xml.etree.ElementTree as ElementTree

with open('test.trec', 'r') as f:   # Reading file
    xml = f.read()

xml = '<ROOT>' + xml + '</ROOT>'   # Let's add a root tag

root = ElementTree.fromstring(xml)

# Simple loop through each document
for doc in root:
    print(
        'DOC NO: {}, DOC ID: {}, HL: {}, LP: {}, DATE: {}, TEXT: {}'.format( # Nice formatting py 3 \o/
            doc.find('DOCID').text.strip(),
            doc.find('HL').text.strip(),
            doc.find('DOCNO').text.strip(),
            doc.find('LP').text.strip(),
            doc.find('DATE').text.strip(),
            doc.find('TEXT').text.strip(),
        )
    )

添加根标记的解决方法是使xml可解析的必要条件。

示例输出:

DOC NO: 910102-0145., DOC ID: xxxx, HL: WSJ910102-0145, LP: text LP1, DATE: 01/02/91, TEXT: text1
DOC NO: 910102-0144., DOC ID: blabla, HL: WSJ910102-0144, LP: text LP2, DATE: 01/02/91, TEXT: text2