错误解析稀疏ARFF与pyparsing

时间:2011-06-07 14:27:44

标签: python pyparsing arff

所有

我找到了一段代码来解析简单的ARFF文件,我想把它改成适合稀疏的ARFF,其数据看起来像:

@data
{0 12,4 37,8 First,20 'Some Thing'} 
{0 12,13 First,28 'Some Thing'}

这是代码:

def ParseFromSimpleARFF(data):
    arffFormat = Forward()
    E = CaselessLiteral("E")
    comment = '%' + restOfLine
    relationToken = Keyword('@RELATION', caseless=True)
    dataToken = Keyword('@DATA', caseless=True)
    attribToken = Keyword('@ATTRIBUTE', caseless=True)
    ident = Word( alphas, alphanums + '_-' ).setName('identifier')
    relation = Suppress(relationToken) \
               + ident.setResultsName('relation')    
    classDomain = Suppress('{') \
                  + Group(delimitedList(ident.setResultsName('domain'))).setResultsName('domains') + Suppress('}')
    attribute = Group(Suppress(attribToken)
                + Word(alphas).setResultsName('attrname')+(Word(alphas)|classDomain).setResultsName('type')).setResultsName('attribute')            
    arithSign = Word("+-",exact=1)
    realNum = Combine( Optional(arithSign) 
              + (Word( nums ) + "." + Optional( Word(nums) )|( "." + Word(nums) )) 
              + Optional( E + Optional(arithSign) + Word(nums) ))

    **#dataList = Group(delimitedList(realNum|ident)).setResultsName('record')
    dataList = Suppress('{') + Group( delimitedList(realNum|ident)).setResultsName('record')  + Suppress('}')**
    arffFormat << ( relation
                   + OneOrMore(attribute).setResultsName('attributes')
                   + dataToken
                   + OneOrMore(dataList).setResultsName('records')).setResultsName('arffdata')

    simpleARFF = arffFormat
    simpleARFF.ignore(comment)
    tokens =  simpleARFF.parseString(data) 
    return tokens

但它不起作用

我想我要告诉程序识别wihtespace,但我不知道如何

非常感谢

1 个答案:

答案 0 :(得分:2)

不,不,不! pyparsing的一个重要部分是“空白发生”!除非你使用基于缩进的解析或面向行的数据做一些棘手的事情,否则请将空格从解析器定义中删除。

您的问题是您定义为dataList的内容与您提供的列表不匹配。列表中每个逗号分隔的项都是一对值,似乎允许数字或带引号的字符串。因此将dataList定义为:

dataCell = realNum|ident|quotedString
dataList = Suppress('{') + Group( delimitedList(Group(dataCell + dataCell)))  + Suppress('}')

其他一些内容:

  • 没有必要将声明arffFormat转发为Forward()。只有在将数据嵌套在递归结构(即包含子数据的数据)中时,才需要这样做。您的示例没有,只需在arffFormat = (...etc.

  • 的末尾定义arffFormat
  • x.setResultsName('name')已被简单的x('name')取代,真正清理了解析器代码

  • 您定义了一个realNum(需要一个小数点),但样本中只有整数。我已经远离构建realNum类型的表达式,转而使用本地化的正则表达式:realNum = Regex(r"[+-]?\d+(\.\d*)?([Ee][+-]?\d+)?")将为您提供一个接受整数或实数的表达式。这也将允许您删除其他分散注意力的元素,如arithSign。

您可能也会过分关注结果名称。我认为这将为您提供对数据的非常好的洞察力,并在最后提供一个非常简单的导航结构:

arffFormat = ( relation
               + OneOrMore(attribute)('attributes')
               + dataToken
               + OneOrMore(dataList)('records'))('arffdata')