所以我正在尝试使用PLY构建解析器,但它不起作用。它给了我一些我似乎无法解决的错误。为了测试目的,我提取了我放入另一个文件的解析器的一小部分:它也不起作用。
以下是我似乎无法解决的简化问题:
输入示例
#Trying to parse properties following the patter X1[some text]X2[other text]
#Simplified input used
GM[1]US[hello]
根据我的理解,解析器读取第一个属性(GM [1])并在第二个属性上触发错误。他正在尽可能缩短(我的规则确实允许)并读取一个属性。然后,没有更多规则要遵循第二个规则,这会触发错误。
问题是:你能帮我正确编写规则吗?
parser.py
#For simplicity, i only give you the rules, and removed operations on the tree.
def p_properties(self,p):
"properties : property property_list"
def p_property_list(self,p):
"property_list : "
" | properties"
def p_property(self,p):
"property : PROPERTY_NAME single_property_content"
def p_single_property_content(self,p):
"single_property_content : OBRACKET TEXT CBRACKET"
起始规则是“属性”。我希望输入属性( GM [1] )匹配规则属性,第二个匹配匹配property_list 。但我认为第一条规则匹配属性 AND property_list (作为property_list中的空产生),后者减少为属性。然后,没有更多可用于读取第二个属性的规则。
以下是解析器的输出:
State : 0
Stack : . LexToken(PROPERTY_NAME,'GM',1,0)
Action : Shift and goto state 2
State : 2
Stack : PROPERTY_NAME . LexToken(OBRACKET,'[',1,2)
Action : Shift and goto state 4
State : 4
Stack : PROPERTY_NAME OBRACKET . LexToken(TEXT,'1',1,3)
Action : Shift and goto state 7
State : 7
Stack : PROPERTY_NAME OBRACKET TEXT . LexToken(CBRACKET,']',1,4)
Action : Shift and goto state 8
State : 8
Defaulted state 8: Reduce using 4
Stack : PROPERTY_NAME OBRACKET TEXT CBRACKET . None
Action : Reduce rule [single_property_content -> OBRACKET TEXT CBRACKET] with ['[','1',']'] and goto state 5
Result : <tuple @ 0x7fea37eb4588> (('single_property_content', '1'))
State : 5
Defaulted state 5: Reduce using 3
Stack : PROPERTY_NAME single_property_content . None
Action : Reduce rule [property -> PROPERTY_NAME single_property_content] with ['GM',<tuple @ 0x7fea37eb4588>] and goto state 3
Result : <tuple @ 0x7fea3964f798> (('property', 'GM', ('single_property_con ...)
State : 3
Defaulted state 3: Reduce using 2
Stack : property . None
Action : Reduce rule [property_list -> <empty>] with [] and goto state 6
Result : <NoneType @ 0xa3f020> (None)
State : 6
Defaulted state 6: Reduce using 1
Stack : property property_list . None
Action : Reduce rule [properties -> property property_list] with [<tuple @ 0x7fea3964f798>,None] and goto state 1
Result : <tuple @ 0x7fea3964f678> (('properties', ('property', 'GM', ('sing ...)
State : 1
Stack : properties . LexToken(PROPERTY_NAME,'US',1,5)
ERROR: Error : properties . LexToken(PROPERTY_NAME,'US',1,5)
Error while parsing : LexToken(PROPERTY_NAME,'US',1,5)
State : 1
Stack : properties . error
ERROR: Error : properties . error
State : 0
Stack : . error
ERROR: Error : . error
State : 0
Stack : . LexToken(OBRACKET,'[',1,7)
ERROR: Error : . LexToken(OBRACKET,'[',1,7)
State : 0
Stack : . LexToken(TEXT,'hello',1,8)
ERROR: Error : . LexToken(TEXT,'hello',1,8)
State : 0
Stack : . LexToken(CBRACKET,']',1,13)
ERROR: Error : . LexToken(CBRACKET,']',1,13)
State : 0
Stack : . $end
ERROR: Error : . $end
None
我已经用15种不同的方式修改了这些规则(右递归,左边),无济于事。你能告诉我我做错了吗?
修改 在实现解决方案之后遇到一些麻烦(仅当我解析了2个元素但解析了更多创建的错误时才有效),我设法让它工作,感谢@ rici的帮助。
解决方案
def p_properties(self,p):
"""
properties : property_list property
"""
p[0] = ('properties',p[1], p[2])
def p_property_list(self,p):
"""
property_list : property_list property
|
"""
if(len(p)==3):
p[0] = ('property_list',p[1],p[2])
def p_property(self,p):
"""
property : PROPERTY_NAME property_content_list
"""
p[0] = ('property', p[1], p[2])
输入
GM[1]AP[hello]AW[world]C[1.this is a comment]C[2.this is a comment]C[3.this is a comment]
TM[50]WR[alalala]GM[will it fail?]GM[should succeed]
结果
('properties', ('property_list', ('property_list', ('property_list',
('property_list', ('property_list', ('property_list',
('property_list',('property_list', ('property_list', None,
('property', 'GM', ('property_content', '1'))),
('property', 'AP', ('property_content','hello'))),
('property', 'AW', ('property_content', 'world'))),
('property', 'C', ('property_content', '1.this is a comment'))),
('property', 'C', ('property_content', '2.this is a comment'))),
('property', 'C', ('property_content', '3.this is a comment'))),
('property', 'TM', ('property_content', '50'))), ('property', 'WR',
('property_content', 'alalala'))), ('property', 'GM',
('property_content','will it fail?'))),
('property', 'GM', ('property_content', 'should succeed')))
感谢您的帮助。
卢瓦克。
答案 0 :(得分:1)
Ply解析器的产生包含在docstring中,它是函数开头的第一个字符串文字(如果有的话)。
p_property_list
的文档字符串因此是property_list:
。 (您可以通过查看p_property_list.__doc__
来确认这一点。)这就是Ply看到的所有内容。如果要为单个函数提供多个生成,请使用单个多行字符串文字,这就是为什么您通常会将原始字符串文字视为docstrings:
def p_property_list(self, p):
"""property_list:
| property_list property
"""
# ...
然而,在这种情况下使用两种不同的功能是很常见的。见下文。
除非必要,否则不要使用正确的递归。正确的语法是:property_list: property
| property_list property
property: PROPERTY_NAME single_property_content
如果您愿意,可以拨打第一个作品properties
,但不需要两个不同的非终端。 (您可能也不需要single_property_content
,但这取决于您的其他语法。)
在Ply中,无需将缩减功能与非终端对齐。对于减少动作不同的不同替代方案使用不同的功能是很常见的,并且通常可以为不同的非终端组合类似的产品。举个简单的例子:
# This function can be used as the base case of any list non-terminal
# whose semantic value is a list (and whose base case is not empty)
def p_list_base(self, p):
"""property_list: property
function_list: function
"""
p[0] = [p[1]]
# This function can be used as the recursion of any list non-terminal
# whose semantic value is a list.
def p_list_recur(self, p):
"""property_list: property_list property
function_list: function_list function
"""
p[1].append(p[2])
p[0] = p[1]