我正在尝试使用jparsec来定义和使用我相当简单的语法,但我对如何解决它完全感到困惑。我不知道在这一点上是否是我对问题空间的不充分理解,或者jparsec的稀疏和无信息文档。或两者兼而有之。
我的语法是这样的:
foo='abc' AND bar<>'def' OR (biz IN ['a', 'b', 'c'] AND NOT baz = 'foo')
因此,您可以看到它支持AND
,OR
,NOT
,IN
,=
,<>
等运营商。它还支持任意嵌套的括号来指示优先级。
我认为我在标记方面做得相当远。这就是我所拥有的:
public final class NewParser {
// lexing
private static final Terminals OPERATORS = Terminals.operators("=", "OR", "AND", "NOT", "(", ")", "IN", "[", "]", ",", "<>");
private static final Parser<?> WHITESPACE = Scanners.WHITESPACES;
private static final Parser<?> FIELD_NAME_TOKENIZER = Terminals.Identifier.TOKENIZER;
private static final Parser<?> QUOTED_STRING_TOKENIZER = Terminals.StringLiteral.SINGLE_QUOTE_TOKENIZER.or(Terminals.StringLiteral.DOUBLE_QUOTE_TOKENIZER);
private static final Parser<?> IGNORED = Parsers.or(Scanners.WHITESPACES).skipMany();
private static final Parser<?> TOKENIZER = Parsers.or(OPERATORS.tokenizer(), WHITESPACE, FIELD_NAME_TOKENIZER, QUOTED_STRING_TOKENIZER).many();
@Test
public void test_tokenizer() {
Object result = TOKENIZER.parse("foo='abc' AND bar<>'def' OR (biz IN ['a', 'b', 'c'] AND NOT baz = 'foo')");
Assert.assertEquals("[foo, =, abc, null, AND, null, bar, <>, def, null, OR, null, (, biz, null, IN, null, [, a, ,, null, b, ,, null, c, ], null, AND, null, NOT, null, baz, null, =, null, foo, )]", result.toString());
}
}
test_tokenizer
通过,所以我认为它的工作正常。
现在,我已经有了一个代表语法的类型层次结构。例如,我有一个名为Node
,BinaryNode
,FieldNode
,LogicalAndNode
,ConstantNode
等等的类。而我要做的是创建一个Parser
来获取我的代币并吐出Node
。这就是我一直陷入困境的地方。
我以为我会从这样简单的事情开始:
private static Parser<FieldNode> fieldNodeParser =
Parsers.sequence(FIELD_NAME_TOKENIZER)
.map(new Map<Object, FieldNode>() {
@Override
public FieldNode map(Object from) {
Fragment fragment = (Fragment)from;
return new FieldNode(fragment.text());
}
});
我以为我能够做到这一点:
public static Parser<Node> parser = fieldNodeParser.from(TOKENIZER);
但是这给了我一个编译错误:
The method from(Parser<? extends Collection<Token>>) in the type Parser<FieldNode> is not applicable for the arguments (Parser<capture#6-of ?>)
所以看起来我的仿制品在某个地方出现了问题,但我不知道在哪里或如何解决这个问题。我甚至不确定我是否会以正确的方式解决这个问题。谁能开导我?
答案 0 :(得分:6)
你正在混合两个不同级别的“解析器”:字符串级解析器aka。扫描程序或词法分析器以及令牌级解析器。这就是JParsec如何实现传统的词法分析和句法分析。
为了使代码编译干净,您可以在解析器定义的末尾添加对.cast()
方法的调用,但这不会解决您的问题,因为您将遇到的下一个错误将是{{1} }。这个问题来自使用cannot run a character-level parser at token level
定义顶层解析器,它隐式设置两个世界之间的边界。
以下是解析器的工作实现(和单元测试):
.from()
}
我改变的是:
public class SampleTest {
private static Parser<FieldNode> fieldNodeParser = Parsers.sequence(Terminals.fragment(Tokens.Tag.IDENTIFIER).map(new Map<String, FieldNode>() {
@Override
public FieldNode map(String from) {
String fragment = from;
return new FieldNode(fragment);
}
})).cast();
public static Parser<FieldNode> parser = fieldNodeParser.from(NewParser.TOKENIZER, Scanners.WHITESPACES);
@Test
public void test_tokenizer() {
Object result = Parsers.or(NewParser.TOKENIZER, Scanners.WHITESPACES.cast()).many().parse("foo='abc' AND bar<>'def' OR (biz IN ['a', 'b', 'c'] AND NOT baz = 'foo')");
Assert.assertEquals("[foo, =, abc, null, AND, null, bar, <>, def, null, OR, null, (, biz, null, IN, null, [, a, ,, null, b, ,, null, c, ], null, AND, null, NOT, null, baz, null, =, null, foo, )]", result.toString());
}
@Test
public void test_parser() throws Exception {
FieldNode foo = parser.parse("foo");
assertEquals(foo.text, "foo");
}
public static final class NewParser {
// lexing
static final Terminals OPERATORS = Terminals.operators("=", "OR", "AND", "NOT", "(", ")", "IN", "[", "]", ",", "<>");
static final Parser<String> FIELD_NAME_TOKENIZER = Terminals.Identifier.TOKENIZER.source();
static final Parser<?> QUOTED_STRING_TOKENIZER = Terminals.StringLiteral.SINGLE_QUOTE_TOKENIZER.or(Terminals.StringLiteral.DOUBLE_QUOTE_TOKENIZER);
static final Terminals TERMINALS = Terminals.caseSensitive(new String[] { "=", "(", ")", "[", "]", ",", "<>" }, new String[] { "OR", "AND", "NOT", "IN" });
static final Parser<?> TOKENIZER = Parsers.or(TERMINALS.tokenizer(), QUOTED_STRING_TOKENIZER);
}
private static class FieldNode {
final String text;
public FieldNode(String text) {
this.text = text;
}
}
方法为终端创建词法分析器(关键字,运算符和标识符)。使用的标识符词法分析器隐含地是jParsec本身提供的标识符(例如Terminals.caseSensitive
),Terminals.IDENTIFIER
方法与TOKENIZER和.from()
一起用作分隔符,WHITESPACES
使用fieldNodeParser
来解析令牌而不是字符。 希望有所帮助, 阿诺