Question

我有以下SQL查询，想使用sqlparse

进行解析

import sqlparse

query =  """
select SUM(case when(A.dt_unix<=86400
                     and B.flag="V") then 1
           end) as TEST_COLUMN_1,
       SUM(case when(A.Amt - B.Amt > 0
                     and B.Cat1 = "A"
                     and (B.Cat2 = "M"
                          or B.Cat3 = "C"
                          or B.Cat4 = "B")
                     and B.Cat5 is NULL) then 1
           end) as TEST_COLUMN_2
from test_table A
left join test_table_2 as B on A.ID=B.ID
where A.DT >B.DT
group by A.ID
"""

query_tokens = sqlparse.parse(query)[0].tokens
print(query_tokens)

将提供SQL语句中包含的所有令牌：

[<Newline ' ' at 0x7FAA62BD9F48>, <DML 'select' at 0x7FAA62BE7288>, <Whitespace ' ' at 0x7FAA62BE72E8>, <IdentifierList 'SUM(ca...' at 0x7FAA62BF7CF0>, <Newline ' ' at 0x7FAA62BF6288>, <Keyword 'from' at 0x7FAA62BF62E8>, <Whitespace ' ' at 0x7FAA62BF6348>, <Identifier 'test_t...' at 0x7FAA62BF7570>, <Newline ' ' at 0x7FAA62BF64C8>, <Keyword 'left j...' at 0x7FAA62BF6528>, <Whitespace ' ' at 0x7FAA62BF6588>, <Identifier 'test_t...' at 0x7FAA62BF7660>, <Whitespace ' ' at 0x7FAA62BF67C8>, <Keyword 'on' at 0x7FAA62BF6828>, <Whitespace ' ' at 0x7FAA62BF6888>, <Comparison 'A.ID=B...' at 0x7FAA62BF7B10>, <Newline ' ' at 0x7FAA62BF6B88>, <Where 'where ...' at 0x7FAA62BF28B8>, <Keyword 'group' at 0x7FAA62BD9E88>, <Whitespace ' ' at 0x7FAA62BD93A8>, <Keyword 'by' at 0x7FAA62BD9EE8>, <Whitespace ' ' at 0x7FAA62C1CEE8>, <Identifier 'A.ID' at 0x7FAA62BF2F48>, <Newline ' ' at 0x7FAA62BF6C48>]

我如何解析这些标记以便处理CASE WHEN语句，以便提取所有条件并保持其优先级（如使用括号所定义）。我在文档中找不到任何相关示例。

对此有何想法？

Answer 1

该项目确实文档不足。我看着examples并稍微扫描了源代码。不幸的是，文档没有包含Token和TokenList类上所有可用于此任务的方法。

例如，TokenList.get_sublists() method是一个重要但被省略的方法，它使您比其他方法更容易遍历嵌套标记列表。 TokenList.flatten()方法仅在树中产生 ungrouped 令牌，而CASE是分组令牌，因此单凭文档来看，您可能会发现很难使用解析的令牌树。

我在代码库中注意到的另一种方便的方法是TokenList._pprint_tree() method，它将当前的令牌树转储到stdout。尝试编写分析树的代码时，这非常有用。

总的来说，我对sqlparse的总体印象是，它不是解析库，而是用于重新格式化SQL的工具。它包含一个很好的解析器，但不包含对其生成的树进行一般使用的必要工具。

库中真正缺少的是基类节点访问者类，例如Python ast module提供的基类，或者是树节点遍历器，同样类似于ast module provides。幸运的是，这两种方法都很容易建立自己：

from collections import deque
from sqlparse.sql import TokenList

class SQLTokenVisitor:
    def visit(self, token):
        """Visit a token."""
        method = 'visit_' + type(token).__name__
        visitor = getattr(self, method, self.generic_visit)
        return visitor(token)

    def generic_visit(self, token):
        """Called if no explicit visitor function exists for a node."""
        if not isinstance(token, TokenList):
            return
        for tok in token:
            self.visit(tok)

def walk_tokens(token):
    queue = deque([token])
    while queue:
        token = queue.popleft()
        if isinstance(token, TokenList):
            queue.extend(token)
        yield token

现在您可以使用其中任何一个来访问Case节点：

statement, = sqlparse.parse(query)

class CaseVisitor(SQLTokenVisitor):
    """Build a list of SQL Case nodes

      The .cases list is a list of (condition, value) tuples per CASE statement

    """
    def __init__(self):
        self.cases = []

    def visit_Case(self, token):
        branches = []
        for when, then_ in token.get_cases():
            branches
        self.cases.append(token.get_cases())

visitor = CaseVisitor()
visitor.visit(statement)
cases = visitor.cases

或

statement, = sqlparse.parse(query)

cases = []
for token in walk_tokens(statement):
    if isinstance(token, sqlparse.sql.Case):
        cases.append(token.get_cases())

在此示例中，walk_tokens()和NodeVisitor模式之间的差异可以忽略，但是我们只是为每个CASE语句提取了分离的标记，而没有对{ {1}}个令牌。在WHEN ... THEN ...模式中，您可以在当前访问者实例上设置更多属性以“切换齿轮”，并以更多NodeVisitor方法捕获有关这些子树令牌的更多信息，与嵌套相比，这些方法可能更容易理解visit_....在生成器上循环。

另一方面，使用for生成器，如果您创建一个单独的变量来引用生成器，则可以将迭代移交给辅助函数：

walk_tokens()

all_tokens = walk_tokens(stamement) for token in walk_tokens(statement): if isinstance(token, sqlparse.sql.Case): branches = extract_branches(all_tokens)将进一步迭代，直到到达case语句的结尾。

使用sqlparse

1 个答案: