如何将子查询的结果解包到列表类型字段中以将原始查询的结果解译为Peewee?

时间:2019-01-25 12:21:21

标签: python database sqlite orm peewee

如何使peewee将相关表行的ID放入结果类似的其他类似列表的字段中?

我想为媒体文件制作重复检测管理器。对于我PC上的每个文件,我都在数据库中记录了类似

的字段
File name, Size, Path, SHA3-512, Perceptual hash, Tags, Comment, Date added, Date changed, etc...

根据情况,我想使用不同的模式将表中的记录视为重复记录。

在最简单的情况下,我只想查看所有具有相同哈希值的记录,所以我

subq = Record.select(Record.SHA).group_by(Record.SHA).having(peewee.fn.Count() > 1)
subq = subq.alias('jq')
q = Record.select().join(q, on=(Record.SHA == q.c.SHA)).order_by(Record.SHA)
for r in q:
    process_record_in_some_way(r)

,一切都很好。 但是在很多情况下,我想使用不同的表列集作为分组模式。因此,在最坏的情况下,当我几次读取同一文件时,我会使用除id和“添加日期”列以外的所有字符来检测数据库中确切重复的行,这会导致类似

subq = Record.select(Record.SHA, Record.Name, Record.Date, Record.Size, Record.Tags).group_by(Record.SHA, Record.Name, Record.Date, Record.Size, Record.Tags).having(peewee.fn.Count() > 1)
subq = subq.alias('jq')
q = Record.select().join(q, on=(Record.SHA == q.c.SHA and Record.Name == q.c.Name and Record.Date == q.c.Date and Record.Size == q.c.Size and Record.Tags == q.c.Tags)).order_by(Record.SHA)
for r in q:
    process_record_in_some_way(r)

,这不是我的字段的完整列表,仅是示例。 对于其他类型的字段集,我必须做同样的事情,即在select子句,subquery的grouping子句中将其列表复制3次,然后在joining子句中再次列出它们。

我希望我可以按适当的模式对记录进行分组,而peewee只需将每个组的所有成员的ID列出到新的列表字段中,例如

q=Record.select(Record, SOME_MAJIC.alias('duplicates')).group_by(Record.SHA, Record.Name, Record.Date, Record.Size, Record.Tags).having(peewee.fn.Count() > 1).SOME_ANOTHER_MAJIC
for r in q:
    process_group_of_records(r) # r.duplicates == [23, 44, 45, 56, 100], for example

我该怎么做?列出相同的参数三次,我真的觉得我做错了。

1 个答案:

答案 0 :(得分:0)

您可以使用GROUP_CONCAT(或对于postgres,请使用array_agg)对ID /文件名列表进行分组和连接。

对于具有相同散列的文件:

query = (Record
         .select(Record.sha, fn.GROUP_CONCAT(Record.id).alias('id_list'))
         .group_by(Record.sha)
         .having(fn.COUNT(Record.id) > 1))

这是一个关系数据库。因此,您一直在无处不在处理由行和列组成的表。没有“嵌套”。 GROUP_CONCAT尽可能接近。