基于字典字段中关键字存在的Mongoengine / MongoDB模型过滤

时间:2019-05-28 16:18:42

标签: python mongodb dictionary mongoengine

我正在使用Mongoengine构建数据模型,以存储一些元数据(在这种情况下,用于电子邮件文件)。精简的模型,只有与我的问题相关的领域,是:

class Email(Document):
    headers = DictField()

标头字典将包含从电子邮件中提取的标头数据,它们以键-值关系工作。

我知道在此标头数据中,有时会出现一个标头,其名称(和字典键)为x-mailer(所有标头键均自动小写)。我建立了一个简单的查询来查看标头是否包含这样的键:

xmailer_emails = Email.objects.filter(headers__exists='x-mailer')

但是,此操作的结果并不包含email集合中的所有 all 条目,但其中包含不少没有x-mailer作为键的条目在headers词典中。这是我用来检查结果数据的一些代码:

xmailer_emails = Email.objects.filter(headers__exists='x-mailer'))
log(xmailer_emails._query)

log('Total email count: ' + str(Email.objects.count()))
log('X-Mailer email acount: ' + str(xmailer_emails.count()))

no_xmailer = len([e for e in xmailer_emails if 'x-mailer' not in e.headers])
log('Filtered no x-mailer count: ' + str(no_xmailer))

has_xmailer = len([e for e in xmailer_emails if 'x-mailer' in e.headers])
log('Filtered has x-mailer count: ' + str(has_xmailer))

这是我得到的输出:

[21:32:54 05/27/19] {'headers': {'$exists': 'x-mailer'}}
[21:32:54 05/27/19] Total email count: 86
[21:32:54 05/27/19] X-Mailer email count: 79
[21:32:54 05/27/19] Filtered no x-mailer count: 55
[21:32:54 05/27/19] Filtered has x-mailer count: 24

因此,尽管集合中有86个条目,但它在x-mailerheaders的过滤器中拉回了其中的79个。实际上,只有这24个过滤器在字典中具有该键值。我似乎在做错事,但我不知道该怎么办。

以下是其中一些不包含x-mailer键的项目的简短转储,这些键是:

dict_keys(['x-receiver', 'to', 'mime-version', 'received', 'x-priority', 'x-sender', 'date', 'content-type', 'message-id', 'subject', 'x-riferimento-message-id', 'from'])
dict_keys(['content-type', 'mime-version'])
dict_keys(['x-wum-to', 'date', 'x-uidl', 'message-id', 'in-reply-to', 'x-wum-replyto', 'x-message-delivery', 'mime-version', 'received', 'x-savecopy', 'authentication-results', 'x-wum-nature', 'x-account-key', 'x-wum-from', 'message-context', 'x-originalarrivaltime', 'x-me-spamrating', 'x-me-spamlevel', 'to', 'x-dkim-result', 'x-mozilla-status', 'x-mozilla-status2', 'references', 'x-auth-result', 'x-store-info', 'return-path', 'x-message-info', 'x-sid-pra', 'x-message-status', 'sender', 'x-wum-cci', 'content-type', 'reply-to', 'subject', 'from'])
dict_keys(['x-ms-has-attach', 'to', 'mime-version', 'received', 'thread-topic', 'x-auto-response-suppress', 'x-ms-exchange-organization-authsource', 'content-language', 'content-type', 'date', 'subject', 'message-id', 'thread-index', 'reply-to', 'from'])

我不知道发生了什么,exists运算符在工作时还包括不匹配的文档,但不是集合中的每个文档。

我也曾在mongoengine信息库上提出此问题,没有任何答复(除了exists运算符的链接SO问题):https://github.com/MongoEngine/mongoengine/issues/2059

1 个答案:

答案 0 :(得分:1)

您实际需要执行的pymongo查询如下:

c.find({'headers.x-mailer': {'$exists': True}})

如果您有简单的键(例如“ xmailer”而不是“ x-mailer”),则可以在mongoengine中使用以下命令实现此目的: Email.objects.filter(headers__xmailer__exists='x-mailer'))

但是您可以使用 raw 运算符来实现它:

Email.objects.filter(__raw__={'headers.x-mailer': {'$exists': True}})