我有一个对象集合,每个对象都有一个名为fingerprint的字段,其中包含20个哈希:
{
title: 'The Chronicles of Narnia',
authors: ['C.S. Lewis'],
fingerprint: ['50e...', 'ae2...', ...]
}
然后我有另外20个哈希的查询指纹。我想做的是找到至少共享X哈希值的所有条目。换句话说,两个数组的交集必须是一定的大小。
我有一个使用MySQL的类似系统的旧实现。查询看起来像这样:
SELECT *
FROM Document d
INNER JOIN Fingerprint f
ON d.id = f.document_id
WHERE f.whorl IN (:hashes)
GROUP BY d.id
HAVING COUNT(d.id) >= X
Fingerprint
表中的每个条目都包含一个文档ID和指纹中的单个轮廓。每个文档的Fingerprint
都有20个条目。
据我所知,这个查询正在做的是每次旋转匹配然后按唯一文档分组时复制文档。这似乎有些浪费,但它确实有效。
我正试图在MongoDB中重新实现这个系统,但我运气不好。我可以获得至少共享一个或所有轮生的所有条目的列表:
at least one: db.objects.find({ fingerprint: {$in: [hashes]})
all: db.objects.find({ fingerprint: {$all: [hashes]})
我知道我可以在应用程序层中扫描此列表以查找我之后的匹配项。如果我预计有数百万件物品(目前约为150万件),那么这似乎是一个坏主意。
我查看了aggregate()
功能,但无法改进我已有的功能:
db.objects.aggregate({$match: {fingerprint: {$in: [hashes]}}})
从这里我想我可以分组和过滤:
db.objects.aggregate({$match: {fingerprint: {$in: [hashes]}}},
{$group: {_id: "$_id", matches: {$sum: 1}}})
这里我试图复制MySQL查询的内容:为每个匹配发出一个文档,然后计算文档。当然,无论有多少匹配,我们只发出一次文件。
然后我想到$unwind
匹配的列表,但每次都会生成20个文档。
理想情况下,我可以使用$some
运算符:
db.objects.find(fingerprint: {$some: {from: [hashes], count: X}})
这样的事情可能有效吗?我希望能够运行这些查询以响应用户的搜索,所以我想MapReduce是不可能的?
由于
答案 0 :(得分:5)
使用聚合框架做你想做的事实际上非常简单。我相信你将能够完善以下内容以完全满足您的需求:
db.objects.aggregate([
{$unwind : "$fingerprint" },
{$match : {fingerprint : {$in: [hashes] } } },
{$group : {_id:"$title", numMatches: {$sum:1} } },
{$match : {numMatches : {$gt: X} } }
])