在Mongoose中填充后查询

Question

我对Mongoose和MongoDB很新，所以我很难搞清楚这样的事情是否可行：

Item = new Schema({
    id: Schema.ObjectId,
    dateCreated: { type: Date, default: Date.now },
    title: { type: String, default: 'No Title' },
    description: { type: String, default: 'No Description' },
    tags: [ { type: Schema.ObjectId, ref: 'ItemTag' }]
});

ItemTag = new Schema({
    id: Schema.ObjectId,
    tagId: { type: Schema.ObjectId, ref: 'Tag' },
    tagName: { type: String }
});



var query = Models.Item.find({});

query
    .desc('dateCreated')
    .populate('tags')
    .where('tags.tagName').in(['funny', 'politics'])
    .run(function(err, docs){
       // docs is always empty
    });

有更好的方法吗？

修改

对任何混淆道歉。我要做的是获取包含有趣标签或政治标签的所有项目。

修改

没有where子句的文件：

[{ 
    _id: 4fe90264e5caa33f04000012,
    dislikes: 0,
    likes: 0,
    source: '/uploads/loldog.jpg',
    comments: [],
    tags: [{
        itemId: 4fe90264e5caa33f04000012,
        tagName: 'movies',
        tagId: 4fe64219007e20e644000007,
        _id: 4fe90270e5caa33f04000015,
        dateCreated: Tue, 26 Jun 2012 00:29:36 GMT,
        rating: 0,
        dislikes: 0,
        likes: 0 
    },
    { 
        itemId: 4fe90264e5caa33f04000012,
        tagName: 'funny',
        tagId: 4fe64219007e20e644000002,
        _id: 4fe90270e5caa33f04000017,
        dateCreated: Tue, 26 Jun 2012 00:29:36 GMT,
        rating: 0,
        dislikes: 0,
        likes: 0 
    }],
    viewCount: 0,
    rating: 0,
    type: 'image',
    description: null,
    title: 'dogggg',
    dateCreated: Tue, 26 Jun 2012 00:29:24 GMT 
 }, ... ]

使用where子句，我得到一个空数组。

Answer 1

您要求的内容不是直接支持的，但可以通过在查询返回后添加另一个过滤器步骤来实现。

首先，.populate( 'tags', null, { tagName: { $in: ['funny', 'politics'] } } )绝对是您过滤标签文档所需要做的。然后，在查询返回后，您需要手动筛选出没有与填充条件匹配的任何tags文档的文档。类似的东西：

query....
.exec(function(err, docs){
   docs = docs.filter(function(doc){
     return doc.tags.length;
   })
   // do stuff with docs
});

Answer 2

对于大于3.2的现代MongoDB，在大多数情况下，您可以使用$lookup作为.populate()的替代。这也具有实际上“在服务器上”进行连接的优点，而不是.populate()实际“多个查询”以“模拟”连接的方式。

所以.populate() 不真的是一个关系数据库如何做到的“加入”。另一方面，$lookup运算符实际上在服务器上完成工作，并且或多或少类似于“LEFT JOIN”：

Item.aggregate(
  [
    { "$lookup": {
      "from": ItemTags.collection.name,
      "localField": "tags",
      "foreignField": "_id",
      "as": "tags"
    }},
    { "$unwind": "$tags" },
    { "$match": { "tags.tagName": { "$in": [ "funny", "politics" ] } } },
    { "$group": {
      "_id": "$_id",
      "dateCreated": { "$first": "$dateCreated" },
      "title": { "$first": "$title" },
      "description": { "$first": "$description" },
      "tags": { "$push": "$tags" }
    }}
  ],
  function(err, result) {
    // "tags" is now filtered by condition and "joined"
  }
)

  

N.B。此处.collection.name实际上计算为“字符串”，它是分配给模型的MongoDB集合的实际名称。由于默认情况下mongoose“复数化”集合名称并且$lookup需要实际的MongoDB集合名称作为参数（因为它是服务器操作），因此这是一个在mongoose代码中使用的方便技巧，而不是“硬编码” “直接收集名称。

虽然我们也可以在数组上使用$filter来删除不需要的项目，但实际上这是Aggregation Pipeline Optimization因$lookup的特殊条件而导致$unwind最有效的形式$match和$group条件。

这实际上导致三个管道阶段被归为一个：

   { "$lookup" : {
     "from" : "itemtags",
     "as" : "tags",
     "localField" : "tags",
     "foreignField" : "_id",
     "unwinding" : {
       "preserveNullAndEmptyArrays" : false
     },
     "matching" : {
       "tagName" : {
         "$in" : [
           "funny",
           "politics"
         ]
       }
     }
   }}

这是非常优化的，因为实际操作“过滤首先加入的集合”，然后它返回结果并“展开”数组。采用这两种方法，因此结果不会破坏16MB的BSON限制，这是客户端没有的约束。

唯一的问题是它在某些方面似乎“反直觉”，特别是当你想要一个数组中的结果时，这就是$lookup在这里所用的，因为它重建到原始文档形式。

同样不幸的是，我们现在根本无法在服务器使用的相同最终语法中实际编写$lookup。恕我直言，这是一个需要纠正的疏忽。但就目前而言，简单地使用序列将是有效的，并且是具有最佳性能和可扩展性的最可行的选择。

附录 - MongoDB 3.6及以上版本

虽然这里显示的模式是相当优化，因为其他阶段如何进入$lookup，但它确实有一个失败，因为“LEFT JOIN”通常是固有的$unwind和populate()的操作都被$lookup的“最佳”用法否定，此处不保留空数组。您可以添加preserveNullAndEmptyArrays选项，但这会取消上面描述的“优化”序列，并且基本上保留所有三个阶段，这些阶段通常会在优化中合并。

MongoDB 3.6使用“更具表现力”的形式扩展$expr，允许“子管道”表达式。这不仅符合保留“LEFT JOIN”的目标，而且仍然允许最佳查询以减少返回的结果并使用简化的语法：

Item.aggregate([
  { "$lookup": {
    "from": ItemTags.collection.name,
    "let": { "tags": "$tags" },
    "pipeline": [
      { "$match": {
        "tags": { "$in": [ "politics", "funny" ] },
        "$expr": { "$in": [ "$_id", "$$tags" ] }
      }}
    ]
  }}
])

用于将声明的“本地”值与“外部”值匹配的$lookup实际上是MongoDB现在使用原始$match语法“内部”执行的操作。通过以这种形式表达，我们可以自己定制“子管道”中的初始$lookup表达式。

事实上，作为一个真正的“聚合管道”，您可以使用此“子管道”表达式中的聚合管道执行任何操作，包括将$lookup的级别“嵌套”到其他相关集合。

进一步的使用有点超出了这里提出的问题的范围，但就“嵌套人口”而言，async的新使用模式允许它大致相同，并且“很多”更强大的功能。

工作示例

以下给出了在模型上使用静态方法的示例。一旦实现了静态方法，调用就变成：

  Item.lookup(
    {
      path: 'tags',
      query: { 'tags.tagName' : { '$in': [ 'funny', 'politics' ] } }
    },
    callback
  )

或者提升到更现代化甚至成为：

  let results = await Item.lookup({
    path: 'tags',
    query: { 'tagName' : { '$in': [ 'funny', 'politics' ] } }
  })

使其与结构中的.populate()非常相似，但它实际上是在服务器上进行连接。为了完整起见，此处的用法根据父案例和子案例将返回的数据强制转换回mongoose文档实例。

对于大多数常见情况来说，这是相当微不足道的，容易适应或只是使用。

  

N.B 这里使用$unwind只是为了简化运行附带的示例。实际的实现没有这种依赖性。

const async = require('async'),
      mongoose = require('mongoose'),
      Schema = mongoose.Schema;

mongoose.Promise = global.Promise;
mongoose.set('debug', true);
mongoose.connect('mongodb://localhost/looktest');

const itemTagSchema = new Schema({
  tagName: String
});

const itemSchema = new Schema({
  dateCreated: { type: Date, default: Date.now },
  title: String,
  description: String,
  tags: [{ type: Schema.Types.ObjectId, ref: 'ItemTag' }]
});

itemSchema.statics.lookup = function(opt,callback) {
  let rel =
    mongoose.model(this.schema.path(opt.path).caster.options.ref);

  let group = { "$group": { } };
  this.schema.eachPath(p =>
    group.$group[p] = (p === "_id") ? "$_id" :
      (p === opt.path) ? { "$push": `$${p}` } : { "$first": `$${p}` });

  let pipeline = [
    { "$lookup": {
      "from": rel.collection.name,
      "as": opt.path,
      "localField": opt.path,
      "foreignField": "_id"
    }},
    { "$unwind": `$${opt.path}` },
    { "$match": opt.query },
    group
  ];

  this.aggregate(pipeline,(err,result) => {
    if (err) callback(err);
    result = result.map(m => {
      m[opt.path] = m[opt.path].map(r => rel(r));
      return this(m);
    });
    callback(err,result);
  });
}

const Item = mongoose.model('Item', itemSchema);
const ItemTag = mongoose.model('ItemTag', itemTagSchema);

function log(body) {
  console.log(JSON.stringify(body, undefined, 2))
}
async.series(
  [
    // Clean data
    (callback) => async.each(mongoose.models,(model,callback) =>
      model.remove({},callback),callback),

    // Create tags and items
    (callback) =>
      async.waterfall(
        [
          (callback) =>
            ItemTag.create([{ "tagName": "movies" }, { "tagName": "funny" }],
              callback),

          (tags, callback) =>
            Item.create({ "title": "Something","description": "An item",
              "tags": tags },callback)
        ],
        callback
      ),

    // Query with our static
    (callback) =>
      Item.lookup(
        {
          path: 'tags',
          query: { 'tags.tagName' : { '$in': [ 'funny', 'politics' ] } }
        },
        callback
      )
  ],
  (err,results) => {
    if (err) throw err;
    let result = results.pop();
    log(result);
    mongoose.disconnect();
  }
)

对于带有async/await的Node 8.x及更高版本，或者没有其他依赖项，或者更新一点：

const { Schema } = mongoose = require('mongoose');
const uri = 'mongodb://localhost/looktest';

mongoose.Promise = global.Promise;
mongoose.set('debug', true);

const itemTagSchema = new Schema({
  tagName: String
});

const itemSchema = new Schema({
  dateCreated: { type: Date, default: Date.now },
  title: String,
  description: String,
  tags: [{ type: Schema.Types.ObjectId, ref: 'ItemTag' }]
});

itemSchema.statics.lookup = function(opt) {
  let rel =
    mongoose.model(this.schema.path(opt.path).caster.options.ref);

  let group = { "$group": { } };
  this.schema.eachPath(p =>
    group.$group[p] = (p === "_id") ? "$_id" :
      (p === opt.path) ? { "$push": `$${p}` } : { "$first": `$${p}` });

  let pipeline = [
    { "$lookup": {
      "from": rel.collection.name,
      "as": opt.path,
      "localField": opt.path,
      "foreignField": "_id"
    }},
    { "$unwind": `$${opt.path}` },
    { "$match": opt.query },
    group
  ];

  return this.aggregate(pipeline).exec().then(r => r.map(m => 
    this({ ...m, [opt.path]: m[opt.path].map(r => rel(r)) })
  ));
}

const Item = mongoose.model('Item', itemSchema);
const ItemTag = mongoose.model('ItemTag', itemTagSchema);

const log = body => console.log(JSON.stringify(body, undefined, 2));

(async function() {
  try {

    const conn = await mongoose.connect(uri);

    // Clean data
    await Promise.all(Object.entries(conn.models).map(([k,m]) => m.remove()));

    // Create tags and items
    const tags = await ItemTag.create(
      ["movies", "funny"].map(tagName =>({ tagName }))
    );
    const item = await Item.create({ 
      "title": "Something",
      "description": "An item",
      tags 
    });

    // Query with our static
    const result = (await Item.lookup({
      path: 'tags',
      query: { 'tags.tagName' : { '$in': [ 'funny', 'politics' ] } }
    })).pop();
    log(result);

    mongoose.disconnect();

  } catch (e) {
    console.error(e);
  } finally {
    process.exit()
  }
})()

从MongoDB 3.6开始向上，即使没有$group和{{3}}建筑物：

const { Schema, Types: { ObjectId } } = mongoose = require('mongoose');

const uri = 'mongodb://localhost/looktest';

mongoose.Promise = global.Promise;
mongoose.set('debug', true);

const itemTagSchema = new Schema({
  tagName: String
});

const itemSchema = new Schema({
  title: String,
  description: String,
  tags: [{ type: Schema.Types.ObjectId, ref: 'ItemTag' }]
},{ timestamps: true });

itemSchema.statics.lookup = function({ path, query }) {
  let rel =
    mongoose.model(this.schema.path(path).caster.options.ref);

  // MongoDB 3.6 and up $lookup with sub-pipeline
  let pipeline = [
    { "$lookup": {
      "from": rel.collection.name,
      "as": path,
      "let": { [path]: `$${path}` },
      "pipeline": [
        { "$match": {
          ...query,
          "$expr": { "$in": [ "$_id", `$$${path}` ] }
        }}
      ]
    }}
  ];

  return this.aggregate(pipeline).exec().then(r => r.map(m =>
    this({ ...m, [path]: m[path].map(r => rel(r)) })
  ));
};

const Item = mongoose.model('Item', itemSchema);
const ItemTag = mongoose.model('ItemTag', itemTagSchema);

const log = body => console.log(JSON.stringify(body, undefined, 2));

(async function() {

  try {

    const conn = await mongoose.connect(uri);

    // Clean data
    await Promise.all(Object.entries(conn.models).map(([k,m]) => m.remove()));

    // Create tags and items
    const tags = await ItemTag.insertMany(
      ["movies", "funny"].map(tagName => ({ tagName }))
    );

    const item = await Item.create({
      "title": "Something",
      "description": "An item",
      tags
    });

    // Query with our static
    let result = (await Item.lookup({
      path: 'tags',
      query: { 'tagName': { '$in': [ 'funny', 'politics' ] } }
    })).pop();
    log(result);


    await mongoose.disconnect();

  } catch(e) {
    console.error(e)
  } finally {
    process.exit()
  }

})()

Answer 3

尝试替换

.populate('tags').where('tags.tagName').in(['funny', 'politics']) 

通过

.populate( 'tags', null, { tagName: { $in: ['funny', 'politics'] } } )

Answer 4

更新：请看一下评论 - 这个答案与问题没有正确匹配，但也许它回答了用户遇到的其他问题（我认为因为upvotes）所以我不会删除这个＆ ＃34;答案＆＃34;：

首先：我知道这个问题确实已经过时了，但我搜索的确是这个问题而且这个SO帖子是Google条目＃1。所以我实施了docs.filter版本（接受的答案），但正如我在mongoose v4.6.0 docs中所读到的，我们现在可以简单地使用：

Item.find({}).populate({
    path: 'tags',
    match: { tagName: { $in: ['funny', 'politics'] }}
}).exec((err, items) => {
  console.log(items.tags) 
  // contains only tags where tagName is 'funny' or 'politics'
})

希望这有助于未来的搜索机器用户。

Answer 5

我最近遇到同样的问题后，我想出了以下解决方案：

首先，找到tagName为'funny'或'politics'的所有ItemTags，并返回一个ItemTag _ids数组。

然后，找到包含标签数组中所有ItemTag _ids的项目

ItemTag
  .find({ tagName : { $in : ['funny','politics'] } })
  .lean()
  .distinct('_id')
  .exec((err, itemTagIds) => {
     if (err) { console.error(err); }
     Item.find({ tag: { $all: itemTagIds} }, (err, items) => {
        console.log(items); // Items filtered by tagName
     });
  });

Answer 6

@aaronheckmann 's answer为我工作，但我必须将return doc.tags.length;替换为return doc.tags != null;，因为如果该字段与内部写入的条件不匹配，则该字段包含 null 填充。 所以最后的代码：

query....
.exec(function(err, docs){
   docs = docs.filter(function(doc){
     return doc.tags != null;
   })
   // do stuff with docs
});