使用rmongodb在R中运行高级MongoDB查询

时间:2012-05-29 11:58:32

标签: r mongodb rmongodb

由于MySQL让我疯狂,我试图让自己熟悉我的第一个“NoSQL”DBMS,它恰好是MongoDB。我通过rmongodb连接到它。

我使用rmongodb的次数越多,运行高级查询时遇到的问题/问题就越多。

首先介绍一些示例数据,然后再详细介绍我无法正确指定的不同类型的查询。

示例数据

该示例来自MongoDB website,并且已经简化了一些。

pkg <- "rmongodb"
if (!require(pkg, character.only=TRUE)) {
    install.packages(pkg)
    require(pkg, character.only=TRUE)   
}

# Connect to DB
db <- "test"
ns <- "posts"
mongo <- mongo.create(db=db)

# Insert document to collection 'test.users'
b <- mongo.bson.from.list(list(
    "_id"="alex", 
    name=list(first="Alex", last="Benisson"),
    karma=1.0,
    age=30,
    test=c("a", "b")
))
mongo.insert(mongo, "test.users", b)

# Insert document to collection 'test.posts'
b <- mongo.bson.from.list(list(
        "_id"="abcd",
        when=mongo.timestamp.create(strptime("2011-09-19 02:00:00",
            "%Y-%m-%d %H:%M:%s"), increment=1),
        author="alex",
        title="Some title",
        text="Some text.",
        tags=c("tag.1", "tag.2"),
        votes=5,
        voters=c("jane", "joe", "spencer", "phyllis", "li"),
        comments=list(
            list(
                who="jane", 
                when=mongo.timestamp.create(strptime("2011-09-19 04:00:00",
                    "%Y-%m-%d %H:%M:%s"), increment=1),
                comment="Some comment."
            ),
            list(
                who="meghan", 
                when=mongo.timestamp.create(strptime("2011-09-20 13:00:00",
                    "%Y-%m-%d %H:%M:%s"), increment=1),
                comment="Some comment."
            )
        )
    )
)
b
mongo.insert(mongo, "test.posts", b)

与插入JSON / BSON对象有关的两个问题:

  1. 文档'test.posts',字段voters:在这种情况下使用c()是否正确?
  2. 文档'test.posts',字段comments:指定此内容的正确方法是什么,c()list()
  3. 顶级查询:它们可以处理

    顶级查询工作正常:

    # Get all posts by 'alex' (only titles)
    res <- mongo.find(mongo, "test.posts", query=list(author="alex"), 
        fields=list(title=1L))
    out <- NULL
    while (mongo.cursor.next(res))
        out <- c(out, list(mongo.bson.to.list(mongo.cursor.value(res))))
    
    > out
    [[1]]
                           _id                      title 
                         "abcd"            "No Free Lunch" 
    

    问题1:基本子级别查询

    如何运行一个简单的“子级别查询”(而不是顶级查询),需要进入JSON/BSON样式的MongoDB对象的任意深度子级别?这些子级查询使用MongoDB的dot notation,我似乎无法弄清楚如何将其映射到有效的rmongodb查询

    在简单的MongoDB语法中,类似

    > db.posts.find( { comments.who : "meghan" } )
    

    会奏效。但我无法弄清楚如何使用rmongodb函数

    来做到这一点

    这是我到目前为止尝试的内容

    # Get all comments by 'meghan' from 'test.posts'
    
    #--------------------
    # Approach 1)
    #--------------------
    res <- mongo.find(mongo, "test.posts", query=list(comments=list(who="meghan")))
    out <- NULL
    while (mongo.cursor.next(res))
        out <- c(out, list(mongo.bson.to.list(mongo.cursor.value(res))))
    
    > out
    NULL
    # Does not work
    
    #--------------------
    # Approach 2) 
    #--------------------
    buf <- mongo.bson.buffer.create()
    mongo.bson.buffer.start.object(buf, "comments")
    mongo.bson.buffer.append(buf, "who", "meghan")
    mongo.bson.buffer.finish.object(buf)
    query <- mongo.bson.from.buffer(buf)
    res <- mongo.find(mongo, "test.posts", query=query)
    out <- NULL
    while (mongo.cursor.next(res))
        out <- c(out, list(mongo.bson.to.list(mongo.cursor.value(res))))
    
    > out
    NULL
    # Does not work
    

    问题2:使用$运算符查询

    这些工作

    查询1

    buf <- mongo.bson.buffer.create()
    mongo.bson.buffer.start.object(buf, "age")
    mongo.bson.buffer.append(buf, "$lte", 30)
    mongo.bson.buffer.finish.object(buf)
    criteria <- mongo.bson.from.buffer(buf)
    criteria
    
    > mongo.find.one(mongo, "test.users", query=criteria)
        _id : 2      alex
        name : 3     
            first : 2    Alex
            last : 2     Benisson
    
        karma : 1    1.000000
        age : 1      30.000000
        test : 4     
            0 : 2    a
            1 : 2    b
    

    查询2

    buf <- mongo.bson.buffer.create()
    mongo.bson.buffer.start.object(buf, "test")
    mongo.bson.buffer.append(buf, "$in", c("a", "z"))
    mongo.bson.buffer.finish.object(buf)
    criteria <- mongo.bson.from.buffer(buf)
    criteria
    mongo.find.one(mongo, "test.users", query=criteria)
    

    但是,请注意原子集将导致返回值NULL

    mongo.bson.buffer.append(buf, "$in", "a")
    # Instead of 'mongo.bson.buffer.append(buf, "$in", c("a", "z"))'
    

    尝试使用子级别查询时我又丢失了

    buf <- mongo.bson.buffer.create()
    mongo.bson.buffer.start.object(buf, "name")
    mongo.bson.buffer.start.object(buf, "first")
    mongo.bson.buffer.append(buf, "$in", c("Alex", "Horst"))
    mongo.bson.buffer.finish.object(buf)
    mongo.bson.buffer.finish.object(buf)
    criteria <- mongo.bson.from.buffer(buf)
    criteria <- mongo.bson.from.buffer(buf)
    > criteria
        name : 3     
            first : 3    
                $in : 4      
                    0 : 2    Alex
                    1 : 2    Horst
    
    > mongo.find.one(mongo, "test.users", query=criteria)
    NULL
    

3 个答案:

答案 0 :(得分:7)

c()或list()都可以。取决于组件是否已命名以及它们是否都具有相同的类型(对于列表)。最好的办法是查看生成的BSON,看看你是否得到了你想要的东西。为了最好地控制生成的对象,请使用mongo.bson.buffer以及对其进行操作的函数。实际上,这就是子查询失败的原因。 'comments'被创建为子对象而不是数组。 mongo.bson.from.list()很方便,但它不会给你相同的控制,有时它会猜测从复杂的结构中生成什么。

对其他数据集的查询可以这样纠正:

buf <- mongo.bson.buffer.create()
mongo.bson.buffer.start.object(buf, "name.first")
mongo.bson.buffer.append(buf, "$in", c("Alex", "Horst"))
mongo.bson.buffer.finish.object(buf)
criteria <- mongo.bson.from.buffer(buf)

请注意,你肯定需要在这里使用一个缓冲区,因为R会阻塞虚线名称。

我希望这能解决你的问题。如果您有任何其他问题,请与我们联系。

答案 1 :(得分:2)

我仍然不太清楚在问题发布之后,SO的首选方式是什么,但是希望详细说明一下,可能会添加更多问题和答案方法。

我经常被告知不要用未来的编辑来夸大我原来的问题,在这个“答案”中,我只是接受Gerald Lindsly的建议,并尝试将其放入实际代码中(因为它仍然无效)对我来说):

制剂

pkg <- "rmongodb"
if (!require(pkg, character.only=TRUE)) {
    install.packages(pkg)
    require(pkg, character.only=TRUE)   
}

# Connect to DB
db <- "test"
ns <- "posts"
mongo <- mongo.create(db=db)

# Make sure we start with an empty collection
mongo.drop(mongo, paste(db, ns, sep="."))

插入文件

正如Gerald在他的回答中所指出的那样,mongo.bson.from.list()有时会对所产生的BSON结构做出错误的猜测,所以我试图继续明确创建BSON数组对象:

buf <- mongo.bson.buffer.create()

# 'REGULAR' APPENDING
mongo.bson.buffer.append(buf, "_id", "abcd")
mongo.bson.buffer.append(buf, "when", 
    mongo.timestamp.create(strptime("2011-09-19 02:00:00",
        "%Y-%m-%d %H:%M:%s"), increment=1))
mongo.bson.buffer.append(buf, "author", "alex")
mongo.bson.buffer.append(buf, "title", "Some title")
mongo.bson.buffer.append(buf, "text", "Some text.")
mongo.bson.buffer.append(buf, "tags", c("tag.1", "tag.2"))
mongo.bson.buffer.append(buf, "votes", 5)
# /

# VOTERS ARRAY
mongo.bson.buffer.start.array(buf, "voters")
voters <- c("jane", "joe", "spencer", "phyllis", "li")
i=1
for (i in seq(along=voters)) {
    mongo.bson.buffer.append(buf, as.character(i), voters[i])
}
mongo.bson.buffer.finish.object(buf)
# /

# COMMENTS ARRAY
mongo.bson.buffer.start.array(buf, "comments")

mongo.bson.buffer.start.object(buf, "1")
mongo.bson.buffer.append(buf, "who", "jane")
mongo.bson.buffer.append(buf, "when", 
    mongo.timestamp.create(strptime("2011-09-19 04:00:00",
            "%Y-%m-%d %H:%M:%s"), increment=1))
mongo.bson.buffer.append(buf, "comment", "some comment.")
mongo.bson.buffer.finish.object(buf)

mongo.bson.buffer.start.object(buf, "2")
mongo.bson.buffer.append(buf, "who", "meghan")
mongo.bson.buffer.append(buf, "when", 
    mongo.timestamp.create(strptime("2011-09-20 13:00:00",
            "%Y-%m-%d %H:%M:%s"), increment=1))
mongo.bson.buffer.append(buf, "comment", "some comment.")
mongo.bson.buffer.finish.object(buf)
# /

# FINALIZE
mongo.bson.buffer.finish.object(buf)
b <- mongo.bson.from.buffer(buf)
> b
_id : 2      abcd
when : 17    i: 1, t: 1316390400
author : 2   alex
title : 2    Some title
text : 2     Some text.
tags : 4     
    0 : 2    tag.1
    1 : 2    tag.2

votes : 1    5.000000
voters : 4   
    1 : 2    jane
    2 : 2    joe
    3 : 2    spencer
    4 : 2    phyllis
    5 : 2    li

comments : 4     
    1 : 3    
        who : 2      jane
        when : 17    i: 1, t: 1316397600
        comment : 2      some comment.

    2 : 3    
        who : 2      meghan
        when : 17    i: 1, t: 1316516400
        comment : 2      some comment.

mongo.insert(mongo, "test.posts", b)

基本子级查询

# Get all comments by 'meghan' from 'test.posts'

#--------------------
# Approach 1)
#--------------------
res <- mongo.find(mongo, "test.posts", query=list(comments=list(who="meghan")))
out <- NULL
while (mongo.cursor.next(res))
    out <- c(out, list(mongo.bson.to.list(mongo.cursor.value(res))))

> out
NULL
# Does not work

#--------------------
# Approach 2) 
#--------------------
buf <- mongo.bson.buffer.create()
mongo.bson.buffer.start.object(buf, "comments")
mongo.bson.buffer.append(buf, "who", "meghan")
mongo.bson.buffer.finish.object(buf)
query <- mongo.bson.from.buffer(buf)
res <- mongo.find(mongo, "test.posts", query=query)
out <- NULL
while (mongo.cursor.next(res))
    out <- c(out, list(mongo.bson.to.list(mongo.cursor.value(res))))

> out
NULL
# Does not work

在指定文档时,我仍然必须做错事; - )

答案 2 :(得分:2)

关于原子查询和$ in运算符,我从第一个问题得到了查询2,如下所示:

buf <- mongo.bson.buffer.create()
mongo.bson.buffer.start.object(buf, "test")
mongo.bson.buffer.start.array(buf, "$in")
mongo.bson.buffer.append(buf, "a", "a")
mongo.bson.buffer.finish.object(buf)
mongo.bson.buffer.finish.object(buf)
criteria <- mongo.bson.from.buffer(buf)
criteria

我猜如果数组最终只能保存一个元素,那么明确地开始和结束数组就可以了。

有用的一件事是监视mongod控制台或日志(使用-v选项启动mongod之后)。运行旧查询,您会看到:

Tue Nov 20 16:09:04 [conn23] User Assertion: 12580:invalid query
Tue Nov 20 16:09:04 [conn23] assertion 12580 invalid query ns:test.users query:{ test: { $in: "a" } }
Tue Nov 20 16:09:04 [conn23] problem detected during query over test.users : { $err: "invalid query", code: 12580 }
Tue Nov 20 16:09:04 [conn23] query test.users query: { test: { $in: "a" } } ntoreturn:0 keyUpdates:0 exception: invalid query code:12580 locks(micros) r:440 reslen:59 0ms

运行修改过的查询,看起来没问题:

Tue Nov 20 16:10:14 [conn23] query test.users query: { test: { $in: [ "a" ] } } ntoreturn:0 keyUpdates:0 locks(micros) r:168 nreturned:1 reslen:142 0ms