couchdb - 导入json文件

时间:2012-08-19 12:35:59

标签: json node.js import couchdb

我有一个包含json格式数据的文件。数据是奇怪的,因为行具有一组属性的不同子集,这些属性不是事先都知道的(随着时间的推移它们将构建)。例如:

[{"firstName":"Joe","education":"highschool","sex":"male"},
 {"lastName":"Edwards","address":"ohio","sex":"male"},
{"favoriteSport":"cycling","bicycle":"raleigh","ownsBoat":"yes","ownsDog":"yes","ownsHouse":"yes"}]

文件中已存在大量数据,因此我想将其导入couchdb而不是逐项输入数据。我从帖子here开始遵循这些过程但是,在创建数据库时,它是空的。我用过:

curl -X PUT -d @../Data/data.json http://127.0.0.1:5984/test_import

更新:由于我正在使用nodejs(新手),我以为我会尝试使用'摇篮'。我的想法是将数据导入为数组,并使用'cradle的dbsave()批量加载。但使用以下内容:

var fs = require('fs');
var cradle = require('cradle');

var data = fs.readFile( '../Data/data.json', function (err, data) {
  if (err) {
    throw err; 
  }
.
.
.
makeDB(bigdata,'test_import');  // where 'bigdata' is an array of json objects/couchdb 'documents'
});

function makeDB (p,filename) {

var db = new(cradle.Connection)().database(filename);
console.log(db);

db.save(p, function(err,res) {
if (err) {
    console.log(err);
} else {
    console.log('Success!');
}
});

};

后者似乎有效!!创建并填充了一个数据库,但它确实会引发以下错误:

k:\nodejs\node_modules\cradle\lib\cradle.js:198
            return callback(body);
                   ^
TypeError: undefined is not a function

OR

k:\nodejs\node_modules\cradle\lib\cradle.js:201
        callback(null, self.options.raw ? body : new cradle.Response(body, res
        ^
TypeError: undefined is not a function
    at Request.cradle.Connection.request [as _callback] (k:\nodejs\node_modules\cradle\lib\cradle.
js:201:9)
    at Request.init.self.callback (k:\nodejs\node_modules\request\main.js:120:22)
    at Request.EventEmitter.emit (events.js:91:17)
    at Request.<anonymous> (k:\nodejs\node_modules\request\main.js:633:16)
    at Request.EventEmitter.emit (events.js:88:17)
    at IncomingMessage.Request.start.self.req.self.httpModule.request.buffer (k:\nodejs\node_modul
es\request\main.js:595:14)
    at IncomingMessage.EventEmitter.emit (events.js:115:20)
    at IncomingMessage._emitEnd (http.js:366:10)
    at HTTPParser.parserOnMessageComplete [as onMessageComplete] (http.js:149:23)
    at Socket.socketOnData [as ondata] (http.js:1366:20)

1 个答案:

答案 0 :(得分:1)

[解决]

我的问题的答案是肯定的,当然,couchdb非常适合这种数据。我发现使用node.js进行批量导入的最简单方法是使用cradle(其创建者为问题提供了解决方案)。通过对makeDB函数进行以下更改,上述代码无错误地运行:

//  Take the array of objects and create a couchdb database

function makeDB (data,filename) {

var db = new(cradle.Connection)().database(filename);
//console.log(db);
db.create(function(err){
    if (err) console.log(err); 
    });
db.save(data, function(err) {
    if (err) console.log(err);
    console.log(filename + ' is created.');
    });

};