如何在Node.js中将CSV转换为JSON

时间:2013-05-30 08:23:41

标签: javascript json node.js csv express

我正在尝试将csv文件转换为json。我正在使用。

示例CSV:

a,b,c,d
1,2,3,4
5,6,7,8
...

所需的JSON:

{"a": 1,"b": 2,"c": 3,"d": 4},
{"a": 5,"b": 6,"c": 7,"d": 8},
...

我尝试了node-csv解析器库。但是输出就像数组一样,不像我预期的那样。

我正在使用Node 0.8和express.js,并希望了解如何轻松完成此任务。

16 个答案:

答案 0 :(得分:68)

Node.js csvtojson module是一个全面的nodejs csv解析器。它可以在browserifywebpack的帮助下用作node.js应用程序库/命令行工具/浏览器。

源代码可在以下网址找到:https://github.com/Keyang/node-csvtojson

速度快,内存消耗低,但功能强大,支持任何解析需求,具有丰富的API和易于阅读的文档。

可以找到详细的文档here

以下是一些代码示例:

在Node.js应用程序中使用它作为库(csvtojson@2.0.0 +):

  1. 通过npm
  2. 安装

    npm install --save csvtojson@latest

    1. 在node.js应用中使用它:
    2. // require csvtojson
      var csv = require("csvtojson");
      
      // Convert a csv file with csvtojson
      csv()
        .fromFile(csvFilePath)
        .then(function(jsonArrayObj){ //when parse finished, result will be emitted here.
           console.log(jsonArrayObj); 
         })
      
      // Parse large csv with stream / pipe (low mem consumption)
      csv()
        .fromStream(readableStream)
        .subscribe(function(jsonObj){ //single json object will be emitted for each csv line
           // parse each json asynchronousely
           return new Promise(function(resolve,reject){
               asyncStoreToDb(json,function(){resolve()})
           })
        }) 
      
      //Use async / await
      const jsonArray=await csv().fromFile(filePath);
      

      将其用作命令行工具:

      sh# npm install csvtojson
      sh# ./node_modules/csvtojson/bin/csvtojson ./youCsvFile.csv
      

      -OR -

      sh# npm install -g csvtojson
      sh# csvtojson ./yourCsvFile.csv
      

      高级用法:

      sh# csvtojson --help
      

      您可以从上面的github页面找到更多详细信息。

答案 1 :(得分:18)

您可以尝试使用underscore.js

首先使用toArray函数转换数组中的行:

var letters = _.toArray(a,b,c,d);
var numbers = _.toArray(1,2,3,4);

然后使用object函数将数组对齐:

var json = _.object(letters, numbers);

到那时,json var应包含类似的内容:

{"a": 1,"b": 2,"c": 3,"d": 4}

答案 2 :(得分:11)

这是一个不需要单独模块的解决方案。但是,它非常粗糙,并没有实现太多的错误处理。它也可以使用更多测试,但它会让你前进。如果要解析非常大的文件,可能需要寻找替代方法。另请参阅此solution from Ben Nadel

节点模块代码,csv2json.js:

/*
 * Convert a CSV String to JSON
 */
exports.convert = function(csvString) {
    var json = [];
    var csvArray = csvString.split("\n");

    // Remove the column names from csvArray into csvColumns.
    // Also replace single quote with double quote (JSON needs double).
    var csvColumns = JSON
            .parse("[" + csvArray.shift().replace(/'/g, '"') + "]");

    csvArray.forEach(function(csvRowString) {

        var csvRow = csvRowString.split(",");

        // Here we work on a single row.
        // Create an object with all of the csvColumns as keys.
        jsonRow = new Object();
        for ( var colNum = 0; colNum < csvRow.length; colNum++) {
            // Remove beginning and ending quotes since stringify will add them.
            var colData = csvRow[colNum].replace(/^['"]|['"]$/g, "");
            jsonRow[csvColumns[colNum]] = colData;
        }
        json.push(jsonRow);
    });

    return JSON.stringify(json);
};

Jasmine Test,csv2jsonSpec.js:

var csv2json = require('csv2json.js');

var CSV_STRING = "'col1','col2','col3'\n'1','2','3'\n'4','5','6'";
var JSON_STRING = '[{"col1":"1","col2":"2","col3":"3"},{"col1":"4","col2":"5","col3":"6"}]';

/* jasmine specs for csv2json */
describe('csv2json', function() {

    it('should convert a csv string to a json string.', function() {
        expect(csv2json.convert(CSV_STRING)).toEqual(
                JSON_STRING);
    });
});

答案 3 :(得分:8)

不得不做类似的事情,希望这会有所帮助。

// Node packages for file system
var fs = require('fs');
var path = require('path');


var filePath = path.join(__dirname, 'PATH_TO_CSV');
// Read CSV
var f = fs.readFileSync(filePath, {encoding: 'utf-8'}, 
    function(err){console.log(err);});

// Split on row
f = f.split("\n");

// Get first row for column headers
headers = f.shift().split(",");

var json = [];    
f.forEach(function(d){
    // Loop through each row
    tmp = {}
    row = d.split(",")
    for(var i = 0; i < headers.length; i++){
        tmp[headers[i]] = row[i];
    }
    // Add object to list
    json.push(tmp);
});

var outPath = path.join(__dirname, 'PATH_TO_JSON');
// Convert object to string, write json to file
fs.writeFileSync(outPath, JSON.stringify(json), 'utf8', 
    function(err){console.log(err);});

答案 4 :(得分:3)

我没有尝试过csv package https://npmjs.org/package/csv,但根据文档,它看起来质量很高[{3}}

答案 5 :(得分:3)

我从node-csvtojson开始,但它为我的链接带来了太多的依赖关系。

根据您的问题和answer by brnd,我使用了node-csvunderscore.js

var attribs;
var json:
csv()
    .from.string(csvString)
    .transform(function(row) {
        if (!attribs) {
            attribs = row;
            return null;
        }
        return row;
     })
    .to.array(function(rows) {
        json = _.map(rows, function(row) {
            return _.object(attribs, row);
        });
     });

答案 6 :(得分:2)

使用lodash

function csvToJson(csv) {
  const content = csv.split('\n');
  const header = content[0].split(',');
  return _.tail(content).map((row) => {
    return _.zipObject(header, row.split(','));
  });
}

答案 7 :(得分:2)

我有一个非常简单的解决方案,就是使用csvtojson模块从控制台上的csv打印json。

// require csvtojson
var csv = require("csvtojson");

const csvFilePath='customer-data.csv' //file path of csv
csv()
.fromFile(csvFilePath)``
.then((jsonObj)=>{
    console.log(jsonObj);
})

答案 8 :(得分:1)

Node-ETL包足以用于所有BI处理。

npm install node-etl; 

然后:

var ETL=require('node-etl');
var output=ETL.extract('./data.csv',{
              headers:["a","b","c","d"],
              ignore:(line,index)=>index!==0, //ignore first line
 });

答案 9 :(得分:1)

我使用csvtojson库将csv字符串转换为json数组。 它具有多种功能,可以帮助您转换为JSON。
它还支持从文件和文件流中读取。

解析可以包含逗号(,)或任何其他分隔符的csv时要小心。 要删除分隔符,请参阅我的答案here

答案 10 :(得分:1)

如果只需要命令行转换器,对我来说最快,最干净的解决方案是通过csvtojson使用npx(默认包含在node.js中)

$ npx csvtojson ./data.csv > data.json

答案 11 :(得分:1)

使用ES6

const toJSON = csv => {
    const lines = csv.split('\n')
    const result = []
    const headers = lines[0].split(',')

    lines.map(l => {
        const obj = {}
        const line = l.split(',')

        headers.map((h, i) => {
            obj[h] = line[i]
        })

        result.push(obj)
    })

    return JSON.stringify(result)
}

const csv = `name,email,age
francis,francis@gmail.com,33
matty,mm@gmail.com,29`

const data = toJSON(csv)

console.log(data)

输出

// [{"name":"name","email":"email","age":"age"},{"name":"francis","email":"francis@gmail.com","age":"33"},{"name":"matty","email":"mm@gmail.com","age":"29"}]

答案 12 :(得分:0)

我和我的伙伴创建了一个Web服务来处理这类事情。

查看Modifly.co,了解如何通过一次RESTful调用将CSV转换为JSON。

答案 13 :(得分:0)

使用csv parser library,我会更详细地解释如何使用here

var csv = require('csv');
csv.parse(csvText, {columns: true}, function(err, data){
    console.log(JSON.stringify(data, null, 2));
});

答案 14 :(得分:0)

第1步:

安装节点模块: npm install csvtojson --save

第2步:

var Converter = require("csvtojson").Converter;

var converter = new Converter({});

converter.fromFile("./path-to-your-file.csv",function(err,result){

    if(err){
        console.log("Error");
        console.log(err);  
    } 
    var data = result;

    //to check json
    console.log(data);
});

答案 15 :(得分:0)

npm install csvjson --save
在你的 Node JS 文件中

const csvjson = require('csvjson');
convertCSVToJSON(*.csv);

convertCSVToJSON = (file) => {
  const convertedObj = csvjson.toObject(file);
}