在node-sqlite3软件包中使用CSV文件

时间:2018-08-08 16:12:03

标签: node.js sqlite node-sqlite3

我正在Web应用程序中的npm sqlite3包中用于一家实体餐厅(出于学习目的)。在当前的实现中,启动本地服务器时,我将创建一个menuItems表,如下所示:

var db = new sqlite3.Database(':memory:');
db.serialize(function() {
  db.run('CREATE TABLE menuItems ('
          + 'itemName VARCHAR(255),'
          + 'itemDescription VARCHAR(255),'
          + 'unitPrice REAL'
          + ');')
  .run("INSERT INTO menuItems (itemName, itemDescription, unitPrice) VALUES"
          + " ('Fish Filet', 'Yummy fish in a sandwich.', 9.95)")
});

但是,我希望menuItems表不被硬编码在js文件中,并且希望将实际项目与此js文件分开。我可以想到一些解决方案:

  1. 使用当前的实现和硬代码命令将单个项目插入表中。

  2. 使用SQLite3导入csv文件并将其插入表中。*

  3. csv文件中读取项目,并通过循环将其插入。

  4. 在服务器启动之前建立数据库,并将其传递到sqlite3.Database()构造函数中。

*我想使用选项2。但是,由于这是出于学习目的,因此我愿意接受任何建议,包括但不限于使用其他数据库管理软件包或使用其他种类的软件包。文件(可能只是txt文件)。

我知道有some ways个使用SQLite3导入csv文件。我正在尝试通过sqlite3 npm软件包执行相同的操作。当我尝试通过链接页面中的同一命令(似乎是sqlite3特定命令)导入文件时,

db.run('.import "C:/Users/path/to/csv/file.csv"'
      + 'INTO TABLE menuItems'
      + 'FIELDS TERMINATED BY ","'
      + 'ENCLOSED BY "\'"'
      + 'LINES TERMINATED BY \'\\n\''
      + 'IGNORE 1 ROWS'
      + ');');

我收到错误消息

events.js:183
  throw er; // Unhandled 'error' event
  ^

Error: SQLITE_ERROR: near ".": syntax error

尝试使用normal SQL syntax

    .run('BULK INSERT menuItems'
          + 'FROM "C:/Users/path/to/csv/file.csv" '
          + 'WITH '
          + '{ '
          + 'FIRSTROW = 2,'
          + 'FIELDTERMINATOR = ","'
          + 'ROWTERMINATOR = "\n",'
          + 'ERRORFILE = "C:/Users/path/to/csv/error_file.csv" '
          + 'TABLOCK'
          + '}')

我收到错误消息

events.js:183
      throw er; // Unhandled 'error' event
      ^

Error: SQLITE_ERROR: near "BULK": syntax error

我的语法有误吗?有没有更好/可行/更有效的方法来做到这一点?选项3似乎可以使用,但我还没有尝试过。

3 个答案:

答案 0 :(得分:0)

我最终选择了选项3。即,我使用fs包读取CSV文件,进行了一些解析,并在Promise对象中返回了结果,并进行了数据库插入在所述then对象的Promise中。

答案 1 :(得分:0)

尝试

db.run('.import "C:/Users/path/to/csv/file.csv"'
      + 'INTO TABLE menuItems'
      + 'FIELDS TERMINATED BY ","'
      + 'ENCLOSED BY "\'"'
      + 'LINES TERMINATED BY \'\\n\''
      + 'IGNORE 1 ROWS'
      + ')');
.开头的

命令不需要结尾的分号

答案 2 :(得分:0)

有一个将 csv 读入 sqlite3 db 的小例子。

const sql3 = require('better-sqlite3');
const   db = new sql3( 'memory.db' );
const  csv = require('csv-parser');
const   fs = require('fs');

// create table
db.exec( 'CREATE TABLE IF NOT EXISTS menuItems ( itemName TEXT, itemDescription TEXT, unitPrice REAL );' );
//db.exec( 'DROP TABLE menuItems;' );

const insrow = db.prepare( 'insert into menuItems ( itemName, itemDescription, unitPrice ) VALUES (?, ?, ?)' );


fs.createReadStream('C:/Users/path/to/csv/file.csv')
  .pipe(csv({"separator":";"}))
  .on('data', (row) => {
    
    insrow.run( row.itemName, row.itemDescription, row.unitPrice );
    console.log(row);
  })
  .on('end', () => {
    console.log('CSV file successfully processed');
    db.close();
  });
      

示例中的数据库是memory.db,csv格式不是逗号分隔的,而是分号分隔的,如有必要,请更改分隔符。

这种情况下的 csv 必须以 itemName;itemDescription;unitPrice 标题开头,一行看起来像 Fish Filet;Yummy fish in a sand.;9.95 和以此类推。