与Python的sqlite3模块相比,Node-sqlite3似乎很慢

时间:2013-06-17 22:38:20

标签: python node.js sqlite

由于内存资源有限,我最近试图在Node.js和node-sqlite3上构建一个小型网站。我过去使用Python构建了一个类似的小型网站,发现与Python的sqlite3模块相比,node-sqlite3似乎相当迟缓。我在两者上做了一批1000次SELECT操作,并注意到node-sqlite3几乎需要两倍的时间来完成。有没有人注意到同样的事情?如果我想继续使用Node.js,有关优化数据库访问的任何建议吗?

更新:我添加了用于测试的代码:

Node.js的:

var sqlite3 = require('sqlite3').verbose();
var util=require('util');
var dbfn = './db.sqlite';

var db = new sqlite3.Database(dbfn,sqlite3.OPEN_READONLY, function(err) {
  if(err) {
    console.log(err);
  } else {
    var perpage=10,max=500,table='data2012',kw='sa';
    for(var offset=1;offset<max;offset+=perpage) {
      stmt = util.format('select * from %s where xxx like "%s%" limit %d offset %d',table, kw,  perpage, offset);
      db.all(stmt);
   }
 }
});

的Python:

import sqlite3
DATABASE = './db.sqlite'
db=None
try:
  db = sqlite3.connect(DATABASE)
except:
  sys.stderr.write(os.getcwd())

table='data2011'
kw=('sa%',)
perpage=10
max=500
for offset in xrange(1,max,perpage):
  stmt = 'select * from %s where xxx like ? limit %d offset %d'%(table, perpage, offset)
  rs = db.execute(stmt, kw)
  rs.fetchall()
db.close()

1 个答案:

答案 0 :(得分:4)

嗯,python库和node.js库根本不起作用。

Python将以顺序方式在同一个线程中运行所有内容。最多只能同时处理一个查询,并且内存占用空间仅限于一个查询的结果。

另一方面,node.js是异步的并且为了获得非阻塞行为,sqlite引擎分布在一个线程池上。它不在与事件循环相同的线程中运行。因此,查询将涉及一些上下文切换,以及由于OS调度程序的成本导致的开销。此外,因为它们可以同时执行,所以还需要考虑并发成本(互斥,信号量等)。最后,内存占用更高(在给定时间点内存中的查询和查询结果更多),这给垃圾收集器带来了更大的压力。

使用这个特定的基准测试,假设查询只是快速查找,因此node.js比Python慢​​,因为线程活动的成本高于并行运行某些查询的好处。