由于内存资源有限,我最近试图在Node.js和node-sqlite3上构建一个小型网站。我过去使用Python构建了一个类似的小型网站,发现与Python的sqlite3模块相比,node-sqlite3似乎相当迟缓。我在两者上做了一批1000次SELECT操作,并注意到node-sqlite3几乎需要两倍的时间来完成。有没有人注意到同样的事情?如果我想继续使用Node.js,有关优化数据库访问的任何建议吗?
更新:我添加了用于测试的代码:
Node.js的:
var sqlite3 = require('sqlite3').verbose();
var util=require('util');
var dbfn = './db.sqlite';
var db = new sqlite3.Database(dbfn,sqlite3.OPEN_READONLY, function(err) {
if(err) {
console.log(err);
} else {
var perpage=10,max=500,table='data2012',kw='sa';
for(var offset=1;offset<max;offset+=perpage) {
stmt = util.format('select * from %s where xxx like "%s%" limit %d offset %d',table, kw, perpage, offset);
db.all(stmt);
}
}
});
的Python:
import sqlite3
DATABASE = './db.sqlite'
db=None
try:
db = sqlite3.connect(DATABASE)
except:
sys.stderr.write(os.getcwd())
table='data2011'
kw=('sa%',)
perpage=10
max=500
for offset in xrange(1,max,perpage):
stmt = 'select * from %s where xxx like ? limit %d offset %d'%(table, perpage, offset)
rs = db.execute(stmt, kw)
rs.fetchall()
db.close()
答案 0 :(得分:4)
嗯,python库和node.js库根本不起作用。
Python将以顺序方式在同一个线程中运行所有内容。最多只能同时处理一个查询,并且内存占用空间仅限于一个查询的结果。
另一方面,node.js是异步的并且为了获得非阻塞行为,sqlite引擎分布在一个线程池上。它不在与事件循环相同的线程中运行。因此,查询将涉及一些上下文切换,以及由于OS调度程序的成本导致的开销。此外,因为它们可以同时执行,所以还需要考虑并发成本(互斥,信号量等)。最后,内存占用更高(在给定时间点内存中的查询和查询结果更多),这给垃圾收集器带来了更大的压力。
使用这个特定的基准测试,假设查询只是快速查找,因此node.js比Python慢,因为线程活动的成本高于并行运行某些查询的好处。