我正在使用node.js进行一些文件操作工作,我使用的许多软件包都需要发送“路径”,以便他们可以打开文件,做一些工作等等。
但我正在解析数百万个文件,而不是实际将它们存储在磁盘上,我想将它们存储在内存中。这些文件的内容都在我的数据库中,我讨厌将它们写入磁盘,只是为了对它们进行疯狂的工作。
这样的事情可能吗?
答案 0 :(得分:7)
看起来可能会看到这篇文章如何做creating writable memory stream
答案 1 :(得分:5)
您可以使用memfs
,它是Node.js的内存文件系统。
答案 2 :(得分:4)
因为我没有找到符合我需求的单个库,所以我创建了diskette。它是一个很小的库,它试图有效地存储缓冲区和字符串等数据,并使其可以流式传输。我在自己的项目中使用它,到目前为止,它就像一个魅力。
如果您发现了错误或者可以添加任何其他内容,请与我们联系。
答案 3 :(得分:1)
在从数据库中获取每个文件后,使用Buffer
创建let myBuffer = Buffer.from(fetchedData)
,然后使用myBuffer.toString()
将文件更改为字符串,然后根据需要对其进行解析/操作
答案 4 :(得分:1)
如果您使用的是Linux系统,则只能通过以下nodejs代码创建自己的tmpfs(RAM)。这将根据节点代码在/ mnt / myramdisk中创建一个tmpfs。 / mnt / myramdisk目录必须事先通过mkdir / mnt / myramdisk手动创建。
var MountPoint='/mnt/myramdisk';
var TextFile='/MyTextFileInRAM.txt';
var RAM_Size='512m';
const fs = require('fs');
const { exec } = require('child_process');
exec("awk '{print $2}' /proc/mounts | grep "+MountPoint, (err, stdout, stderr) => {
if (err) {
// node couldn't execute the command
//console.log(err);
console.log(MountPoint+' is Not Mounted yet. Im mounting it now:\n');
NotMountedYetSoMountIt();
return;
}
// the *entire* stdout and stderr (buffered)
if(stdout)
{
console.log(MountPoint+' is Already Mounted');
TextToWriteToFileOnTMPFS();
}
});
function NotMountedYetSoMountIt()
{
const { exec } = require('child_process');
exec('df -h && echo && mount -t tmpfs -o size='+RAM_Size+' tmpfs '+MountPoint+' && echo && df -h', (err, stdout, stderr) => {
if (err) {
// node couldn't execute the command
return;
}
// the *entire* stdout and stderr (buffered)
console.log(`stdout: ${stdout}`);
TextToWriteToFileOnTMPFS();
console.log(`stderr: ${stderr}`);
});
}
function TextToWriteToFileOnTMPFS()
{
let TextToWrite = 'Hello\n' +
'world @'+CurrentTime();
fs.writeFile(MountPoint+TextFile, TextToWrite, (err) => {
// throws an error, you could also catch it here
if (err) throw err;
// success case, the file was saved
console.log('saved!');
});
}
function addZero(i) {
if (i < 10) {
i = "0" + i;
}
return i;
}
function CurrentTime()
{
var d = new Date();
var h = addZero(d.getHours());
var m = addZero(d.getMinutes());
var s = addZero(d.getSeconds());
return h + ":" + m + ":" + s;
}
输出:
root@box:/daemons#node tmpfs_test.js && cat /mnt/myramdisk/MyTextFileInRAM.txt
/mnt/myramdisk is Not Mounted yet. Im mounting it now:
stdout: Filesystem Size Used Avail Use% Mounted on
udev 7.8G 0 7.8G 0% /dev
tmpfs 1.6G 1.4M 1.6G 1% /run
/dev/sda2 938G 436G 454G 49% /
tmpfs 7.8G 449M 7.4G 6% /dev/shm
tmpfs 5.0M 0 5.0M 0% /run/lock
tmpfs 7.8G 0 7.8G 0% /sys/fs/cgroup
/dev/loop1 90M 90M 0 100% /snap/core/8213
/dev/sda1 511M 6.1M 505M 2% /boot/efi
/dev/loop2 90M 90M 0 100% /snap/core/8268
Filesystem Size Used Avail Use% Mounted on
udev 7.8G 0 7.8G 0% /dev
tmpfs 1.6G 1.4M 1.6G 1% /run
/dev/sda2 938G 436G 454G 49% /
tmpfs 7.8G 449M 7.4G 6% /dev/shm
tmpfs 5.0M 0 5.0M 0% /run/lock
tmpfs 7.8G 0 7.8G 0% /sys/fs/cgroup
/dev/loop1 90M 90M 0 100% /snap/core/8213
/dev/sda1 511M 6.1M 505M 2% /boot/efi
/dev/loop2 90M 90M 0 100% /snap/core/8268
tmpfs 512M 0 512M 0% /mnt/myramdisk
stderr:
saved!
Hello
world @23:09:15
root@box:/daemons# node tmpfs_test.js && cat /mnt/myramdisk/MyTextFileInRAM.txt
/mnt/myramdisk is Already Mounted
saved!
Hello
world @23:09:19