将数据管道化为尚未准备好接收数据的可写流

时间:2016-04-12 06:11:51

标签: node.js node-streams

有没有办法将可读流连接到Node.js中的可写流,其中writeable尚未准备好接收数据?换句话说,我想将可读与可写连接,但我想在程序的稍后阶段初始化可写,包括定义写方法。也许我们必须实现write方法,但有没有办法以类似的方式暂停可写流,您可以暂停可读流?或者,在将数据传输到可写入数据之前,我们可以使用中间通过/转换流并缓存数据!

例如,我们通常会这样做:

readable.pipe(transform).pipe(writable);

但我想做点什么:

const tstrm = readable.pipe(transform);

doSomethingAsync().then(function(){

      tstrm.pipe(writable);

});

只是想知道这是否可行,以及如何做到这一点,到目前为止一直无法解决这两个问题。

我想我希望在连接/管道连接到可写流之前缓冲中间变换流中的数据,然后,一旦连接,就在任何新数据之前首先流式传输缓冲数据。似乎是一件合理的事情,无法找到任何相关信息。

1 个答案:

答案 0 :(得分:2)

注意,我在这里使用一个间隔模仿作者能否阅读。您可以以任何方式执行此操作,即如果编写器返回false,您将更新状态以开始缓冲等。我认为最后一行是您想要的,即

r.pipe(b).pipe(w);

内容如下

readStrem.pipe(transformBbuffer).pipe(writeStream);

示例代码,我们可以对缓冲所有数据进行一些更改。我将在代码之后进行描述。您需要了解关于流和更多内容的所有内容都在文档中,我认为他们可以使用更完整的示例,但它们非常好...

https://nodejs.org/api/stream.html#stream_class_stream_transform_1

这是代码。

var fs     = require('fs');
var stream = require('stream')
const util = require('util');
//const StringDecoder = require('string_decoder').StringDecoder;
const Transform = require('stream').Transform;
var check_buff  = 0;
var DRAIN_ME    = 0;

var r = fs.createReadStream('file1.txt').setEncoding('utf8');
var w = fs.createWriteStream('file2.txt');

var BufferStream = function () {
  stream.Transform.apply(this, arguments);
  this.buffer = []; 
};

util.inherits(BufferStream, stream.Transform);

var intId;
intId = setInterval(function(){
  if(check_buff % 3 == 0) {
    DRAIN_ME = 1;
    return;
  }
  DRAIN_ME = 0;
},10);  

BufferStream.prototype._transform = function (chunk, encoding, done) {
  this.buffer.push(String(chunk));
  while(DRAIN_ME > 0 && this.buffer.length > 0) {
    this.push(this.buffer.shift());
  }
  console.log(chunk.length);
  console.log(this.buffer.length);
  done();
};

var b = new BufferStream();
b.on('end', function(chunk) {
  clearInterval(intId);
});
r.pipe(b).pipe(w);
  

我正在寻找实现转换/通过的规范方法   stream,缓冲所有数据,直到管道被调用为止。

进行以下更改

BufferStream.prototype._transform = function (chunk, encoding, done) {
  this.buffer.push(String(chunk));

  console.log(chunk.length);
  console.log(this.buffer.length);
  done();
};
......
BufferStream.prototype._flush = function (cb) {
  var len = this.buffer.length;
  for (var i = 0; i < len; i++) {
    this.push(this.buffer.shift());
  };
  cb();
};

您还可以暂停可读流,这将暂停可写流,因为它停止接收数据,即...

要测试这个,请在​​磁盘上创建一个相当大的文件,即100MB或更多,并运行此...

var fs = require('fs');
var readableStream = fs.createReadStream('file1.txt');
var writableStream = fs.createWriteStream('file2.txt');

readableStream.setEncoding('utf8');

readableStream.on('data', function(chunk) {
  var ready = 0;
  readableStream.pause();
  setInterval(function(){
    if(ready == 0) {
      //console.log('pausing');
      readableStream.pause();
      ready = 1;
    }   
    else {
      //console.log('resuming');
      readableStream.resume();
      ready = 0;
    }   
  },100);  
  writableStream.write(chunk);
});

立即停顿的原因是因为在间隔触发10ms时,文件可能已经被写入。这有不同之处......

var fs = require('fs');
var readableStream = fs.createReadStream('file1.txt');
var writableStream = fs.createWriteStream('file2.txt');
readableStream.setEncoding('utf8');

var ready = 0;
setInterval(function(){
  if(ready == 0) {
    //console.log('pausing');
    readableStream.pause();
    ready = 1;
  }
  else {
    //console.log('resuming');
    readableStream.resume();
    ready = 0;
  }
},100);  

readableStream.on('data', function(chunk) {
  writableStream.write(chunk);
  readableStream.pause();
});