使用brotli压缩和解压缩utf8字符串

时间:2019-12-03 08:02:20

标签: node.js brotli

我正在尝试编写JSON字符串的压缩和解压缩,但是解压缩始终失败:

Error: Decompression failed
    at BrotliDecoder.zlibOnError [as onerror] (zlib.js:170:17) {
  errno: -6,
  code: 'ERR_CL_SPACE'
}

我无法发送压缩程序返回的缓冲区,因为我需要通过HTTP响应发送压缩后的字符串以将其取回。

此外,如果我使用base64作为格式,那么所有工作都可以,但是字符串输出比简单的JSON.stringify大,所以我会避免使用它。

我的代码:

const zlib = require('zlib')

function compress (json) {
  zlib.brotliCompress(JSON.stringify(json), {
    params: {
      [zlib.constants.BROTLI_PARAM_MODE]: zlib.constants.BROTLI_MODE_TEXT
    }
  }, (err, data) => {
    console.log(err)
    console.log(data.toString('utf8'))
    console.log('-------------------------------')
    decompress(Buffer.from(data.toString('utf8'), 'utf8'))
  })
}

function decompress (str) {
  zlib.brotliDecompress(str, (err, data) => {
    console.log(err)
    console.log(data)
  })
}

const obj = {
  wt: '5de52e98aa54253147060a01',
  ex: ['b9ac4a6b-2e72-4bf3-abd5-debf2ece4ba4']
}
compress(obj)

是否有任何参数可以从压缩中获取有效的utf8字符串输出?

1 个答案:

答案 0 :(得分:0)

在任何情况下,我认为您都必须使用base64通过网络发送数据,这将导致〜37%的尺寸损失。实际上,这可能比发送UTF8更有效,因为许多字节将需要多字节编码(发送二进制数据时)。

在任何情况下,当我们将压缩数据作为base64传递时,压缩和解压缩都是有效的。

我认为它不能与UTF8一起使用的原因是,将缓冲区转换为utf8然后再返回并不总是可逆的,也就是说,您不一定会得到相同的结果(尝试将随机数据编码为utf8然后再返回!)

const zlib = require('zlib')

// Encode the buffer in base 64. UCS2 will work, but UTF8 will not.
const encoding = "base64";

function compress (json) {
  zlib.brotliCompress(JSON.stringify(json), {
    params: {
      [zlib.constants.BROTLI_PARAM_MODE]: zlib.constants.BROTLI_MODE_TEXT
    }
  }, (err, data) => {
    if (err) {
      console.error("brotliCompress: An error occurred:", err);
    } else {
      console.log("Compressed data:", data.toString("base64"));
      console.log('-------------------------------')
      decompress(data.toString(encoding), encoding);
    }
  })
}

function decompress (encodedData, encoding) {
  const compressedData = Buffer.from(encodedData, encoding);
  zlib.brotliDecompress(compressedData, (err, data) => {
    if (err) {
      console.error("brotliDecompress: An error occurred:", err);
    } else {
      console.log("Decompressed data:", data.toString("utf8"));
    }
  });
}

const obj = {
  wt: '5de52e98aa54253147060a01',
  ex: ['b9ac4a6b-2e72-4bf3-abd5-debf2ece4ba4']
}

compress(obj);

要显示Buffer.from(data.toString(“ utf8”),“ utf8”)并非总是可逆的:

const crypto = require("crypto");
const data = crypto.randomBytes(100);

console.log("Bytes (base64):", data .toString("base64"));

const encoding = "utf8";
const dataUtf8 = data.toString(encoding);
const decoded = Buffer.from(dataUtf8, encoding);
console.log("Bytes (base64 decoded):", decoded.toString("base64"));

您会看到往返结果在不同的缓冲区中。