如何在python3中使用lzma(* .warc.xz)压缩warc记录?

时间:2017-01-14 12:36:53

标签: python-3.x lzma xz warc


我有一份warc记录清单。列表中的每个项目都是这样创建的:

header = warc.WARCHeader({
    "WARC-Type": "response",
    "WARC-Target-URI": "www.somelink.com",
}, defaults=True)
data = "Some string"
record = warc.WARCRecord(header, data.encode('utf-8','replace'))

现在,我使用* .warc.gz存储我的记录,如下所示:

output_file = warc.open("my_file.warc.gz", 'wb')

写下这样的记录:

output_file.write_record(record) # type of record is WARCRecord

但是如何用lzma压缩为* .warc.xz?我已经尝试在callig warc.open中用xz替换gz,但是python3中的warc不支持这种格式。我找到了这个trial,但是我无法用这个保存WARCRecord:

output_file = lzma.open("my_file.warc.xz", 'ab', preset=9)
header = warc.WARCHeader({
    "WARC-Type": "response",
    "WARC-Target-URI": "www.somelink.com",
}, defaults=True)
data = "Some string"
record = warc.WARCRecord(header, data.encode('utf-8','replace'))
output_file.write(record)

错误消息是:

  

TypeError:需要类似字节的对象,而不是' WARCRecord'

感谢您的帮助。

1 个答案:

答案 0 :(得分:1)

WARCRecord类有一个write_to方法,用于将记录写入文件对象。

您可以使用它将记录写入使用lzma.open()创建的文件。