Question

我想使用Python DictWriter模块中的csv来生成一个使用GZip压缩的.csv文件。我需要在内存中完成所有操作，因此无法使用本地文件。

但是，我在处理Python 3中每个模块的类型要求时遇到了麻烦。假设我正确地掌握了通用结构，那么我无法使两个模块一起工作，因为DictWriter需要写一个{ {1}}缓冲区，而io.StringIO需要一个GZip对象。

所以，当我尝试这样做时：

io.BytesIO

我得到：

buffer = io.BytesIO() compressed = gzip.GzipFile(fileobj=buffer, mode='wb') dict_writer = csv.DictWriter(buffer, ["a", "b"], extrasaction="ignore")

尝试将TypeError: a bytes-like object is required, not 'str'与io.StringIO一起使用也不起作用。我该怎么办？

Answer 1

您可以使用io.TextIOWrapper将文本流无缝转换为二进制流：

import io
import gzip
import csv
buffer = io.BytesIO()
with gzip.GzipFile(fileobj=buffer, mode='wb') as compressed:
    with io.TextIOWrapper(compressed, encoding='utf-8') as wrapper:
        dict_writer = csv.DictWriter(wrapper, ["a", "b"], extrasaction="ignore")
        dict_writer.writeheader()
        dict_writer.writerows([{'a': 1, 'b': 2}, {'a': 4, 'b': 3}])
print(buffer.getvalue()) # dump the compressed binary data
buffer.seek(0)
dict_reader = csv.DictReader(io.TextIOWrapper(gzip.GzipFile(fileobj=buffer, mode='rb'), encoding='utf-8'))
print(list(dict_reader)) # see if uncompressing the compressed data gets us back what we wrote

这将输出：

b'\x1f\x8b\x08\x00\x9c6[\\\x02\xffJ\xd4I\xe2\xe5\xe52\xd41\x02\x92&:\xc6@\x12\x00\x00\x00\xff\xff\x03\x00\x85k\xa2\x9e\x12\x00\x00\x00'
[OrderedDict([('a', '1'), ('b', '2')]), OrderedDict([('a', '4'), ('b', '3')])]

Answer 2

一种回旋方式是先将其写入io.StringIO对象，然后将内容转换回io.BytesIO：

s = io.StringIO()
b = io.BytesIO()

dict_writer = csv.DictWriter(s, ["a", "b"], extrasaction="ignore")

... # complete your write operations ...

s.seek(0)  # reset cursor to the beginning of the StringIO stream
b.write(s.read().encode('utf-8')) # or an encoding of your choice

compressed = gzip.GzipFile(fileobj=b, mode='wb')

... 

s.close()   # Remember to close your streams!
b.close()

尽管如@wwii的评论所建议的那样，根据数据的大小，也许更值得在csv中编写自己的bytes。

使用csv.DictWriter输出内存gzip压缩的csv文件？

2 个答案: