Question

我在子文件夹中有多个gzfile，我想在一个文件夹中解压缩。它工作正常，但我希望删除每个文件开头的BOM签名。我已经检查了其他问题，例如Removing BOM from gzip'ed CSV in Python或Convert UTF-8 with BOM to UTF-8 with no BOM in Python，但它似乎没有效果。我在Windows上的Pycharm中使用Python 3.6。

这是我的第一个没有尝试的代码：

import gzip
import pickle
import glob


def save_object(obj, filename):
    with open(filename, 'wb') as output:  # Overwrites any existing file.
        pickle.dump(obj, output, pickle.HIGHEST_PROTOCOL)


output_path = 'path_out'

i = 1

for filename in glob.iglob(
        'path_in/**/*.gz', recursive=True):
    print(filename)
    with gzip.open(filename, 'rb') as f:
        file_content = f.read()
    new_file = output_path + "z" + str(i) + ".txt"
    save_object(file_content, new_file)
    f.close()
    i += 1

现在，如果我将file_content = f.read()替换为file_content = csv.reader(f.read().decode('utf-8-sig').encode('utf-8').splitlines())，我可以使用Removing BOM from gzip'ed CSV in Python中定义的逻辑（至少我理解它）：

TypeError：不能腌制_csv.reader对象

我检查了这个错误（例如"Can't pickle <type '_csv.reader'>" error when using multiprocessing on Windows），但我找不到可以应用的解决方案。

Answer 1

对您链接到的第一个问题的一个小修改工作。

tripleee$ cat bomgz.py
import gzip
from subprocess import run

with open('bom.txt', 'w') as handle:
    handle.write('\ufeffmoo!\n')

run(['gzip', 'bom.txt'])

with gzip.open('bom.txt.gz', 'rb') as f:
    file_content = f.read().decode('utf-8-sig')
with open('nobom.txt', 'w') as output:
    output.write(file_content)

tripleee$ python3 bomgz.py

tripleee$ gzip -dc bom.txt.gz | xxd
00000000: efbb bf6d 6f6f 210a                      ...moo!.

tripleee$ xxd nobom.txt
00000000: 6d6f 6f21 0a                             moo!.

pickle部分在这里看起来并不相关，但可能模糊了从str的编码blob中获取解码bytes块的目标。

在Python 3.6中提取没有BOM的gzip文件

1 个答案: