使用pandas读取zip文件中包含的多个文件

Question

我有多个包含不同类型的txt文件的zip文件。 如下所示：

zip1 
  - file1.txt
  - file2.txt
  - file3.txt

如何使用pandas读取每个文件而不提取它们？

我知道如果每个zip是1个文件我可以使用read_csv的压缩方法，如下所示：

df = pd.read_csv(textfile.zip, compression='zip') 

任何有关如何做到这一点的帮助都会很棒。

Answer 1

您可以将ZipFile.open()传递给pandas.read_csv()，以便从打包为多文件pandas.DataFrame的csv文件构建zip。

代码：

pd.read_csv(zip_file.open('file3.txt'))

将所有.csv读入dict的示例：

from zipfile import ZipFile

zip_file = ZipFile('textfile.zip')
dfs = {text_file.filename: pd.read_csv(zip_file.open(text_file.filename))
       for text_file in zip_file.infolist()
       if text_file.filename.endswith('.csv')}

Answer 2

前一段时间我对XML文件有类似的问题。 zipfile模块可以帮助您。

from zipfile import ZipFile

z = ZipFile(yourfile)

text_files = z.infolist()

for text_file in text_files:
    z.read(text_file.filename)

如果你想将它们连接成一个pandas对象，那么它可能会变得更复杂，但这应该让你开始。请注意，read方法返回字节，因此您可能还必须处理它。

Answer 3

处理此问题的最简单方法（如果您将一个大 csv 文件的多个部分压缩为一个 zip 文件）。

import pandas as pd
from zipfile import ZipFile

df = pd.concat(
    [pd.read_csv(ZipFile('some.zip').open(i)) for i in ZipFile('some.zip').namelist()],
    ignore_index=True
)