熊猫:查找excel文件中的工作表列表

时间:2013-07-31 17:57:19

标签: python excel pandas openpyxl xlrd

新版本的Pandas使用the following interface加载Excel文件:

read_excel('path_to_file.xls', 'Sheet1', index_col=None, na_values=['NA'])

但如果我不知道可用的床单怎么办?

例如,我正在使用以下表格的

  

数据1,数据2 ......,数据N,foo,bar

但我不知道N先验。

有没有办法从Pandas的excel文档中获取工作表列表?

9 个答案:

答案 0 :(得分:148)

您仍然可以使用ExcelFile类(以及sheet_names属性):

xl = pd.ExcelFile('foo.xls')

xl.sheet_names  # see all sheet names

xl.parse(sheet_name)  # read a specific sheet to DataFrame

有关更多选项,请参阅docs for parse ...

答案 1 :(得分:22)

您应该将第二个参数(sheetname)明确指定为None。像这样:

 df = pandas.read_excel("/yourPath/FileName.xlsx", None);

“df”是所有工作表作为DataFrames的字典,您可以通过运行此验证它:

df.keys()

结果如下:

[u'201610', u'201601', u'201701', u'201702', u'201703', u'201704', u'201705', u'201706', u'201612', u'fund', u'201603', u'201602', u'201605', u'201607', u'201606', u'201608', u'201512', u'201611', u'201604']

请参阅pandas doc以获取更多详细信息:https://pandas.pydata.org/pandas-docs/stable/generated/pandas.read_excel.html

答案 2 :(得分:5)

这是我发现最快的方法,灵感来自@divingTobi的答案。所有基于xlrd,openpyxl或pandas的答案对我来说都很慢,因为它们都首先加载整个文件。

from zipfile import ZipFile
from bs4 import BeautifulSoup  # you also need to install "lxml" for the XML parser

with ZipFile(file) as zipped_file:
    summary = zipped_file.open(r'xl/workbook.xml').read()
soup = BeautifulSoup(summary, "xml")
sheets = [sheet.get("name") for sheet in soup.find_all("sheet")]

答案 3 :(得分:1)

以@dhwanil_shah的答案为基础,您无需提取整个文件。使用zf.open,可以直接从压缩文件中读取。

import xml.etree.ElementTree as ET
import zipfile

def xlsxSheets(f):
    zf = zipfile.ZipFile(f)

    f = zf.open(r'xl/workbook.xml')

    l = f.readline()
    l = f.readline()
    root = ET.fromstring(l)
    sheets=[]
    for c in root.findall('{http://schemas.openxmlformats.org/spreadsheetml/2006/main}sheets/*'):
        sheets.append(c.attrib['name'])
    return sheets

两个连续的readline很难看,但内容仅在文本的第二行。无需解析整个文件。

此解决方案似乎比read_excel版本要快得多,而且很有可能比完整提取版本还快。

答案 4 :(得分:1)

from openpyxl import load_workbook

sheets = load_workbook(excel_file, read_only=True).sheetnames

对于我正在使用的5MB Excel文件,没有load_workbook标志的read_only用了8.24秒。使用read_only标志仅花费了39.6 ms。如果您仍然想使用Excel库而不是使用xml解决方案,那将比解析整个文件的方法快得多。

答案 5 :(得分:1)

  1. 使用 load_workbook readonly 选项,之前被视为明显等待许多秒的执行发生在毫秒内。然而,该解决方案仍有待改进。

     import pandas as pd
     from openpyxl import load_workbook
     class ExcelFile:
    
         def __init__(self, **kwargs):
             ........
             .....
             self._SheetNames = list(load_workbook(self._name,read_only=True,keep_links=False).sheetnames)
    
  2. Excelfile.parse 花费的时间与以 10 秒的顺序读取完整的 xls 所需的时间相同。这个结果是在 windows 10 操作系统下获得的,包版本低于

     C:\>python -V
     Python 3.9.1
    
     C:\>pip list
     Package         Version
     --------------- -------
     et-xmlfile      1.0.1
     numpy           1.20.2
     openpyxl        3.0.7
     pandas          1.2.3
     pip             21.0.1
     python-dateutil 2.8.1
     pytz            2021.1
     pyxlsb          1.0.8
     setuptools      49.2.1
     six             1.15.0
     xlrd            2.0.1
    

答案 6 :(得分:0)

我尝试了xlrd,pandas,openpyxl和其他类似的库,随着它们读取整个文件,随着文件大小的增加,它们似乎都花费了指数时间。上面提到的其他使用'on_demand'的解决方案对我不起作用。如果只想最初获取工作表名称,则以下功能适用于xlsx文件。

def get_sheet_details(file_path):
    sheets = []
    file_name = os.path.splitext(os.path.split(file_path)[-1])[0]
    # Make a temporary directory with the file name
    directory_to_extract_to = os.path.join(settings.MEDIA_ROOT, file_name)
    os.mkdir(directory_to_extract_to)

    # Extract the xlsx file as it is just a zip file
    zip_ref = zipfile.ZipFile(file_path, 'r')
    zip_ref.extractall(directory_to_extract_to)
    zip_ref.close()

    # Open the workbook.xml which is very light and only has meta data, get sheets from it
    path_to_workbook = os.path.join(directory_to_extract_to, 'xl', 'workbook.xml')
    with open(path_to_workbook, 'r') as f:
        xml = f.read()
        dictionary = xmltodict.parse(xml)
        for sheet in dictionary['workbook']['sheets']['sheet']:
            sheet_details = {
                'id': sheet['@sheetId'],
                'name': sheet['@name']
            }
            sheets.append(sheet_details)

    # Delete the extracted files directory
    shutil.rmtree(directory_to_extract_to)
    return sheets

由于所有xlsx基本上都是压缩文件,因此我们提取基础xml数据并直接从工作簿中读取工作表名称,这比库函数要花一秒钟的时间。

基准测试:(在6mb xlsx文件(4张纸上)
熊猫,xlrd::12秒
openpyxl::24秒
建议的方法: 0.4秒

由于我的要求只是读取工作表名称,因此读取整个时间不必要的开销困扰着我,所以我选择了这条路线。

答案 7 :(得分:0)

如果您:

  • 关心性能
  • 在执行时不需要文件中的数据。
  • 想与传统库一起使用还是推出自己的解决方案

以下是在约10Mb xlsxxlsb文件上进行的基准测试。

xlsx, xls

from openpyxl import load_workbook

def get_sheetnames_xlsx(filepath):
    wb = load_workbook(filepath, read_only=True, keep_links=False)
    return wb.sheetnames

基准:速度提高14倍

# get_sheetnames_xlsx vs pd.read_excel
225 ms ± 6.21 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)
3.25 s ± 140 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)

xlsb

from pyxlsb import open_workbook

def get_sheetnames_xlsb(filepath):
  with open_workbook(filepath) as wb:
     return wb.sheets

基准: 56倍速度改进

# get_sheetnames_xlsb vs pd.read_excel
96.4 ms ± 1.61 ms per loop (mean ± std. dev. of 7 runs, 10 loops each)
5.36 s ± 162 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)

注释:

答案 8 :(得分:0)

如果你读过excel文件

dfs = pd.ExcelFile('file')

然后使用

dfs.sheet_names
dfs.parse('sheetname')

另一种变体

df = pd.read_excel('file', sheet_name='sheetname')