如何在不加载整个文件的情况下从XLS文件中获取工作表名称?

时间:2012-09-03 14:44:52

标签: python excel pandas xlrd

我目前正在使用pandas读取Excel文件并向用户显示其工作表名称,因此他可以选择要使用的工作表。问题是文件非常大(70列x 65k行),在笔记本上加载最多需要14秒(CSV文件中的相同数据需要3秒)。

我在熊猫的代码是这样的:

xls = pandas.ExcelFile(path)
sheets = xls.sheet_names

之前我尝试过xlrd,但获得了类似的结果。这是我的代码xlrd:

xls = xlrd.open_workbook(path)
sheets = xls.sheet_names

那么,有没有人建议从Excel文件中检索工作表名称的方法比阅读整个文件更快?

6 个答案:

答案 0 :(得分:39)

您可以使用xlrd库并使用“on_demand = True”标志打开工作簿,这样就不会自动加载工作表。

您可以通过与pandas类似的方式检索工作表名称:

import xlrd
xls = xlrd.open_workbook(r'<path_to_your_excel_file>', on_demand=True)
print xls.sheet_names() # <- remeber: xlrd sheet_names is a function, not a property

答案 1 :(得分:1)

根据我对标准库/流行库的研究,截至2020年xlsx / xls尚未实现,但是您可以在xlsb上实现。无论哪种方式,这些解决方案都可以为您带来巨大的性能提升。用于xlsxlsxxlsb

以下是在〜10Mb xlsxxlsb文件上进行的基准测试。

xlsx, xls

from openpyxl import load_workbook

def get_sheetnames_xlsx(filepath):
    wb = load_workbook(filepath, read_only=True, keep_links=False)
    return wb.sheetnames

基准:速度提高14倍

# get_sheetnames_xlsx vs pd.read_excel
225 ms ± 6.21 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)
3.25 s ± 140 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)

xlsb

from pyxlsb import open_workbook

def get_sheetnames_xlsb(filepath):
  with open_workbook(filepath) as wb:
     return wb.sheets

基准: 56倍速度改进

# get_sheetnames_xlsb vs pd.read_excel
96.4 ms ± 1.61 ms per loop (mean ± std. dev. of 7 runs, 10 loops each)
5.36 s ± 162 ms per loop (mean ± std. dev. of 7 runs, 1 loop each)

注释:

答案 2 :(得分:0)

我尝试了xlrd,pandas,openpyxl和其他类似的库,随着它们读取整个文件,随着文件大小的增加,它们似乎都花费了指数时间。上面提到的其他使用'on_demand'的解决方案对我不起作用。以下功能适用于xlsx文件。

def get_sheet_details(file_path):
    sheets = []
    file_name = os.path.splitext(os.path.split(file_path)[-1])[0]
    # Make a temporary directory with the file name
    directory_to_extract_to = os.path.join(settings.MEDIA_ROOT, file_name)
    os.mkdir(directory_to_extract_to)

    # Extract the xlsx file as it is just a zip file
    zip_ref = zipfile.ZipFile(file_path, 'r')
    zip_ref.extractall(directory_to_extract_to)
    zip_ref.close()

    # Open the workbook.xml which is very light and only has meta data, get sheets from it
    path_to_workbook = os.path.join(directory_to_extract_to, 'xl', 'workbook.xml')
    with open(path_to_workbook, 'r') as f:
        xml = f.read()
        dictionary = xmltodict.parse(xml)
        for sheet in dictionary['workbook']['sheets']['sheet']:
            sheet_details = {
                'id': sheet['sheetId'], # can be @sheetId for some versions
                'name': sheet['name'] # can be @name
            }
            sheets.append(sheet_details)

    # Delete the extracted files directory
    shutil.rmtree(directory_to_extract_to)
    return sheets

由于所有xlsx基本上都是压缩文件,因此我们提取基础xml数据并直接从工作簿中读取工作表名称,这比库函数要花一秒钟的时间。

基准测试:(在6mb xlsx文件(4张纸上)
熊猫,xlrd::12秒
openpyxl::24秒
建议的方法: 0.4秒

答案 3 :(得分:0)

您也可以使用

data=pd.read_excel('demanddata.xlsx',sheet_name='oil&gas')
print(data)   

在此,demanddata是文件的名称 石油和天然气是您的工作表名称之一。让您的工作表中的工作表数目为n。只需在Sheet_name =“所需工作表的名称”

中输入要获取的工作表名称即可。

答案 4 :(得分:0)

通过将@Dhwanil shah的答案与答案here结合在一起,我编写了与只有一张纸的xlsx文件兼容的代码:

def get_sheet_ids(file_path):
sheet_names = []
with zipfile.ZipFile(file_path, 'r') as zip_ref:
    xml = zip_ref.open(r'xl/workbook.xml').read()
    dictionary = xmltodict.parse(xml)

    if not isinstance(dictionary['workbook']['sheets']['sheet'], list):
        sheet_names.append(dictionary['workbook']['sheets']['sheet']['@name'])
    else:
        for sheet in dictionary['workbook']['sheets']['sheet']:
            sheet_names.append(sheet['@name'])
return sheet_names

答案 5 :(得分:0)

传递了完整pathlib路径文件名的Python代码改编(例如('c:\ xml \ file.xlsx'))。 来自Dhwanil shah的答案,没有使用Django方法创建临时目录。

import xmltodict
import shutil
import zipfile


def get_sheet_details(filename):
    sheets = []
    # Make a temporary directory with the file name
    directory_to_extract_to = (filename.with_suffix(''))
    directory_to_extract_to.mkdir(parents=True, exist_ok=True)
    # Extract the xlsx file as it is just a zip file
    zip_ref = zipfile.ZipFile(filename, 'r')
    zip_ref.extractall(directory_to_extract_to)
    zip_ref.close()
    # Open the workbook.xml which is very light and only has meta data, get sheets from it
    path_to_workbook = directory_to_extract_to / 'xl' / 'workbook.xml'
    with open(path_to_workbook, 'r') as f:
        xml = f.read()
        dictionary = xmltodict.parse(xml)
        for sheet in dictionary['workbook']['sheets']['sheet']:
            sheet_details = {
                'id': sheet['@sheetId'],  # can be sheetId for some versions
                'name': sheet['@name']  # can be name
            }
            sheets.append(sheet_details)
    # Delete the extracted files directory
    shutil.rmtree(directory_to_extract_to)
    return sheets