Python脚本,用于读取一个目录中的多个excel文件,并将它们转换为另一个目录中的.csv文件

时间:2017-02-03 21:18:44

标签: python excel csv

我对python和Stackoverflow相对较新,但希望任何人都可以了解我当前的问题。我有一个python脚本,从一个目录中获取excel文件(.xls和.xlsx)并将它们转换为.csv文件到另一个目录。它在我的示例excel文件(由4列和1行组成,用于测试)上工作得非常好,但是当我尝试针对具有excel文件的不同目录(文件大小更大)运行我的脚本时,我得到了断言错误。我附上了我的代码和错误。期待对这个问题有一些指导。谢谢!

import os
import pandas as pd

source = "C:/.../TestFolder"
output = "C:/.../OutputCSV"

dir_list = os.listdir(source)

os.chdir(source)

for i in range(len(dir_list)):
    filename = dir_list[i]
    book = pd.ExcelFile(filename)

    #writing to csv
    if filename.endswith('.xlsx') or filename.endswith('.xls'):
        for i in range(len(book.sheet_names)):
            df = pd.read_excel(book, book.sheet_names[i])

            os.chdir(output)

            new_name = filename.split('.')[0] + str(book.sheet_names[i])+'.csv'
            df.to_csv(new_name, index = False)

        os.chdir(source)

print "New files: ", os.listdir(output)

The error message I receive when executing this script in the terminal shows as below:

1 个答案:

答案 0 :(得分:0)

由于您使用Windows,请考虑使用Jet / ACE SQL引擎(Windows .dll文件)查询Excel工作簿并导出到CSV文件,从而绕过使用pandas数据帧加载/导出的需要。

具体来说,使用pyodbc建立与Excel文件的ODBC连接,遍历每个工作表并使用SELECT * INTO ... SQL操作查询导出到csv文件。 openpyxl模块用于检索工作表名称。下面的脚本不依赖于相对路径,因此可以从任何地方运行。假设每个Excel文件都有完整的标题列(在顶行的已使用范围内没有丢失的单元格)。

import os
import pyodbc
from openpyxl import load_workbook

source = "C:/Path/To/TestFolder"
output = "C:/Path/To/OutputCSV"

dir_list = os.listdir(source)

for xlfile in dir_list:
    strfile = os.path.join(source, xlfile)

    if strfile.endswith('.xlsx') or strfile.endswith('.xls'):
        # CONNECT TO WORKBOOK
        conn = pyodbc.connect(r'Driver={Microsoft Excel Driver (*.xls, *.xlsx, *.xlsm, *.xlsb)};' + \
                               'DBQ={};'.format(strfile), autocommit=True)
        # RETRIEVE WORKBOOK SHEETS
        sheets = load_workbook(filename = strfile, use_iterators = True).get_sheet_names()

        # ITERATIVELY EXPORT SHEETS TO CSV IN OUTPUT FOLDER
        for s in sheets:
            outfile = os.path.join(output, '{0}_{1}.csv'.format(xlfile.split('.')[0], s))
            if os.path.exists(outfile): os.remove(outfile)

            strSQL = " SELECT * " + \
                     " INTO [text;HDR=Yes;Database={0};CharacterSet=65001].[{1}]" + \
                     " FROM [{2}$]"            
            conn.execute(strSQL.format(output, os.path.basename(outfile, s))
        conn.close()

**注意:此过程会创建一个schema.ini文件,该文件与每次迭代连接。可以删除。