使用熊猫具有不同列的多个文件

时间:2020-08-13 17:51:29

标签: python excel pandas

我有大量带有不同列的Excel文件

例如:

文件1:

Name | sale | Tips
-------------
sam  |  9   | 7
cham |  2   | 2

文件2:

Name | sale | Items
-------------------
mini |  6    | Tshirt
Lary |  3    | Hat

输出:

Name |  sale | Items
--------------------
sam  |  9    | Nan
cham |  2    | Nan
mini |  6    | Tshirt
Lary |  3    | Hat

我有500个文件可创建为一个数据集

此代码在一定程度上起作用,但是除非所有列都相同。

import pandas as pd
import glob,os
import numpy as np


inputFile = 'C:/Users/Desktop/test'

all_workbooks =glob.glob(os.path.join(inputFile,'*.xlsx'))

column_list = []
for files in all_workbooks:
    
    data= pd.read_excel(files,header =0,sheet_name='sheet1')
    column_list.append(data)
    stack_np = np.vstack(column_list)
    newData = pd.DataFrame(stack_np,columns=['Name','Sale'])

print(newData)

如果我在所有文件中都有相同的列,则此代码有效。

如果我的列无序,谁能帮助我解决问题?

1 个答案:

答案 0 :(得分:1)

您需要收集数据帧并在循环后将其连接起来

all_dfs =[]
wanted_columns = ['Name', 'sale', 'Items']
for files in all_workbooks:
    data = pd.read_excel(files,header =0,sheet_name='sheet1')
    data = data[wanted_columns] # or skip this line to use all columns
    all_dfs.append(data)

master_df = pd.concat(all_dfs)
del all_dfs, data