通过Pandas连接(许多)CSV文件

时间:2017-11-19 23:24:21

标签: python pandas csv concatenation

我基本上试图在Pandas中连接许多时间序列类型的csv文件我确信我知道该怎么做但显然我没有。

考虑这个简单的例子:

我们有三个csv文件:

file1.csv =

Alfa, A1, A2, A3, A4
Beta, B1, B2, B3, B4
Gamma, C1, C2, C3, C4

file2.csv =

Delta, D1, D2, D3, D4
Epsilon, E1, E2, E3, E4
Zeta, F1, F2, F3, F4

file3.csv =

Eta, G1, G2, G3, G4
Theta, H1, H2, H3, H4
Iota, I1, I2, I3, I4

第一个玩具代码

[In]:

import pandas as pd
a = pd.read_csv("/Test/file1.csv", header=None)
b = pd.read_csv("/Test/file2.csv", header=None)
c = pd.read_csv("/Test/file3.csv", header=None)
colnames = ["GREEK", "ROW1", "ROW2", "ROW3", "ROW4"]
concatDf = pd.concat([a,b,c], axis=0)
concatDf.columns = colnames
print(concatDf)

[Out]:

     GREEK ROW1 ROW2 ROW3 ROW4
0     Alfa   A1   A2   A3   A4
1     Beta   B1   B2   B3   B4
2    Gamma   C1   C2   C3   C4
0    Delta   D1   D2   D3   D4
1  Epsilon   E1   E2   E3   E4
2     Zeta   F1   F2   F3   F4
0      Eta   G1   G2   G3   G4
1    Theta   H1   H2   H3   H4
2     Iota   I1   I2   I3   I4

不漂亮,但确实做了什么。 由于真实CSV文件的名称很长而文件数量很高,我认为我应该让事情变得更容易。因此第二个玩具代码

[In]:

import glob
import pandas as pd

 allFiles = glob.glob("/Test/" + "*.csv")
 dfList = []
 for filename in allaFiler:
    df = pd.read_csv(filename)
    dfList.append(df)

 concatDf = pd.concat(dfList, axis=0)
 print(concatDf)

[Out]:

    A1  A2  A3  A4  D1  D2  D3  D4  G1  G2  G3  G4 Alfa   Delta   Eta
0   B1  B2  B3  B4 NaN NaN NaN NaN NaN NaN NaN NaN Beta     NaN   NaN   
1   C1  C2  C3  C4 NaN NaN NaN NaN NaN NaN NaN NaN Gamma    NaN   NaN   
0  NaN NaN NaN NaN  E1  E2  E3  E4 NaN NaN NaN NaN  NaN Epsilon   NaN   
1  NaN NaN NaN NaN  F1  F2  F3  F4 NaN NaN NaN NaN  NaN    Zeta   NaN   
0  NaN NaN NaN NaN NaN NaN NaN NaN  H1  H2  H3  H4  NaN     NaN Theta  
1  NaN NaN NaN NaN NaN NaN NaN NaN  I1  I2  I3  I4  NaN     NaN  Iota

file1.csv,file2.csv和file3.csv是Test map中的唯一文件。 我检查了documentation,但我没有找到解释。

我的问题如下:

  1. 为什么代码2不能产生与代码1相同的结果?我显然遗漏了一些非常基本的东西,所以请帮助我理解发生了什么。
  2. 我需要做些什么更改才能使代码2产生与代码1相同的结果?
  3. 提前致谢!

1 个答案:

答案 0 :(得分:2)

看来您的所有数据框都有不同的名称。这会导致pd.concat在连接期间未对齐数据帧。

解决方案是在连接之前一致地命名每一个。在读取数据帧时,使用names参数指定列名称。

dfList = []
for filename in allaFiler:
   df = pd.read_csv(filename, header=None, names=list('ABCD'))
   dfList.append(df)