python结合了26个不同时间戳和相同列的数据帧

时间:2019-07-26 00:01:29

标签: python pandas dataframe

美国的数据库以.csv格式从世界各地接收一天的信息。有15天的数据,来自26个地方。总共15x26 = 390个数据帧。另外,有26个地方有一个公共参考数据帧。现在,我想将390 + 1个参考数据帧组合为一个。我在这里提供了我的问题的一个示例:

plA_d1df =        ### place A day1 dataframe
                       Adata
2019-01-10 07:35:22   10
2019-01-10 08:15:17   20

plB_d1df = 
                       Bdata
2019-01-10 07:38:45   30
2019-01-10 08:18:57   40

ptA_d2df = 
                       Adata
2019-01-21 07:35:42   50
2019-01-21 08:15:17   60

ptB_d2df = 
                       Bdata
2019-01-21 07:39:04   70
2019-01-21 08:19:22   80

reference = 
                          ref
2019-01-10 07:35:00     500
2019-01-10 07:38:00     530
2019-01-10 08:15:00     560
2019-01-10 08:18:00     590
2019-01-21 07:35:00     610
2019-01-21 07:39:00     640
2019-01-21 08:15:00     670
2019-01-21 08:19:00     700

所有地点和参考的以上数据应与地点-A的时间戳结合,如下所示:

combdf = 
  datetime            ref0  Adata     ref1   Bdata  
2019-01-10 07:35:22    500   10      530    30
2019-01-10 08:15:17    560   20      590    40  
2019-01-21 07:35:42    610   50      640    70
2019-01-21 08:15:17    670   60      700    80 

在引用已解决的answer之后,我实现了以下代码:

biglist = [[plA_d1df,plB_d1df],[plA_d2df,plB_d2df]] ## dataframes are in a nested list of list
l = []
s1 = []
### refdf = reference dataframe
for i in range(0,len(biglist),1):
    for j in range(0,len(biglist[i]),1):       
            s1=refdf.reindex(biglist[i][j].index,method='nearest')            
        if j==0:
            l.append(s1.join(biglist[i][j]))
        else:
            l.append(s1.join(biglist3[i][j]).reindex(l[0].index,method='nearest'))
combdf = pd.concat(l,1) 

以上代码成功运行。组合数据帧combdf的时间戳与位置A匹配,这正是我想要的。但是同一位置的列未合并。而是每天创建单独的列。因此,我调高了8列,而不是4列,大部分都填充了nan。 我目前的输出是:

combdf = 
  datetime            ref0  Adata   ref1   Bdata   ref0  Adata   ref1   Bdata  
2019-01-10 07:35:22    500   10     530    30       nan    ..          nan
2019-01-10 08:15:17    560   20     590    40       nan    ..          nan
2019-01-21 07:35:42    nan    ..          nan       610   50     640    70
2019-01-21 08:15:17   nan    ..          nan        670   60     700    80 

我必须进行哪些更正才能将列合并为相同的列。

1 个答案:

答案 0 :(得分:1)

将代码更改为

biglist = [[df1,df2],[df3,df4]] ## dataframes are in a nested list of list
l = []
s1 = []
for i in range(0,len(biglist),1):
    l1=[]
    for j in range(0,len(biglist[i]),1):
            s1=refdf.reindex(biglist[i][j].index,method='nearest')
            if j==0:
                l1.append(s1.join(biglist[i][j]))
            else:
                l1.append(s1.join(biglist[i][j]).reindex(l1[0].index,method='nearest'))
    l.append(pd.concat(l1,axis=1))
combdf = pd.concat(l,0)
combdf
Out[252]: 
                     ref  Adata  ref  Bdata
2019-01-10 07:35:22  500     10  530     30
2019-01-10 08:15:17  560     20  590     40
2019-01-21 07:35:42  610     50  640     70
2019-01-21 08:15:17  670     60  700     80