从两个不相关的系列创建DataFrame的最有效方法是什么?

时间:2016-06-10 17:54:11

标签: python numpy pandas

我正在考虑创建一个Dataframe,它是两个不相关系列的组合。

如果我们采用两个数据帧:

A = ['a','b','c']
B = [1,2,3,4]

dfA = pd.DataFrame(A)
dfB = pd.DataFrame(B)

我正在寻找这个输出:

    A  B
0   a  1
1   a  2
2   a  3
3   a  4
4   b  1
5   b  2
6   b  3
7   b  4
8   c  1
9   c  2
10  c  3
11  c  4

一种方法是在列表direclty上创建循环并创建DataFrame,但必须有更好的方法。我确定我错过了熊猫文档中的一些内容。

result = []
for i in A:
    for j in B:
        result.append([i,j])

result_DF = pd.DataFrame(result,columns=['A','B'])

最终我正在考虑结合几个月和UUID,我有一些工作,但计算和依赖索引需要很长时间。通用解决方案显然会更好:

from datetime import datetime

start = datetime(year=2016,month=1,day=1)
end = datetime(year=2016,month=4,day=1)
months = pd.DatetimeIndex(start=start,end=end,freq="MS")
benefit = pd.DataFrame(index=months)

A = [UUID('d48259a6-80b5-43ca-906c-8405ab40f9a8'),
   UUID('873a65d7-582c-470e-88b6-0d02df078c04'),
   UUID('624c32a6-9998-49f4-92b6-70e712355073'),
   UUID('7207ab0c-3c7f-477e-b5bc-fbb8059c1dec')]
dfA = pd.DataFrame(A)

result = pd.DataFrame(columns=['A','month'])
for i in dfA.index:
    newdf = pd.DataFrame(index=benefit.index)
    newdf['A'] = dfA.iloc[i,0]
    newdf['month'] = newdf.index
    result = pd.concat([result,newdf])
result

4 个答案:

答案 0 :(得分:3)

您可以使用np.meshgrid

pd.DataFrame(np.array(np.meshgrid(dfA, dfB, )).T.reshape(-1, 2))

    0  1
0   a  1
1   a  2
2   a  3
3   a  4
4   b  1
5   b  2
6   b  3
7   b  4
8   c  1
9   c  2
10  c  3
11  c  4

分别在~2000xDataFrame300的{​​{1}}个对象上获得大约400次加速:

A = ['a', 'b', 'c'] * 100
B = [1, 2, 3, 4] * 100

dfA = pd.DataFrame(A)
dfB = pd.DataFrame(B)

np.meshgrid

%%timeit
pd.DataFrame(np.array(np.meshgrid(dfA, dfB, )).T.reshape(-1, 2))
100 loops, best of 3: 8.45 ms per loop

vs cross

%timeit cross(dfA, dfB)
1 loop, best of 3: 16.3 s per loop

因此,如果我理解你的例子,你可以:

A = ['a', 'b', 'c']
dfA = pd.DataFrame(A)

start = datetime(year=2016, month=1, day=1)
end = datetime(year=2016, month=4, day=1)
months = pd.DatetimeIndex(start=start, end=end, freq="MS")
dfB = pd.DataFrame(months.month)

pd.DataFrame(np.array(np.meshgrid(dfA, dfB, )).T.reshape(-1, 2))

也得到:

    0  1
0   a  1
1   a  2
2   a  3
3   a  4
4   b  1
5   b  2
6   b  3
7   b  4
8   c  1
9   c  2
10  c  3
11  c  4

答案 1 :(得分:2)

可选地

a = [1,2,3]
b = ['a','b','c']
x,y = zip(*[i for i in zip(np.tile(a,len(a)),np.tile(b,len(a)))])
pd.DataFrame({'x':x,'y':y})

输出:

    x   y
0   1   a
1   2   b
2   3   c
3   1   a
4   2   b
5   3   c
6   1   a
7   2   b
8   3   c

%%timeit
1000 loops, best of 3: 559 µs per loop

编辑:您实际上并不需要np.tile。一个简单的理解就可以了

x,y = zip(*[(i,j) for i in a for j in b])

答案 2 :(得分:2)

使用itertools.product

from itertools import product

result = pd.DataFrame(list(product(dfA.iloc[:,0], dfB.iloc[:,0])))

效率不如np.meshgrid,但效率高于其他解决方案。

答案 3 :(得分:0)

单线方法

pd.DataFrame(0, A, B).stack().index.to_series().apply(pd.Series).reset_index(drop=True)

或者:

pd.MultiIndex.from_product([A, B]).to_series().apply(pd.Series).reset_index(drop=True)

从数据框中,假设信息在第一列。

pd.MultiIndex.from_product([dfA.iloc[:, 0], dfB.iloc[:, 0]]).to_series().apply(pd.Series).reset_index(drop=True)

官能化:

def cross(df1, df2):
    s1 = df1.iloc[:, 0]
    s2 = df2.iloc[:, 0]
    midx = pd.MultiIndex.from_product([s1, s2])
    df = midx.to_series().apply(pd.Series).reset_index(drop=True)
    df.columns = [s1.name, s2.name if s1.name != s2.name else 1]
    return df

print cross(dfA, dfB)

    0  1
0   a  1
1   a  2
2   a  3
3   a  4
4   b  1
5   b  2
6   b  3
7   b  4
8   c  1
9   c  2
10  c  3
11  c  4