具有列表元素的熊猫数据框:拆分,填充

时间:2019-06-10 21:08:36

标签: python pandas

我有一个熊猫数据帧(NROWS x 1),其中每一行都是一个列表,例如

    y 
0   [[aa, bb], 0000001]   
1   [[uz, mk], 0000011]

我想整理列表,并分成(在这种情况下为三列)这样的列:

    1  2  3
0   aa bb 0000001
1   uz mk 0000011

此外,不同的行的长度不相等:

    y
0   [[aa, bb], 0000001]
1   [[mk], 0000011]

我真正想结束的是,检测所有行的最大长度,并将其余行填充为空字符串”。在此示例中,

    1  2  3
0   aa bb 0000001
1   '' mk 0000011

我一直在玩.values.tolist(),但是它并没有满足我的需要。

编辑-以下答案非常简洁,非常感谢。我正在编辑,以包括一个类似但更简单的问题的解决方案,以确保完整性。

读取数据,使用Strip / trim all strings of a dataframe中的trim()fn来确保没有左/右空格

df = pd.read_csv('data.csv',sep=',',dtype=str)
df = trim_all_columns(df) 

保留类别/标称ID和CODE列,删除所有不适用

df.dropna(subset=['dg_cd'] , inplace=True) # drop dg_cd is NaN rows from df 

df2 = df[['id','dg_cd']]

通过ID将CODE转换为句子,并保留所有重复的实例

x = df2.groupby('id').apply(lambda x: x['dg_cd'].values.tolist()).apply(pd.Series).replace(np.nan, '', regex=True)

执行所有操作的原因是因为这会进入k模式群集搜索https://pypi.org/project/kmodes/。 NA不是可接受的输入,而是空字符串

  

''

在没有虚假相似性的情况下允许相同长度的行。例如,

km = KModes(n_clusters=4, init='Cao', n_init=1, verbose=1)

clusters = km.fit_predict( x )

3 个答案:

答案 0 :(得分:4)

设置

df = pd.DataFrame(dict(y=[
    [['aa', 'bb'], '0000001'],
    [['uz', 'mk'], '0000011'],
    [['mk'], '0000111']
]))

df

                     y
0  [[aa, bb], 0000001]
1  [[uz, mk], 0000011]
2      [[mk], 0000111]

flatten

来自this post

def flatten(x):
    try:
        it = iter(x)
    except TypeError:
        yield x
        return
    if isinstance(x, str):
        yield x
        return
    for elem in it:
        yield from flatten(elem)

d = dict(zip(df.index, [dict(enumerate([*flatten(x)][::-1])) for x in df.y]))

d = pd.DataFrame.from_dict(d, 'index').fillna('')
d.iloc[:, ::-1].rename(columns=lambda x: d.shape[1] - x)

    1   2        3
0  aa  bb  0000001
1  uz  mk  0000011
2      mk  0000111

答案 1 :(得分:2)

使用相同的function拼合列表

pd.DataFrame(list(map(lambda x : list(flatten(x)),df.y.tolist()))).apply(lambda x : pd.Series(sorted(x,key=pd.notna)),1)
Out[85]: 
      0   1        2
0    aa  bb  0000001
1    uz  mk  0000011
2  None  mk  0000111

答案 2 :(得分:1)

如果您希望控制从哪一侧填充子列表:

max_len = df['y'].apply(lambda row: len(row[0])).max()

pd.DataFrame([*df['y'].apply(lambda row: ['']*(max_len - len(row[0])) + row[0] + row[1:])])

其中,使用@piRSquared的设置可以提供

    0   1        2
0  aa  bb  0000001
1  uz  mk  0000011
2      mk  0000111

或者,或者

pd.DataFrame([*df['y'].apply(lambda row: row[0] + ['']*(max_len - len(row[0])) + row[1:])])

给你

    0   1        2
0  aa  bb  0000001
1  uz  mk  0000011
2  mk      0000111