如何将嵌套的json结构转换为数据框

时间:2019-11-11 12:12:39

标签: python json python-3.x pandas dataframe

我将JSON转换为DataFrame,最后得到一列“ Structure_value”,该列具有以下值作为字典/词典列表:

                   Structure_value
[{'Room': 6, 'Length': 7}, {'Room': 6, 'Length': 7}]
[{'Room': 6, 'Length': 22}]
[{'Room': 6, 'Length': 8}, {'Room': 6, 'Length': 9}]

由于它是一个对象,所以我猜它最终以这种格式出现。

我需要将其分为以下四列:

Structure_value_room_1
Structure_value_length_1
Structure_value_room_2
Structure_value_length_2

StackOverflow上的所有其他解决方案仅处理将Simple JSON转换为DataFrame而不是嵌套结构的问题。

附言::我知道我可以通过显式命名字段来做些事情,但是我需要一个通用的解决方案,以便将来可以处理这种格式的任何JSON

[编辑]:输出应如下所示:

   Structure_value_room_1  Structure_value_length_1  Structure_value_room_2  \
0                       6                         7                     6.0   
1                       6                        22                     NaN   
2                       6                         8                     6.0   

   Structure_value_length_2  
0                       7.0  
1                       NaN  
2                       9.0  

2 个答案:

答案 0 :(得分:4)

将列表理解与带有嵌套枚举的字典理解一起用于重复数据删除的字典键,最后将字典列表传递给DataFrame构造函数:

L = [ {f"{k}_{i}": v for i, y in enumerate(x, 1) 
                     for k, v in y.items()}
                     for x in df["Structure_value"] ]
df = pd.DataFrame(L)
print(df)

   Room_1  Length_1  Room_2  Length_2
0       6         7     6.0       7.0
1       6        22     NaN       NaN
2       6         8     6.0       9.0

对于问题中的列名,请使用:

def json_to_df(df, column):

    L = [ {f"{column}_{k.lower()}_{i}": v for i, y in enumerate(x, 1) 
                         for k, v in y.items()}
                         for x in df[column] ]
    return pd.DataFrame(L)


df1 = json_to_df(df, 'Structure_value')
print(df1)
   Structure_value_room_1  Structure_value_length_1  Structure_value_room_2  \
0                       6                         7                     6.0   
1                       6                        22                     NaN   
2                       6                         8                     6.0   

   Structure_value_length_2  
0                       7.0  
1                       NaN  
2                       9.0  

答案 1 :(得分:0)

您可以将非熊猫解决方案应用于原始JSON数据,此处用rows表示:

import pprint

rows = [
    {"Foo": "1", "Structure": [{'Room': 6, 'Length': 7}, {'Room': 6, 'Length': 7}]},
    {"Foo": "2", "Structure": [{'Room': 6, 'Length': 22}]},
    {"Foo": "3", "Structure": [{'Room': 6, 'Length': 8}, {'Room': 6, 'Length': 9}]},
]

for row in rows:  # Modifies `rows` in-place
    for index, room_info in enumerate(row.pop("Structure", ()), 1):
        for key, value in room_info.items():
            row[f"Structure_value_{key.lower()}_{index}"] = value

pprint.pprint(rows)

输出

[{'Foo': '1',
  'Structure_value_length_1': 7,
  'Structure_value_length_2': 7,
  'Structure_value_room_1': 6,
  'Structure_value_room_2': 6},
 {'Foo': '2', 'Structure_value_length_1': 22, 'Structure_value_room_1': 6},
 {'Foo': '3',
  'Structure_value_length_1': 8,
  'Structure_value_length_2': 9,
  'Structure_value_room_1': 6,
  'Structure_value_room_2': 6}]