Python:来自dict系列的Pandas数据帧

时间:2015-04-16 17:26:42

标签: python pandas dataframe

我有一个Pandas数据帧:

type(original)
pandas.core.frame.DataFrame

包括系列对象original['user']

type(original['user'])
pandas.core.series.Series

original['user']指向了许多决定:

type(original['user'].ix[0])
dict

每个词典都有相同的键:

original['user'].ix[0].keys()

[u'follow_request_sent',
 u'profile_use_background_image',
 u'profile_text_color',
 u'id',
 u'verified',
 u'profile_location',
 # ... keys removed for brevity
]

以上是来自tweeter API的推文中user字段的其中一个字节的(部分)。我想从这些决定构建一个数据框。

当我尝试直接创建数据框时,每行只得到一列,此列包含整个字典:

pd.DataFrame(original['user'][:2])
    user
0   {u'follow_request_sent': False, u'profile_use_...
1   {u'follow_request_sent': False, u'profile_use_..

当我尝试使用from_dict()创建数据框时,我得到相同的结果:

pd.DataFrame.from_dict(original['user'][:2])

    user
0   {u'follow_request_sent': False, u'profile_use_...
1   {u'follow_request_sent': False, u'profile_use_..

接下来我尝试了一个列表解析,它返回了一个错误:

item = [[k, v] for (k,v) in users]
ValueError: too many values to unpack

当我从单行创建数据框时,它几乎可以工作:

df = pd.DataFrame.from_dict(original['user'].ix[0])
df.reset_index()

    index   contributors_enabled    created_at  default_profile     default_profile_image   description     entities    favourites_count    follow_request_sent     followers_count     following   friends_count   geo_enabled     id  id_str  is_translation_enabled  is_translator   lang    listed_count    location    name    notifications   profile_background_color    profile_background_image_url    profile_background_image_url_https  profile_background_tile     profile_image_url   profile_image_url_https     profile_link_color  profile_location    profile_sidebar_border_color    profile_sidebar_fill_color  profile_text_color  profile_use_background_image    protected   screen_name     statuses_count  time_zone   url     utc_offset  verified
0   description     False   Mon May 26 11:58:40 +0000 2014  True    False       {u'urls': []}   0   False   157

除了将description字段设置为默认索引外,它几乎就像我想要的那样。

每个词组都有40个键,但我只需要10个键,而数据帧中有28734行。

如何过滤掉我不需要的按键?

2 个答案:

答案 0 :(得分:14)

我将尝试做的是以下内容:

new_df = pd.DataFrame(list(original['user']))

这会将系列转换为list然后将其传递给pandas数据帧,它应该处理其余部分。

答案 1 :(得分:9)

df = original['user'].apply(pd.Series)

运作良好

credit