访问python子列表以导入到pandas DataFrame中

时间:2012-10-28 00:55:26

标签: python pandas

我正在尝试将幻想篮球数据从yql导入到pandas数据框中,但我遇到了嵌套内容的问题。

来自yql(results.rows)的数据看起来像这样(当我使用type(results.rows)时,我得到列表)。

{u'display_position': u'PF',
u'editorial_player_key': u'nba.p.4175',
u'editorial_team_abbr': u'Uta',
u'editorial_team_full_name': u'Utah Jazz',
u'editorial_team_key': u'nba.t.26',
u'eligible_positions': {u'position': u'PF'},
u'headshot': {u'size': u'small',
  u'url': u'http://l.yimg.com/iu/api/res/1.2/KjAPlP83IIrP9iReWfjyjw--/YXBwaWQ9eXZpZGVvO2NoPTIxNTtjcj0xO2N3PTE2NDtkeD0xO2R5PTE7Zmk9dWxjcm9wO2g9NjA7cT0xMDA7dz00Ng--/http://l.yimg.com/a/i/us/sp/v/nba/players_l/20101116/4175.jpg'},
  u'image_url': u'http://l.yimg.com/iu/api/res/1.2/KjAPlP83IIrP9iReWfjyjw--/YXBwaWQ9eXZpZGVvO2NoPTIxNTtjcj0xO2N3PTE2NDtkeD0xO2R5PTE7Zmk9dWxjcm9wO2g9NjA7cT0xMDA7dz00Ng--/http://l.yimg.com/a/i/us/sp/v/nba/players_l/20101116/4175.jpg',
u'is_undroppable': u'0',
u'name': {u'ascii_first': u'Paul',
  u'ascii_last': u'Millsap',
  u'first': u'Paul',
  u'full': u'Paul Millsap',
  u'last': u'Millsap'},
u'player_id': u'4175',
u'player_key': u'304.p.4175',
u'position_type': u'P',
u'uniform_number': u'24'}

当我表演时

DataFrame(results.rows) 

它可以很好地导入数据,但是爆头和名称中的数据都是作为具有嵌套列表的列导入的。

我可以从iPython访问子列表,但是当我尝试将其导入数据帧时,我收到错误:

results[0]['name']

{u'ascii_first': u'Pau',
 u'ascii_last': u'Gasol',
 u'first': u'Pau',
 u'full': u'Pau Gasol',
 u'last': u'Gasol'}

 DataFrame([results[0]['name'])

 ValueError: If use all scalar values, must pass index

我想要的行为是将嵌套列表作为自己的列导入,而不是作为包含嵌套列表的列导入。我怎么能这样做?

我想要的最终结果是具有以下布局的DataFrame:

+---------------------------------------------------------------------------------------+
|display_position | (...) | ascii_first | ascii_last | first | full | last | player_id  |
+---------------------------------------------------------------------------------------+
|    Data         |       |             |            |       |      |      |            |
+---------------------------------------------------------------------------------------+

1 个答案:

答案 0 :(得分:3)

您需要“扁平化”results.rows中包含的词典。在您的情况下,results[n](其中n是一个基于零的索引,表示单个“记录”)是一个包含嵌套dicts的词典(对于键nameheadshot

this question及其相关问题中详细讨论了dicts的扁平化。

一种可能的方法:

import collections

def flatten(d, parent_key=''):
    items = []
    for k, v in d.items():
        new_key = parent_key + '_' + k if parent_key else k
        if isinstance(v, collections.MutableMapping):
            items.extend(flatten(v, new_key).items())
        else:
            items.append((new_key, v))
    return dict(items)

flattened_records = [flatten(record) for record in results.rows]
df = DataFrame(flattened_records)

注意,使用这种方法,嵌套列的键将通过将“父”键与嵌套字典中的键连接来派生,例如“name_first”,“name_last”。您可以自定义flatten方法来更改它。

这里可以使用多种方法。关键的见解是您需要展平results.rows中包含的词典。