我正在尝试将幻想篮球数据从yql导入到pandas数据框中,但我遇到了嵌套内容的问题。
来自yql(results.rows)的数据看起来像这样(当我使用type(results.rows)时,我得到列表)。
{u'display_position': u'PF',
u'editorial_player_key': u'nba.p.4175',
u'editorial_team_abbr': u'Uta',
u'editorial_team_full_name': u'Utah Jazz',
u'editorial_team_key': u'nba.t.26',
u'eligible_positions': {u'position': u'PF'},
u'headshot': {u'size': u'small',
u'url': u'http://l.yimg.com/iu/api/res/1.2/KjAPlP83IIrP9iReWfjyjw--/YXBwaWQ9eXZpZGVvO2NoPTIxNTtjcj0xO2N3PTE2NDtkeD0xO2R5PTE7Zmk9dWxjcm9wO2g9NjA7cT0xMDA7dz00Ng--/http://l.yimg.com/a/i/us/sp/v/nba/players_l/20101116/4175.jpg'},
u'image_url': u'http://l.yimg.com/iu/api/res/1.2/KjAPlP83IIrP9iReWfjyjw--/YXBwaWQ9eXZpZGVvO2NoPTIxNTtjcj0xO2N3PTE2NDtkeD0xO2R5PTE7Zmk9dWxjcm9wO2g9NjA7cT0xMDA7dz00Ng--/http://l.yimg.com/a/i/us/sp/v/nba/players_l/20101116/4175.jpg',
u'is_undroppable': u'0',
u'name': {u'ascii_first': u'Paul',
u'ascii_last': u'Millsap',
u'first': u'Paul',
u'full': u'Paul Millsap',
u'last': u'Millsap'},
u'player_id': u'4175',
u'player_key': u'304.p.4175',
u'position_type': u'P',
u'uniform_number': u'24'}
当我表演时
DataFrame(results.rows)
它可以很好地导入数据,但是爆头和名称中的数据都是作为具有嵌套列表的列导入的。
我可以从iPython访问子列表,但是当我尝试将其导入数据帧时,我收到错误:
results[0]['name']
{u'ascii_first': u'Pau',
u'ascii_last': u'Gasol',
u'first': u'Pau',
u'full': u'Pau Gasol',
u'last': u'Gasol'}
DataFrame([results[0]['name'])
ValueError: If use all scalar values, must pass index
我想要的行为是将嵌套列表作为自己的列导入,而不是作为包含嵌套列表的列导入。我怎么能这样做?
我想要的最终结果是具有以下布局的DataFrame:
+---------------------------------------------------------------------------------------+
|display_position | (...) | ascii_first | ascii_last | first | full | last | player_id |
+---------------------------------------------------------------------------------------+
| Data | | | | | | | |
+---------------------------------------------------------------------------------------+
答案 0 :(得分:3)
您需要“扁平化”results.rows
中包含的词典。在您的情况下,results[n]
(其中n
是一个基于零的索引,表示单个“记录”)是一个包含嵌套dicts的词典(对于键name
和headshot
)
在this question及其相关问题中详细讨论了dicts的扁平化。
一种可能的方法:
import collections
def flatten(d, parent_key=''):
items = []
for k, v in d.items():
new_key = parent_key + '_' + k if parent_key else k
if isinstance(v, collections.MutableMapping):
items.extend(flatten(v, new_key).items())
else:
items.append((new_key, v))
return dict(items)
flattened_records = [flatten(record) for record in results.rows]
df = DataFrame(flattened_records)
注意,使用这种方法,嵌套列的键将通过将“父”键与嵌套字典中的键连接来派生,例如“name_first”,“name_last”。您可以自定义flatten
方法来更改它。
这里可以使用多种方法。关键的见解是您需要展平results.rows
中包含的词典。