使用pandas读取JSON文件以进行Python分析

时间:2014-04-02 12:39:56

标签: python json pandas analysis

我遇到了一些问题,试图在我的Python编辑器中加载一个JSON文件,以便我可以对其中的数据进行一些分析。

JSON文件位于以下文件夹中:'C:\Users\Admin\JSON files\file1.JSON'

它包含以下推文数据(这只是一条记录,其中有数百条):

{
    "created": "Fri Mar 13 18:09:33 GMT 2014",
    "description": "Tweeting the latest Playstation news!",
    "favourites_count": 4514,
    "followers": 235,
    "following": 1345,
    "geo_lat": null,
    "geo_long": null,
    "hashtags": "",
    "id": 2144411414,
    "is_retweet": false,
    "is_truncated": false,
    "lang": "en",
    "location": "",
    "media_urls": "",
    "mentions": "",
    "name": "Playstation News",
    "original_text": null,
    "reply_status_id": 0,
    "reply_user_id": 0,
    "retweet_count": 4514,
    "retweet_id": 0,
    "score": 0.0,
    "screen_name": "SevenPS4",
    "source": "<a href=\"http://twitterfeed.com\" rel=\"nofollow\">twitterfeed</a>",
    "text": "tweetinfohere",
    "timezone": "Amsterdam",
    "url": null,
    "urls": "http://bit.ly/1lcbBW6",
    "user_created": "2013-05-19",
    "user_id": 13313,
    "utc_offset": 3600
}

我使用以下代码尝试测试此数据:

import json
import pandas as pa
z = pa.read_json('C:\Users\Admin\JSON files\file1.JSON')
d = pa.DataFrame.from_dict([{k:v} for k,v in z.iteritems() if k in ["retweet_count", "user_id", "is_retweet"]])
print d.retweet_count.sum()

当我运行它时,它成功读取JSON文件,然后打印出一个retweet_count的列表,如下所示:

0, 4514 1, 300 2, 450 3, 139等等

我的问题: 我如何实际总结所有retweet_count / user_id值,而不是像上面显示的那样列出它们?

如何将此总和除以条目数以获得平均值?

如何选择JSON数据的样本大小而不是全部使用? (我认为这是d.iloc [:10],但那不起作用)

使用JSON文件中的“is_retweet”字段,是否可以计算给定的假/真值量?在JSON文件中的IE,我想要转发的推文数量和不是的数量。

先谢谢,是的,我对此很陌生......

z.info()给出:

<class 'pandas.core.frame.DataFrame'> Int64Index: 506 entries, 0 to 505 Data columns (total 31 columns): created 506 non-null object description 506 non-null object favourites_count 506 non-null int64 followers 506 non-null int64 following 506 non-null int64 geo_lat 10 non-null float64 geo_long 10 non-null float64 hashtags 506 non-null object id 506 non-null int64 is_retweet 506 non-null bool is_truncated 506 non-null bool lang 506 non-null object location 506 non-null object media_urls 506 non-null object mentions 506 non-null object name 506 non-null object original_text 172 non-null object reply_status_id 506 non-null int64 reply_user_id 506 non-null int64 retweet_id 506 non-null int64 retweet_count 506 non_null int64 score 506 non-null int64 screen_name 506 non-null object source 506 non-null object status_count 506 non-null int64 text 506 non-null object timezone 415 non-null object url 273 non-null object urls 506 non-null object user_created 506 non-null object user_id 506 non-null int64 utc_offset 506 non-null int64 dtypes: bool(2), float64(2), int64(11), object(16)

当我运行d.info()时,它是如何将retweet_count和user_id显示为对象的?

1 个答案:

答案 0 :(得分:0)

d.retweet_count是您retweet_counts正确的词典列表吗?

所以要得到总和:

keys = d.retweet_count.keys()
sum = 0
for items in keys:
    sum+=d.retweet_count[items]

获得平均值:

avg = sum/len(keys)

现在要获得样本大小,只需将keys分开:

sample_keys = keys[0:10]

获得平均值

for items in sample_keys:
     sum+=d.retweet_count[items]
avg = sum/len(sample_keys)