从数据集的给定日期范围中提取属于一天的数据

时间:2018-09-10 20:38:03

标签: python pandas extract

我有一个日期范围为2018年1月12日至8月3日的数据集,其中包含一些值:

enter image description here

my_df DataFrame的维数为:

my_df.shape 
(9752, 2)

每行包含半小时的班次

第一行始于2018-01-12

my_df.iloc[0]
Date:       2018-01-12 00:17:28
Value                      1
Name: 0, dtype: object

最后一行以2018-08-03

结尾
my_df.tail(1)
                  Date:     Value
9751    2018-08-03 23:44:59  1

我的目标是选择每天对应的数据行并将其导出到CSV文件。

要仅获取1月12日的数据并将其保存到可读文件中,我执行:

# Selecting data value of each day
my_df_Jan12 = my_df[(my_df['Fecha:']>='2018-01-12 00:00:00') 
              & 
              (my_df['Fecha:']<='2018-01-12 23:59:59')
                                   ]
my_df_Jan12.to_csv('Data_Jan_12.csv', sep=',', header=True, index=False)

从1月12日到8月03日,共有203天(28周)

我不想每天手动执行此查询,因此我正在尝试以下基本分析:

  • 我需要生成203个文件(每天1个文件)
  • 从1月12日(1月12日)开始的1月的一天
  • 一月是第一个月(01),八月是第八个月(08)

然后:

  • 我需要遍历整个203天
    • ,并且必须在每个日期行值中进行检查 起息日和日期,以检查更改 每个人

根据上述情况,我正在尝试这种方法:

# Selecting data value of each day (203 days)
for i in range(203):
    for j in range(1,9): # month
        for k in range(12,32): # days of the month
            values = my_df[(my_df['Fecha:']>='2018-0{}-{} 00:00:00'.format(j,k)) 
            &  
            (my_df['Fecha:']<='2018-0{}-{} 23:59:59'.format(j,k))]
            values.to_csv('Values_day_{}.csv'.format(i), sep=',', header=True, index=False)

但是我有一个问题,就是我在几个月中的某天迭代range(12,32)时,这个range(12,32)仅适用于一月的第一个月,我想是这样的。

最后,由于某些错误,我得到203个空CSV文件...

如何以合适的方式应对这一小挑战? 任何方向都受到高度赞赏

2 个答案:

答案 0 :(得分:3)

像这样?我将您的原始列Date:重命名为Timestamp。我还假设您拥有的Date:系列是熊猫DateTime系列。

my_df.columns = ['Timestamp', 'Value']
my_df['Date'] = my_df['Timestamp'].apply(lambda x: x.date())
dates = my_df['Date'].unique()
for date in dates:
    f_name = str(date) + '.csv'
    my_df[my_df['Date'] == date].to_csv(f_name)

答案 1 :(得分:3)

groupby

for date, d in df.groupby(pd.Grouper(key='Date', freq='D')):
  d.to_csv(f"Data_{date:%b_%d}.csv", index=False)

注意,我使用的是f字符串,它是Python 3.6+
否则,请使用

for date, d in df.groupby(pd.Grouper(key='Date', freq='D')):
  d.to_csv("Data_{:%b_%d}.csv".format(date), index=False)

考虑df

df = pd.DataFrame(dict(
    Date=pd.date_range('2010-01-01', periods=10, freq='12H'),
    Value=range(10)
))

然后

for date, d in df.groupby(pd.Grouper(key='Date', freq='D')):
  d.to_csv(f"Data_{date:%b_%d}.csv", index=False)

并验证

from pathlib import Path

print(*map(Path.read_text, Path('.').glob('Data*.csv')), sep='\n')

Date,Value
2010-01-05 00:00:00,8
2010-01-05 12:00:00,9

Date,Value
2010-01-04 00:00:00,6
2010-01-04 12:00:00,7

Date,Value
2010-01-02 00:00:00,2
2010-01-02 12:00:00,3

Date,Value
2010-01-01 00:00:00,0
2010-01-01 12:00:00,1

Date,Value
2010-01-03 00:00:00,4
2010-01-03 12:00:00,5