Question

我正在将数据从Google BigQuery导入到pandas数据框中，我希望按日期对结果进行排序。我的代码如下：

import sys, getopt
import pandas as pd
from datetime import datetime

# set your BigQuery service account private private key
pkey ='#REMOVED#'
destination_table = 'test.test_table_2'
project_id = '#REMOVED#'

# write your query
query = """
SELECT date, SUM(totals.visits) AS Visits
FROM `#REMOVED#.#REMOVED#.ga_sessions_20*`
WHERE parse_date('%y%m%d', _table_suffix) between
DATE_sub(current_date(), interval 3 day) and
DATE_sub(current_date(), interval 1 day)
GROUP BY Date
    """

data = pd.read_gbq(query, project_id, dialect='standard', private_key=pkey, parse_dates=True, index_col='date')
date = data.sort_index()

data.info()
data.describe()

print(data.head())

我的输出显示如下，因为您可以看到日期未排序。

<class 'pandas.core.frame.DataFrame'>
RangeIndex: 3 entries, 0 to 2
Data columns (total 2 columns):
date      3 non-null object
Visits    3 non-null int32
dtypes: int32(1), object(1)
memory usage: 116.0+ bytes
       date  Visits
0  20180312  207440
1  20180310  178155
2  20180311  207452

我已经阅读了几个问题，到目前为止尝试了以下内容，导致我的输出没有变化：

删除index_col='date'并添加date = data.sort_values(by='date')
将日期列设置为索引，然后对索引进行排序（如上所示）。
将标题（headers = ['Date', 'Visits']）和dypes（dtypes = [datetime, int]）设置为我的read_gbq行（parse_dates=True, names=headers）

我错过了什么？

Answer 1

由于大部分工作都是在Google BigQuery方面完成的，我也会在那里进行排序：

query = """
SELECT date, SUM(totals.visits) AS Visits
FROM `#REMOVED#.#REMOVED#.ga_sessions_20*`
WHERE parse_date('%y%m%d', _table_suffix) between
DATE_sub(current_date(), interval 3 day) and
DATE_sub(current_date(), interval 1 day)
GROUP BY Date
ORDER BY Date
"""

Answer 2

这应该有效：

data.sort_values('date', inplace=True)

Answer 3

我设法通过将我的日期字段转换为日期时间对象来解决这个问题，我认为这将由parse_date=True自动完成，但似乎只会解析现有的日期时间对象。

我在查询后添加以下内容以从我的日期字符串创建新的日期时间列，然后我能够使用data.sort_index()并且它按预期工作：

time_format = '%Y-%m-%d'
data = pd.read_gbq(query, project_id, dialect='standard', private_key=pkey)

data['n_date'] = pd.to_datetime(data['date'], format=time_format)  

data.index = data['n_date']

del data['date']
del data['n_date']

data.index.names = ['Date']

data = data.sort_index()

如何按日期对pandas数据帧进行排序

3 个答案: