Question

我有一些包含时区天真日期的JSON数据。

["2014-03-07T09:04:26.943", "2014-03-06T20:35:21.937", "2014-02-25T12:39:44"]

我使用pandas.read_json读取此数据，并将其视为对象列。

我知道数据是在太平洋时区，而不是UTC。

是否有矢量化方式将其转换为np.datetime64列？目前，我正在做：

def _parse_datetime(dt_string):
    # We are provided timezone naive data that is in Pacific time. Convert it to UTC.
    timestamp = pd.Timestamp(dt_string, tz="US/Pacific")
    if pd.isnull(timestamp):
        return pd.NaT
    return np.datetime64(timestamp)

data.apply(_parse_datetime)

对于大量数据来说真的很慢

更新：

通过指定convert_dates，我可以将数据强制转换为datetime。但是，在尝试本地化时，我收到错误：

>>> dates = """["2014-03-07T09:04:26.943", "2014-03-06T20:35:21.937", "2014-02-25T12:39:44"]""" 
>>> baz = pd.read_json(dates, convert_dates=[0])[0]
>>> baz.tz_localize('US/Pacific')
Traceback (most recent call last):
  File "<stdin>", line 1, in <module>
  File "/Users/abeer/.virtualenvs/venv/lib/python2.7/site-packages/pandas/core/generic.py", line 3494, in tz_localize
ax_name)
TypeError: index is not a valid DatetimeIndex or PeriodIndex

更一般地说，我正在尝试为数据框中的列执行此操作，因此我无法修改索引。

Answer 1

使用convert_dates选项指定列，或使用系列类型选项自动转换。

>>> pd.read_json(dates, convert_dates=[0])[0]
0   2014-03-07 09:04:26.943000
1   2014-03-06 20:35:21.937000
2          2014-02-25 12:39:44
Name: 0, dtype: datetime64[ns]
>>> pd.read_json(dates, typ='series')
0   2014-03-07 09:04:26.943000
1   2014-03-06 20:35:21.937000
2          2014-02-25 12:39:44
dtype: datetime64[ns]

从那里你可以在时间戳上使用 tz_localize 。假设这太慢了......

baz.apply(lambda ts: ts.tz_localize('US/Pacific'))

内联的tz_localize适用于索引（不是值）：

>>> pd.Series(index=baz).tz_localize('US/Pacific')
0
2014-03-07 09:04:26.943000-08:00   NaN
2014-03-06 20:35:21.937000-08:00   NaN
2014-02-25 12:39:44-08:00          NaN
dtype: float64

在熊猫中处理时区天真的约会时间

1 个答案: