不平衡面板数据：如何使用时间序列拆分交叉验证？

Question

我目前正在处理一个较大的不平衡数据集，并且想知道是否可以使用sklearn的时间序列拆分交叉验证将我的训练样本拆分为几个“折”。我希望每个折叠仅包含该特定折叠时间范围内的横截面观察结果。

如前所述，我正在使用不平衡的面板数据集，该数据集利用了Pandas的多重索引。这里有一个可重现的示例，可以提供更多的直觉：

arrays = [np.array(['A', 'A', 'A', 'B', 'B', 'C', 'C', 'D', 'D', 'D', 'D']),
           np.array(['2000-01', '2000-02', '2000-03', '1999-12', '2000-01', 
          '2000-01', '2000-02', '1999-12', '2000-01', '2000-02', '2000-03'])]

s = pd.DataFrame(np.random.randn(11, 4), index=arrays)

然后看起来如下：

例如，我想首先以1999-12年的所有横截面单位作为训练样本，以2000-01年的所有横截面单位作为验证。接下来，我希望将1999-12和2000-01中的所有横截面单位作为训练，并将2000-02中的所有横截面单位作为验证，依此类推。使用TimeSeriesSplit函数可以实现此功能，还是需要在其他地方查看？

Answer 1

TimeSeriesSplit是KFold的一种变体，可确保每个连续折页的索引值都递增。如文档中所述：

  

在每个分组中，测试索引必须比以前更高。[也]请注意，与标准的交叉验证方法不同，连续的训练集是它们之前的训练集的超集。

docs

还要记住，KFold和TimeSeriesSplit返回索引。您已经有了所需的索引。

一个问题是，访问MultiIndex中的DateTimeIndex切片过于困难和复杂。请参见here，here和here。由于无论如何此时都在提取数据，因此重置索引和切片似乎是可以接受的。特别是因为重置索引不会就位。

最后，我建议将类似datetime的索引转换为实际的datetime数据类型。

import pandas as pd
import numpy as np
import datetime
arrays = [np.array(['A', 'A', 'A', 'B', 'B', 'C', 'C', 'D', 'D', 'D', 'D']),
           np.array(['2000-01', '2000-02', '2000-03', '1999-12', '2000-01', 
          '2000-01', '2000-02', '1999-12', '2000-01', '2000-02', '2000-03'])]

# Cast as datetime
arrays[1] = pd.to_datetime(arrays[1])


df = pd.DataFrame(np.random.randn(11, 4), index=arrays)
df.index.sort_values()


folds = df.reset_index() # df still has its multindex after this

# You can tack an .iloc[:, 2:] to the end of these lines for just the values
# Use your predefined conditions to access the datetimes
fold1 = folds[folds["level_1"] <=datetime.datetime(2000, 1, 1)]
fold2 = folds[folds["level_1"] == datetime.datetime(2000, 2, 1)]
fold3 = folds[folds["level_1"] == datetime.datetime(2000, 3, 1)]