xarray:重塑数据,拆分维度

时间:2017-03-25 11:12:55

标签: python python-datetime python-xarray

我在xarray中有一个数据集,其中包含以下维度:

Dimensions:      (subject: 30, session: 5, time: 45000)
Coordinates:
  * subject      (subject) object '110' '112' '114' '117' ...
  * session      (session) object 'week1' 'week2' 'week3' ...
  * time         (time) timedelta64[ns] 00:00:00 00:00:00.040000 ...

我想将每个试用版(主题/会话组合)拆分为较小的时间段,例如分成3个15000个值的段,结果尺寸可能如下所示:

(subject: 30, session: 5, segment: 3, time: 15000)

我搜索并尝试过很多但没有成功的事情,怎么办呢?

我一直在尝试的其中一件事似乎很接近,就是创建一个新的MultiIndex并将其取消堆叠。

segment_data = np.repeat(range(3),len(ds.time)//3)
segment = xr.Variable(dims='time',data=segment_data)
newtime_data = np.tile(ds.time[:len(ds.time)//3],3)
newtime = xr.Variable(dims='time',data=newtime_data)
dsr = ds.assign_coords(segment=segment,newtime=newtime)
dsr = dsr.set_index(segment='segment',newtime='newtime')
dsr = dsr.stack(fragment=['segment','newtime'])

然而,最后一行占用了大量内存并且似乎创建了一个维度fragment: len(ds.time)**2,这似乎不对。我也不确定在此之后我必须做什么(unstack('fragment')?)。

编辑:有更多尝试让我来到这里:

x = np.repeat(range(3),15000)
y = np.tile(ds.time[:len(ds.time)//3],3)
dsr = (ds.assign_coords(segment=x,time2=y)
      .set_index(fragment=['segment','time2'])
      .unstack('fragment'))

这给出了这个:

(subject: 30, segment: 3, session: 5, time: 45000, time2: 15000)

这似乎很接近,但它并不完全存在,因为每个time2点现在有45000个值,而它应该是单个值:

dsr.isel(subject=0,segment=0,session=0,time2=0)
# (time: 45000)

编辑:我终于找到了办法,看看我的回答。欢迎提出建议!

1 个答案:

答案 0 :(得分:1)

首先确保您拥有两个新尺寸的标签。在这种情况下如下:

x = range(3) # 3 segments
y = ds.time[:len(ds.time)//3] # the first 1/3rd of the time labels

然后从这些标签中创建pandas MultiIndex *。

ind = pd.MultiIndex.from_product((x,y),names=('segment','new_time'))

最后,用这个新索引替换数据集中的time索引,然后取消堆叠其级别以创建两个必需的维度。

dsr = ds.assign(time=ind).unstack('time')

您可能希望使用rename重命名新维度:

dsr = dsr.rename({'new_time':'time'})

产生的尺寸:

(subject: 30, segment: 3, session: 5, time: 15000)

现在唯一的问题是维度的顺序(理想情况下segmentsession应该交换)。我认为transpose会对此有所帮助,但"although the order of dimensions on each array will change, the dataset dimensions themselves will remain in fixed (sorted) order." **所以我可能会像这样生活。

*请注意,您将无法使用要拆分的维度的名称,因此我们在此处'new_time'assign

的不必要限制

**我无法解释的另一个限制。