如何将Dask数据框转换为Dask数组？

Question

我有一个dask数据框对象，但想要一个dask数组。我该怎么做？

Answer 1

有三种方法可以做到这一点。

1. 使用恰当命名的.to_dask_array()方法
2. 与熊猫一样使用.values属性或to_records()方法
3. 使用map_partitions调用将所有熊猫数据帧转换为所有分区上的numpy数组的任何函数

以下是这三个示例。

>>> import dask

>>> df = dask.datasets.timeseries()

>>> df
Dask DataFrame Structure:
                   id    name        x        y
npartitions=30                                 
2000-01-01      int64  object  float64  float64
2000-01-02        ...     ...      ...      ...
...               ...     ...      ...      ...
2000-01-30        ...     ...      ...      ...
2000-01-31        ...     ...      ...      ...
Dask Name: make-timeseries, 30 tasks

>>> import numpy as np

>>> df.map_partitions(np.asarray)
dask.array<asarray, shape=(nan, 4), dtype=object, chunksize=(nan, 4)>

>>> df.to_dask_array()
dask.array<array, shape=(nan, 4), dtype=object, chunksize=(nan, 4)>

>>> df.values
dask.array<values, shape=(nan, 4), dtype=object, chunksize=(nan, 4)>

>>> df.to_records()  # note that this returns a record array
dask.array<to_records, shape=(nan,), dtype=(numpy.record, [('timestamp', 'O'), ('id', '<i8'), ('name', 'O'), ('x', '<f8'), ('y', '<f8')]), chunksize=(nan,)

>>> dask.__version__
0.19.0

请注意，由于Dask数据帧不维护每个块中的行数，因此生成的数组也将不具有此信息。 （请注意形状和块大小中的NaN值。