Dask Distributed或dask_cudf是否支持IO的Apache Arrow Flight批处理流?

时间:2019-09-27 12:57:07

标签: dask-distributed cudf

我正在箭头飞行中以流的形式共享箭头格式的数据;并且需要从GPU的dask_cudf中使用它。

我尝试过的  -读取箭头批处理流作为表格。  -创建cudf  -将其传递给dask_cudf。

这适用于小数据,但是将整个流作为单个箭头表读入cudf可能会导致内存不足错误。

在dask分布式或dask_cudf中是否有更好的方法可以读取/写入Arrow Flight Buffer?

0 个答案:

没有答案