标签: dask-distributed cudf
我正在箭头飞行中以流的形式共享箭头格式的数据;并且需要从GPU的dask_cudf中使用它。
我尝试过的 -读取箭头批处理流作为表格。 -创建cudf -将其传递给dask_cudf。
这适用于小数据,但是将整个流作为单个箭头表读入cudf可能会导致内存不足错误。
在dask分布式或dask_cudf中是否有更好的方法可以读取/写入Arrow Flight Buffer?