如何使用训练有素的模型预测cupy数组？

Question

我想使用经过训练的模型进行预测，但该模型似乎无法将cupy 数据作为输入。下面列出了我的代码片段：

import cupy as cp
model_evaluator = my_model()
model_evaluator.build_model()
model_evaluator.model.load_weights(trained_model)

model_evaluator.model.predict(my_cupy_data) # throws error here
model_evaluator.model.predict(cp.asnumpy(my_cupy_data)) # works fine

操作系统：Ubuntu 18.04

环境：conda + python 3.6 + tensorflow 2.1.0

错误：InvalidArgumentError TypeError: len() of unsized object

Answer 1

尝试将 CuPy 数组转换为 TensorFlow 张量。

tensor = tf.experimental.dlpack.from_dlpack(cupy_array.toDlpack())