我使用conv3d
构建了张量流模型,将其冻结并针对推理进行了优化。当我在Android(TensorflowInferenceInterface.run
)中调用推理时,我收到以下错误:
java.lang.IllegalArgumentException: No OpKernel was registered to support
Op 'Conv3D' with these attrs. Registered devices: [CPU], Registered kernels:
<no registered kernels>
[[Node: conv3d/convolution = Conv3D[T=DT_FLOAT, data_format="NDHWC", padding="VALID", strides=[1, 1, 1, 1, 1]](images, conv3d/kernel/read)]]
据我所知,包括Conv3D
在内的一些操作不会添加到tensorflow推理库中以节省空间。
因此,我使用tensorflow/python/tools/print_selective_registration_header.py
脚本生成在我的图表上运行推理所需的操作集,将输出的ops_to_register.h
放到core/framework
,然后使用
bazel build -c opt --copt="-DSELECTIVE_REGISTRATION" \
--copt="-DSUPPORT_SELECTIVE_REGISTRATION" \
//tensorflow/contrib/android:libtensorflow_inference.so \
--host_crosstool_top=@bazel_tools//tools/cpp:toolchain \
--crosstool_top=//external:android/crosstool --cpu=armeabi-v7a
将libtensorflow_inference.so
复制到我的app/src/main/jniLibs
文件夹,但错误(Conv3D
未注册)仍然存在。你知道出了什么问题吗?
答案 0 :(得分:0)
看起来创建ops_to_register.h
还不够。
我必须修改tensorflow/core/kernels/BUILD
文件,以便包含tensorflow/core/kernels/
的文件列在android_extended_ops_group1
或android_extended_ops_group2
部分(以及.h
文件中android_extended_ops_headers
1}}部分。