我想知道是否可以部署Tensorflow自定义操作或用C ++编写的自定义读取器在cloud-ml中。
看起来cloud-ml不接受在其标准模式下运行本机代码(我对使用虚拟化环境并不感兴趣),至少对于Python包它们只接受没有C依赖的纯python。
答案 0 :(得分:1)
可能最简单的方法是将包含操作的整个自定义Tensorflow Wheel的构建作为额外包。要指定额外的包,请参阅:https://cloud.google.com/ml-engine/docs/how-tos/packaging-trainer#to_include_custom_dependencies_with_your_package 要从源代码构建TF轮,请参阅:https://www.tensorflow.org/install/install_sources#build_the_pip_package
您也可以尝试下载/安装新操作的.so文件,但这需要将其下载到训练包的setup.py内或训练python代码本身内。
请注意,您目前只能在培训期间上传自定义软件包,而不能在批量或在线预测期间上传,因此使用自定义TF版本培训的模型可能无法与预测服务一起使用。