Question

我正在尝试运行一个加载tensorflow模型以进行对象检测的Java项目。如何在gpu中运行该项目。

我的系统具有NVIDIA图形卡，并且已经切换到相同的显卡。还已经成功安装了CUDA。我已经在cpu中运行了它。现在我想切换到gpu。

要切换到GPU，添加了以下配置。但是切换到GPU失败。

ConfigProto configproto = ConfigProto.newBuilder()
            .setAllowSoftPlacement(true)                 
            .setGpuOptions(GPUOptions.newBuilder()
            .setPerProcessGpuMemoryFraction(0.01).build())
            .build();

SavedModelBundle model = SavedModelBundle.loader(modeldir).withTags("serve").withConfigProto(configproto.toByteArray()).load()

我希望模型可以在GPU中运行，但是获得的结果如下

2019-06-28 14：50：25.652043：I tensorflow / cc / saved_model / reader.cc：31]   从/ saved_model
读取SavedModel
2019-06-28 14：50：25.686901：我tensorflow / cc / saved_model / reader.cc：54]   阅读带有标签{meta}的元图

2019-06-28 14：50：25.699563：我   tensorflow / core / platform / cpu_feature_guard.cc：141]您的CPU支持   该TensorFlow二进制文件未编译为使用的指令：   SSE4.1 SSE4.2 AVX AVX2 FMA

2019-06-28 14：50：25.704712：I   tensorflow / core / platform / profile_utils / cpu_utils.cc：94] CPU频率：   2712000000赫兹

2019-06-28 14：50：25.704847：我   tensorflow / compiler / xla / service / service.cc：150] XLA服务   0x7f6cf036be50在平台Host上执行计算。设备：

2019-06-28 14：50：25.704862：我   tensorflow / compiler / xla / service / service.cc：158] StreamExecutor   设备（0）：，

2019-06-28 14：50：25.759224：I tensorflow / cc / saved_model / loader.cc：182]   恢复SavedModel捆绑包。

2019-06-28 14：50：25.759280：我tensorflow / cc / saved_model / loader.cc：192]   指定的SavedModel没有变量；没有检查站   恢复。文件不存在：/saved_model/variables/variables.index

2019-06-28 14：50：25.759291：我tensorflow / cc / saved_model / loader.cc：285]   标签的SavedModel加载{serve};现状：成功。接了107259   微秒。

如何在Java项目的gpu中加载张量流模型

0 个答案: