Question

我想使用TensorFlow C ++ API调用模型并预测答案。在fisrt，我克隆了tensorflow仓库

git clone --recursive https://github.com/tensorflow/tensorflow

然后我编写如下的C ++代码：

一个代码是调用TensorFlow api的类，头文件如下：

#ifndef _DEEPMODEL_H_
#define _DEEPMODEL_H_

#include <iostream>
#include <string>
#include <vector>
#include "tensorflow/core/public/session.h"
#include "tensorflow/core/protobuf/meta_graph.pb.h"
#include "tensorflow/cc/client/client_session.h"
#include "tensorflow/cc/ops/standard_ops.h"
#include "tensorflow/core/framework/tensor.h"

using namespace std;
using namespace tensorflow;

class DeepModel{
public:
    DeepModel(const string graph_path, const string checkpoint_path);
    virtual ~DeepModel();

    bool onInit();
    void unInit();
    vector<float> predict(vector<vector<float>>& x, string input_name, string output_name);
private:
    string graph_path;
    string checkpoint_path;
    MetaGraphDef graph_def;
    Session* my_sess;
};

#endif

在此之后，我编写了一个简单的封装代码。我想编译一个.so，并在将来不使用tensorflow源代码的情况下使用.so。我的封装代码如下：

#ifndef _MODEL_HELPER_H_
#define _MODEL_HELPER_H_

#include <vector>
#include <string>

using namespace std;

class ModelHelper{
public:
    ModelHelper(const string graph_path, const string checkpoint_path);
    virtual ~ModelHelper();

    vector<float> predict(vector<vector<float> >& x, string input_name, string output_name);
private:
    string graph_path;
    string checkpoint_path;
};

#endif

我已经编写了代码来测试上面的代码，它运行良好。然后我想用bazel编译.so。

我的BUILD文件如下：

load("//tensorflow:tensorflow.bzl", "tf_cc_binary")

tf_cc_binary(
    name = "my_helper.so",
    srcs = ["model_helper.cc", "model_helper.h", "deepmodel.cc", "deepmodel.h"],
    linkshared = 1,
    deps = [
        "//tensorflow/cc:cc_ops",
        "//tensorflow/cc:client_session",
        "//tensorflow/core:tensorflow"
        ],
)

然后我将model_helper.so重命名为libmodel_helper.so，并编写cpp代码以测试.so文件。而且我想编译代码，命令就是这样

g++ -std=c++11 test_so.cpp -L./ -lmy_helper -I./ -o my_helper

然后我遇到错误：

.//libmy_helper.so: undefined reference to `stream_executor::cuda::ScopedActivateExecutorContext::~ScopedActivateExecutorContext()'
.//libmy_helper.so: undefined reference to `stream_executor::cuda::ScopedActivateExecutorContext::ScopedActivateExecutorContext(stream_executor::StreamExecutor*)'
.//libmy_helper.so: undefined reference to `tensorflow::DeviceName<Eigen::GpuDevice>::value[abi:cxx11]'
collect2: error: ld returned 1 exit status

我真的不知道为什么。我不能单独使用.so吗？

Answer 1

您应该在您的makefile中引用libtensorflow_frameowork.so。就像下面的代码一样：

g++ -std=c++11 test_so.cpp -L./ -lmy_helper -ltensorflow_framework -I./ -o my_helper

我猜bazel在编译我的代码时会错过tensorflow到.so中的某些源代码。

使用bazel构建TensorFlow C ++调用模型时，.so文件不起作用

1 个答案: