Question

我正在开发具有回归预测的深度学习模型。我创建了一个tflite模型，但是其预测与原始模型不同，并且完全错误。这是我的过程：

我用keras训练了模型

model = Sequential()
model.add(Dense(100, input_dim=x.shape[1], activation='relu')) # Hidden 1
model.add(Dense(50, activation='relu')) # Hidden 2
model.add(Dense(1)) # Output
model.compile(loss='mean_squared_error', optimizer='adam')
model.fit(x,y,verbose=0,epochs=500)

并将我的模型另存为h5文件

model.save("keras_model.h5")

然后通过TocoConverter将h5文件转换为tflile格式

converter = tf.contrib.lite.TocoConverter.from_keras_model_file("keras_model.h5")
tflite_model = converter.convert()
open("converted_model.tflite", "wb").write(tflite_model)

当我用相同的输入测试两个文件时，原始keras模型会提供合理的输出，但转换后的模型会提供不合理的输出。

# Load TFLite model and allocate tensors.
interpreter = tf.contrib.lite.Interpreter(model_path="converted_model.tflite")
interpreter.allocate_tensors()

# Get input and output tensors.
input_details = interpreter.get_input_details()
output_details = interpreter.get_output_details()

# Test model on random input data.
input_shape = input_details[0]['shape']
input_data = np.array(np.random.random_sample(input_shape), dtype=np.float32)
interpreter.set_tensor(input_details[0]['index'], input_data)

interpreter.invoke()
output_data = interpreter.get_tensor(output_details[0]['index'])
print(input_data)
print(output_data)

//Original model testing
from keras.models import load_model
model2 = load_model("keras_model.h5")
pred = model2.predict(x)
print(pred)

输出如下：

[[10. 10. 10. 10. 10. 10.]]//input_data
[[-1.4308803]]// tflite output (meaningless)
[[335.0276]] // keras file output

为什么会出现此问题？

Answer 1

最后，我找到了一个解决方案，将keras模型转换为带有this代码段的冻结图。我复制了这个python文件tensorflow Scripts文件夹。并将keras模型文件复制到同一文件夹。并创建一个名为“冻结”的文件夹。然后运行此命令

py cerasconvert.py keras_model.h5 frozen/ freeze_graph

我将新创建的.pb文件转换为tflite格式

import tensorflow as tf
import numpy as np

graph_def_file = "frozen/frozen.pb"
input_arrays = ["dense_1_input_1"]
output_arrays = ["dense_3_1/BiasAdd"]

converter = tf.contrib.lite.TocoConverter.from_frozen_graph(
graph_def_file, input_arrays, output_arrays)
tflite_model = converter.convert()
open("frozen/converted.tflite", "wb").write(tflite_model)

现在我的tflite模型的预测精度非常高。

Tensorflow Lite模型输出错误

1 个答案: