修剪没有减少推理时间或模型大小?

时间:2018-05-27 06:49:02

标签: tensorflow

我运行了tensorflow提供的修剪demo,发现修剪不会减少推理时间或模型大小。

以下是我的实验结果。可以看出,不同的修剪阶段具有相同的模型尺寸。

-rw-r--r-- 1 root root 4.1M May 27 06:15 model.ckpt-2437.data-00000-of-00002
-rw-r--r-- 1 root root 8.2M May 27 06:15 model.ckpt-2437.data-00001-of-00002
-rw-r--r-- 1 root root 1.7K May 27 06:15 model.ckpt-2437.index
-rw-r--r-- 1 root root 368K May 27 06:15 model.ckpt-2437.meta
-rw-r--r-- 1 root root 4.1M May 27 06:25 model.ckpt-4871.data-00000-of-00002
-rw-r--r-- 1 root root 8.2M May 27 06:25 model.ckpt-4871.data-00001-of-00002
-rw-r--r-- 1 root root 1.7K May 27 06:25 model.ckpt-4871.index
-rw-r--r-- 1 root root 368K May 27 06:25 model.ckpt-4871.meta
-rw-r--r-- 1 root root 4.1M May 27 06:35 model.ckpt-7329.data-00000-of-00002
-rw-r--r-- 1 root root 8.2M May 27 06:35 model.ckpt-7329.data-00001-of-00002
-rw-r--r-- 1 root root 1.7K May 27 06:35 model.ckpt-7329.index
-rw-r--r-- 1 root root 368K May 27 06:35 model.ckpt-7329.meta

在不同的修剪阶段获得的模型推断时间基本相同。

2018-05-27 06:16:42.845279: precision @ 1 = 0.697, inf time = 0.03076
2018-05-27 06:27:26.517855: precision @ 1 = 0.756, inf time = 0.02980
2018-05-27 06:37:31.223502: precision @ 1 = 0.783, inf time = 0.02989

我使用默认的修剪参数。

0 个答案:

没有答案