我运行了tensorflow提供的修剪demo,发现修剪不会减少推理时间或模型大小。
以下是我的实验结果。可以看出,不同的修剪阶段具有相同的模型尺寸。
-rw-r--r-- 1 root root 4.1M May 27 06:15 model.ckpt-2437.data-00000-of-00002
-rw-r--r-- 1 root root 8.2M May 27 06:15 model.ckpt-2437.data-00001-of-00002
-rw-r--r-- 1 root root 1.7K May 27 06:15 model.ckpt-2437.index
-rw-r--r-- 1 root root 368K May 27 06:15 model.ckpt-2437.meta
-rw-r--r-- 1 root root 4.1M May 27 06:25 model.ckpt-4871.data-00000-of-00002
-rw-r--r-- 1 root root 8.2M May 27 06:25 model.ckpt-4871.data-00001-of-00002
-rw-r--r-- 1 root root 1.7K May 27 06:25 model.ckpt-4871.index
-rw-r--r-- 1 root root 368K May 27 06:25 model.ckpt-4871.meta
-rw-r--r-- 1 root root 4.1M May 27 06:35 model.ckpt-7329.data-00000-of-00002
-rw-r--r-- 1 root root 8.2M May 27 06:35 model.ckpt-7329.data-00001-of-00002
-rw-r--r-- 1 root root 1.7K May 27 06:35 model.ckpt-7329.index
-rw-r--r-- 1 root root 368K May 27 06:35 model.ckpt-7329.meta
在不同的修剪阶段获得的模型推断时间基本相同。
2018-05-27 06:16:42.845279: precision @ 1 = 0.697, inf time = 0.03076
2018-05-27 06:27:26.517855: precision @ 1 = 0.756, inf time = 0.02980
2018-05-27 06:37:31.223502: precision @ 1 = 0.783, inf time = 0.02989
我使用默认的修剪参数。