对于我的验证数据集(自己的数据),我同时使用COCO和Kitti评估指标进行评估。
我希望COCO AP(0.5)值和Kitti 2D AP(iou = 0.5)得分相近。但是我不确定它们是否具有可比性,尽管它们背后的逻辑是相同的(检查2i前视图GT和DET框是否iou> 0.5并进行匹配并计算精度/召回率)。
COCO obj检测AP 0.5 = 0.59 设置为0.5 = 0.33的Kitti 2D AP
期望它们具有可比性吗?我发现大多数论文仅使用其中的一篇,而且没有人真正比较过两种评估指标的结果。
答案 0 :(得分:0)
从他们的website
为进行评估,我们计算对象的精确召回曲线 联合物体的检测和方向相似度调用曲线 检测和方向估计。在后一种情况下,不仅 对象2D边界框必须正确定位,而且 鸟瞰了方向估计。
(..)
我们使用PASCAL标准评估物体检测性能,并使用CVPR 2012出版物中讨论的方法评估物体检测和方向估计性能
对Kitti评估指标了解不多,阅读它们似乎无法相互比较,可能不适合您的常见物体检测程序。
如果您的数据与Kiti数据集及其目标无关,则强烈建议您放弃其指标并使用COCO指标或PASCAL。
PASCAL是原始的度量系统,但由于COCO是一种更严格的度量标准,因此它在最近已成为最常用的度量标准。