Precision problem after model transformation

请问模型转换后,模型的准确率是否保持不变,还是会有损失?感谢告知

There will be little loss in precision due to conversion from float to int8

Expect 2-3% reduction

@penggeng 会有损失,NPU是用整型做运算的,和GPU这种主用浮点型的不一样.转换时浮点预算转换成整数运算肯定是会有一个近似转换在的.至于损失会有多少,要看你模型的优化程度,和模型本身使用了多少的浮点运算.

@Archangel1235 非常感谢您的回答

@Frank我目前使用的模型是yolov3,您们官方demo也使用的这个模型,对这个模型您们应该测试过,转换前后识别准确率大概降低多少?上面 Archangel1235给出的答案准确吗?非常感谢您的再次回答 :heart:

@penggeng 还是要看你识别的内容,小物体来说,表现不是很好,大物体我认为损失基本可以忽略,但是NPU上来说,当物体数量非常多时,识别到的数量相较于GPU或者CPU上来说会减少

@Frank 非常感谢您 :heart: :heart: :heart: :heart:

我使用YoloV3模型,在电脑使用时,所有类别均可识别ok,但是转换后,出现个别类别一直无法识别的情况,请问有遇到相关问题的吗?可以相互交流一下开发经验。

我目前使用yolov3检测的object只有45个类,在没有转换前模型优化的比较好,转换后暂时没有遇到漏检的情况,目前只有精度降低后,出现误检的情况

@LinLin 哪个类型的物体 , 是你自己训练的模型么,这个物体在PC上精确度多少