Quantification problem

VIM3
1

In the process of model transformation, the quantification type is changed to

–quantized-dtype dynamic_ fixed_ point-16

The transformed model can’t detect objects，What’s the reason？

2

@penggeng I always use u8 , not this one . If you can’t detect objects. I think you parameters in conversion have some worry.

3

@ Frank在进行模型转换时，我按照官方文档给的步骤，一切都没问题，官网给的量化类型是dynamic_ fixed_ point-8，我现在想使用dynamic_ fixed_ point-16，就修改了 1_quantize_model.sh中的–quantized-dtype 为dynamic_ fixed_ point-16，这样做是否正确？如果有误，请您指正，如何才能使用dynamic_ fixed_ point-16？非常感谢

4

@penggeng 你可以选择这个量化的参数,相应的你在C接口调用的时候也是需要修改成你对应的参数的,你只是修改了你的转换工具的数据类型,但是C的源码里的数据类型仍然是u8,对应不上自然结果就是不对的.如果你要使用这个参数,那么你的C的调用NPU的源码也是需要修改的

5

@Frank 应该在哪些文件进行修改以及修改位置，还希望您能给出宝贵的指导意见

6

@penggeng 这个你可以研究一下源码,源码都开放在gitlab上面了

7

last question：是linux_sdk还是aml_npu_app的代码？非常感谢

8

@penggeng aml_npu_app.你使用哪个模型就在哪个模型的源码里

9

@Frank 好的，非常感谢您的解惑，祝您工作愉快

10

@penggeng 有问题可以在这里继续反馈,修改的幅度不确定大小,毕竟u8和16对C来说影响还是很大

11

@Frank 好的，我先看看源码，尝试去修改，不懂的再来请教您，非常感谢您