AveragePool 板侧结果和pc端量化后结果不一致

VIM3
1

我使用aml_npu_sdk_6.4.4.3和vim3进行模型部署，发现结果不一致。
按照NN工具FAQ (0.4).pdf里的4.2 板子上运行结果精度差，如何定位介绍的方法进行操作，发现模型一旦加上AveragePool后板侧结果和pc端量化后结果不一致，我的模型和量化指令放在百度网盘里了：
链接: 百度网盘 请输入提取码 密码: n0ri
网盘里有一个带AveragePool的模型和一个不带AveragePool的模型，不带AveragePool的模型部署前后误差不大，带AveragePool的模型部署后结果和pc上量化结果误差巨大，希望能有大大帮我看看这个问题，难道是AveragePool积累了每个数的误差所以结果差距巨大？

2

@AddSalt8227 是有可能由于误差累计导致的，数据要转换到整形上，领域受限误差可能比较大。你改用max-pooling试试呢？或者直接粗暴点Flatten试试看效果？我也不确定原因

3

我把后几层都混合量化成float32了，现在误差在可接受范围内了 :grinning_face_with_smiling_eyes:

4

hello, 能共享下 aml_npu_sdk_6.4.4.3.7z这个压缩包吗？ 你是从哪里下的呢？
多谢

5

我是从邮箱更新里获取的这个版本，我不确定我能不能传播它，你可以看看npu-sdk-6-4-4-3-release，里头有个链接需要注册才能拿到新版本

6

好的，多谢
这个压缩包有大多呢？多少MB

7

我找到一个860多MB的，应该比你这个更完整吧？
但是下载不了

8

@lcl2020 一个问题请在一个帖子里面咨询就好，请使用github上面最新的版本，请参考我之前发给你的文档。