NPU输入是否能是浮点数？而不是图像

Technical Support
1

在量化这一步, 在给出的文档和示例中, 输入都是图像.

阅读文档, 在Tensorzonex参数说明中:

image
image811×711 99.2 KB

很明确说明输入的source file只能是一系列的images文件.

那么如果我们的网络输入如果不是image, 而是一串数据.比如2000个float数据, 我们应该如何做量化了? 希望能给出一个示例或者文档.

2

@ETHANOS 这个工具是个cv方向的工作，非cv方向不支持使用

3

那需要实现这个，你们有其他能实现的工具推荐吗？

4

理论上你可以把你的数据写成 2000x1 的图片送进去，但是绝大多NPU 都是为了 CV 任务设计和优化的，所以最终效果也不一定好。我没用过 VIM3 上的 NPU，但是 RK3399pro 的 NPU 上做语音任务的效果非常差。

5

@ETHANOS 目前没有，我们手头的工具基本都是cv的

6

@Eurus 不建议这么做，如果要这么做，也需要先将浮点数据转换成整型数据才能写进去。

7

对于非图像数据，我们试过自己统计每一层的输入范围，用自己统计生成.quantize文件去替代SDK生成的.quantize文件，这样就跳过SDK量化这一步，实践可行

8

@yuming 感谢你的分享，能否分享下具体是怎么做的