在量化这一步, 在给出的文档和示例中, 输入都是图像.
阅读文档, 在Tensorzonex参数说明中:
很明确说明输入的source file只能是一系列的images文件.
那么如果我们的网络输入如果不是image, 而是一串数据.比如2000个float数据, 我们应该如何做量化了? 希望能给出一个示例或者文档.
在量化这一步, 在给出的文档和示例中, 输入都是图像.
阅读文档, 在Tensorzonex参数说明中:
很明确说明输入的source file只能是一系列的images文件.
那么如果我们的网络输入如果不是image, 而是一串数据.比如2000个float数据, 我们应该如何做量化了? 希望能给出一个示例或者文档.
@ETHANOS 这个工具是个cv方向的工作,非cv方向不支持使用
那需要实现这个,你们有其他能实现的工具推荐吗?
理论上你可以把你的数据写成 2000x1 的图片送进去,但是绝大多NPU 都是为了 CV 任务设计和优化的,所以最终效果也不一定好。我没用过 VIM3 上的 NPU,但是 RK3399pro 的 NPU 上做语音任务的效果非常差。
@ETHANOS 目前没有,我们手头的工具基本都是cv的
@Eurus 不建议这么做,如果要这么做,也需要先将浮点数据转换成整型数据才能写进去。
对于非图像数据,我们试过自己统计每一层的输入范围,用自己统计生成.quantize文件去替代SDK生成的.quantize文件,这样就跳过SDK量化这一步,实践可行
@yuming 感谢你的分享,能否分享下具体是怎么做的