How to Use NPU via OpenCV | VIM3

我在编译opencv时,一直报错正在等待未完成的任务,然后后面就出错了,是不是应该调整8这个参数,调小才行

@zxl1109007773

不需要,这个问题已经解决了,现在不需要了

为什么我在vim3上面跑demo,用cpu消耗时间时100ms,但是用NPU消耗时间是750ms,菜谱跑起来更快呢

@zxl1109007773 首先不是所有的算子都能在NPU上运行,如果不支持在NPU运行的算子,会放到CPU运行,速度应该也是与CPU运行相当。你这里的CPU是你的PC还是VIM3的CPU?

我这边在VIM3上跑,耗时相当,但是别人在其他A311D芯片上同样跑,使用NPU很明显有差距啊

比如这个文章里面:https://mp.weixin.qq.com/s/7AVB8ly89ElPvGEduLqSDw

都是在VIM3上面跑的,这个时间相差也太大了点

都是A311D芯片,处理时间差距会很大吗

@algoideas @zxl1109007773 如果是专门适配了int8的模型,运行速度是很快的。你可以看我上面的demo,就是重新设计过的,运行速度就非常快。

我用的就是你给的这个demo和模型呢,但是发现消耗时间好像不太对劲

@zxl1109007773 你是怎么计算耗时间的呢。

就是计算整个demo从加载图片到检测结果出来的运行时间,不管怎么算,cpu和npu计算时间方式是一致的,不应该导致时间差这么大吧

@zxl1109007773 我这边测试了,我提供的这个demo,运行上是NPU要快的,你是不是编译的时候TIMVX没有编译成功?

你对比了吗cpu和npu的运行时间了吗,具体消耗多少时间呢

@zxl1109007773 具体数据需要二次测试,你这边有需要的话,我这周会抽时间测试。

请问官方的系统image 有不带界面的吗?

你下载server版本的固件,就是不带桌面的

请问下,我用opencv的DNN推理u2f模型,每次都是刚运行一下,板子上的灯就不亮了,没有任何反应但是风扇还在转,试了三次都是这样,这个是怎么回事呢?

@alphaalphaalpha 可以提供下具体复现步骤?

@numbqq @Frank Hello! I this guide still valid? I did everything here with a fresh installed official ubuntu image. I cant make the opencv zoo work on NPU sadly. Quantized benchmarks only use cpu. with proper Timvx and npu backend targets. I have been wotking on it for long and tried everything.