模型转换量化必须在板子上进行么?

VIM3
1

在台机上对自己训练的yolov4 进行了转换yolov4.nb,同时将 yolov4.nb,vnn_yolov4.h,vnn_post_process.h,vnn_pre_process.h scp 传到 vim3 上.然后修改了 yolov3_process.c ,编译替换了 so. 运行时报错:

init_fb...
1920x1080, 32bpp
W Detect_api:[det_set_log_level:19]Set log level=1
W Detect_api:[det_set_log_level:21]output_format not support Imperfect, default to DET_LOG_TERMINAL
W Detect_api:[det_set_log_level:26]Not exist VSI_NN_LOG_LEVEL, Setenv set_vsi_log_error_level
det_set_log_config Debug
E [model_create:64]CHECK STATUS(-1:A generic error code, used when no other describes the error.)
E Detect_api:[det_set_model:225]Model_create fail, file_path=nn_data, dev_type=1
det_set_model fail. ret=-4
  • 请问模型转换量化必须在板子上进行么?
  • 我在训练yolov4 的时候将所有的 mish函数 换成了 leaky函数 是否有影响,会导致这个问题?
  • 另外我的yolov4 的输入大小是608*608 是否有影响?
2

模型转换是在PC上进行的

我的yolov4激活函数就是leaky

不建议使用这个大的，会导致帧率小于1帧

创建模型失败，一般是你的转换代码和nb文件不匹配，或者是和应用程序不匹配导致的。

我们的代码里面有yolov4的demo，请使用那个，yolov4和yolov3在后处理上是有差别的。不能混用

1 Like