严格安装《模型转换运行用户指南(0.7).pdf》来安装环境,环境和要求的都一致。但是在模型转换和量化等上遇到很多问题
-
使用我们的caffe模型进行模型转换时,转换结果不对
我们的模型里有个scale层,其中有个参数bias_term: false,如下图
但是转换后的模型对应层的bias是true
ScaleLayer_4_57: {
“name”: “ScaleLayer_4”,
“op”: “multiply”,
“Parameters”: {
“axis”: 3,
“bias”: true
},
。。。。
} -
第一步转换后不做改动,进行量化会出错,因为我们的模型的bias为false,对应的权重也不存在,但是生成的json里bias却为true和权重不一致。
E scale shape [1, 64, 1, 1] not equal to bias shape [64] -
强制把json里的bias改为false,执行tensorzonex,错误如下:
File “tensorflow_core/python/ops/state_ops.py”, line 7, in update_tensor -
强制把json里的bias改为false,执行ovxgenerator,错误如下:
error while loading shared libraries: libovxlib.so: cannot open shared object file: No such file or directory -
如果把换成我们对应的pytorch模型(使用的是torch.save(m, ‘model.pt’)保存的),执行convertpytorch,错误如下:
failed reading zip archive: failed finding central directory -
如果是Torch.jit.save(script, ‘model.pt’)保存的模型,执行convertpytorch,错误如下:
KeyError: “BN_1.training”