运行模型转换成功,生成了 lenet.json 和 lenet.data
运行量化失败,报错:
Invalid argument: Shape mismatch in tuple component 0. Expected [28,28,1], got [28,28,28]
不过根因好像是下面这个:
python3版本 python3.6.9,tensorflow版本:1.13.2
量化命令:
./bin/tensorzonex --action quantization --source text --source-file ./quant.txt --channel-mean-value “0 0 0 1” --model-input lenet.json --model-data lenet.data --quantized-dtype asymmetric_quantized-u8 --quantized-rebuild --batch-size 1 2>&1 | tee quant_lenet.log
quant.txt里面的内容:
data_lenet_q1_shape_1_1_28_28_float16.npy,
运行inception_v3 demo OK,对量化数据有格式要求?