VIM Inference推理时 多张图片(batch=8)输入

请问 VIM3是否支持 在推理阶段使用多个图片同时推理(性能是倍数提升吗?),如果可以,该如何使用呢,目前走官方给的流程,都是默认输入一张图片进行推理

@liushuan 多这个工具理论上多图片输入的推理上是可以的,但是对与性能来说,是不可能出现倍数提升的.我们还没有尝试过使用多图片输入的模型.你需要自己尝试一下.

@Frank 你好,这个多Batch输入 有没有相关的文档支持呢,不知道如何设置呢

@liushuan NPU SDK Docs目录下有文档介绍的,你可以看看