coco在评价时候速度慢

Evaluating bbox...
Loading and preparing results...
DONE (t=12.14s)
creating index...
index created!
Running per image evaluation...
Evaluate annotation type *bbox*
DONE (t=8601.13s).
Accumulating evaluation results...
DONE (t=187.50s).

如上所示,在评估coco格式性能的时候,发现速度很慢,请问该如何改进呢?
单卡2080Ti跑的,大约显存1200MB,属于正常情况应该。发现CPU占用率不高,可能是CPU(至强)限制速度吗?

你好!

速度瓶颈可能存在于 GPU、CPU、或者硬盘读取,可以通过检查硬件占用率分析瓶颈。

对于 Nvidia GPU,nvidia-smi 打印的 Volatile GPU-Util 列可以反映 GPU 占用率。如果达到了 100% 的占用率,说明 GPU 已经占满,是计算瓶颈;也说明代码充分利用了 GPU 性能,如果需要进一步加速则需要改进算法实现。100%是理想情况,一般达到了 90% 以上的 GPU 占用率,就认为速度已经达到了比较满意的状态。

对于 CPU,你可以通过 tophtop 等命令查看。如果 GPU 占用率低,而 CPU 占用率高,说明瓶颈在 CPU 计算,需要考虑改进 CPU 代码。在 Dataset 中,可以指定 num_works 来增加进程数量,通过多核加速 CPU 计算。

对于硬盘读取瓶颈,您可以通过 iotop 等命令查看。如果硬盘读写占用高,那么需要考虑使用 SSD。

另外,你使用的是什么 Jittor 模型呢?

发现使用cocoapi eval的时候,GPU的利用率是0,猜想应该是在用CPU跑,导致的速度慢的原因。所以请问一下这个是正常情况吗?或者是某些设置的问题?在使用JDet
coco eval指的是模型测试图片结束,在计算mAP指标的阶段

coco eval确实是在CPU上跑的,暂时还没有实现GPU版本。