最近有个小伙伴,问我rk3568上推理图片,1秒能达到多少?
本次采用模型为yolov8s.rknn,作了一次验证。
解析一段视频文件,1280*720, fps 24。读取视频文件,然后进行推理。
通过性能优化,发现推理,稳定的达到了FPS 13左右,NPU利用率在90%上下浮动。
根据官方的数据,yolov8s模型的性能在15.4 FPS。所以基本上也吻合了这个数据。
如果用yolov8n的话,实时推理15fps的视频流,低时延输出,在rk3568上应该是流畅的。
再压榨一下,NPU能达到97%,CPU占用243%,整体上FPS也没啥提升空间了。