将AI模型成功部署到边缘MCU中,常常受限于MCU的计算峰值和内存峰值的限制,部署较为困难,目前有一个将AI算法MCU部署到GD32系列MCU中的宝藏的开源库。
项目网址:HomiKetalys/gd32ai-modelzoo: Provide deployable deep learning models on gd32 (github.com)
目前有图像分类,目标检测模型。这个模型库有如下特点:
- 开箱即用,深度适配keil5工程,可以将模型直接部署进keil5工程中,无需复杂的配置keil5工程即可使用部署的模型,支持ARMCC和GCC。
- 完全免费的推理框架TinyEngine,运行速度在F4和H7系列上处与业内前沿,支持GCC和ARMCC(AC6)。
- 支持X-CUBE-AI。
- 模型运行时的内存占用峰值可调,内存占用峰值远低于同类模型库。
- 稀疏块式推理,静态场景下可以自动根据目标稀疏性减少推理时间,目标检测模型推理时间低于同类模型库。
- 提供了训练脚本,模型可重新训练,同时提供了预训练模型,可以通过迁移学习以适应不同应用。
注意:项目大大,人非常好,会认真及时回复问题和技术难题。
算法库目前支持如下: