关键词:CubeAI、ST开发者云、AI模型、CubeAI测试 训练好神经网路


参考链接:

前言

ST 边缘人工智能开发云是一组云服务,允许在 STM32、Stellar-E 和 ISPU 目标上优化、量化、基准测试和部署训练好的神经网络。

简单来说,用户可以在线上传自己的神经网络模型,通过部署在线开发板(在线开发板连接在ST实验室实物板)上,用户可以获得:

  • 获得神经网络的运行时间和所占硬件资源包括所占RAM、FLASH
  • 还可以下载转化后的C代码、CubeMX IOC文件、CubeIDE工程等

文章中还测试了我手头上相同型号开发板运行相同神经网络的运行所用时间,以此来验证云平台(后台接着实物开发板)。

在线平台链接如下:
https://stm32ai-cs.st.com/home


一、ST Edge AI 云服务是什么?

ST Edge AI可以帮助用户将训练好的神经网络模型生成可以在MCU上运行的代码库,还可以帮助用户(特别是用户手头暂时没有硬件资源的情况下)去优化和测量神经网络在MCU上的硬件所占资源,运行所消耗时间等。

二、使用步骤

1.注册登陆

首次使用网站需要注册账号并登陆。
登陆

2.上传训练好的神经网络

上传训练好的神经网络,然后点击开始。
在这里插入图片描述

3. 选择STM32MCU平台

在这里插入图片描述

4. 模型量化

在这里插入图片描述

5. 模型优化

选择不同的优化选项对模型进行优化。
在这里插入图片描述
优化完成后,鼠标下滑,可以看到优化结果。包含模型所占FLASH和RAM大小等。
在这里插入图片描述

6. 模型基准测试

在模型基准测试中,用户可以选择在自己的意向开发板上运行神经网络模型。这里我选择的是STM32F769I -DISCO。
网页上所列出的开发板,其后台都连接在ST实验室的对应实物板上。
在这里插入图片描述
选择F769,点击开启基准测试。然后等待一段时间。
在这里插入图片描述运行结束后,可以看到,运行训练好的神经网络模型所用时间为5.173 ms。
在这里插入图片描述

7. 结果

显示基准测试结果。选择基准测试结果,然后使用此配置生成配置。
FALSH所占54.63KiB, RAM 7.45 KiB。
在这里插入图片描述
在这里插入图片描述

8. 生成

经过7步骤生成后,可以基于训练好的神经网络看到生成了C代码、IOC文件、CubeIDE工程等。用户根据自己的需要进行下载。
在这里插入图片描述下载下来如下所示。
在这里插入图片描述

三、云测试结果与在实物开发板运行时间对比

刚好我手头上有STM32F769I -DISCO开发板,果断决定测试在实物开发板上测试训练好的神经网络模型,看看时间是不是和云上测试是一样的。
在CubeMX上配置不过多赘述,系统时钟设置为216 MHz。
选择训练好的神经网络模型,点击在开发板上运行。
在这里插入图片描述依据自己的硬件环境,选择相对应的配置。
在这里插入图片描述
可以看到,平均单个样本所用时间为5.170 ms。
在这里插入图片描述
对比云端实物平台,数据吻合。
在这里插入图片描述


总结

本文简单解释了ST Edge AI 如何使用以及通过作者在实物板上进行运行,进行对比。验证了云平台的可靠性。
大家可以使用这个平台去优化和快速评估自己训练好的神经网络模型的性能。
哈哈,为ST良心平台点赞。
在这里插入图片描述

Logo

智能硬件社区聚焦AI智能硬件技术生态,汇聚嵌入式AI、物联网硬件开发者,打造交流分享平台,同步全国赛事资讯、开展 OPC 核心人才招募,助力技术落地与开发者成长。

更多推荐