广告

高效打包边缘人工智能神经网络模型

2023-11-08 Rami Drucker,机器学习软件架构师,CEVA 阅读:
本文将介绍几种图优化技术,助您在2MB的二级缓存中安装更多量化模型,但仅仅量化是无法完成安装的。

X7Rednc

在嵌入式设计中常常需要将应用程序打包到有限的片上内存中,现在,将人工智能神经网络模型压缩到有限的存储器中也是如此。对于传统软件,就某些方面而言,做到这一点可谓更具挑战,因为基于神经网络的系统中的工作内存都是“内部循环”的,要求换出到 DDR 内存,可能会降低性能。另外,在推理过程中重复访问 DDR 也会增加边缘设备的典型低功耗预算,这一点也同样很难令人满意。更大的片上存储器是解决问题方法之一,但是会增加产品成本。综上所述,最佳解决方案是尽可能高效地将模型打包到可用内存中。X7Rednc

众所周知,在编译人工智能神经网络模型以便在边缘设备上运行时,有一些量化技术可以缩小此模型的大小,如将浮点数据和权重值转换为定点,然后进一步缩小为 INT8 或更小的值。想想一下,如果还能更进一步会怎样。在本文中,我将介绍几种图优化技术,助您在 2MB 的二级缓存中安装更多量化模型,但仅仅量化是无法完成安装的。X7Rednc

优化人工智能神经网络图中的缓冲区分配X7Rednc

X7Rednc

 1.一个简单的人工智能图。Op 代表运算符,代表外部输入,代表常数(权重),代表变量,代表张量。X7Rednc

人工智能神经网络模型表示为图形并作为图形来管理,其中的运算是通过缓冲区相互连接的节点进行的。这些缓冲区固定分配在内存中,大小在编译图时确定,用于保存图中的中间计算结果或输入和输出。在所有图中,流水关系图是最基本的一种,但更典型的简单图如图 1 所示。X7Rednc

我们的目标是让编译器优化缓冲区内存总需求。想想简单的人工智能神经网络图中可能的分配序列(图 2 中的左图)。首先要明白,图中的不同运算需要不同大小的缓冲区,并且在进行下一波处理之前,将不再需要已完成运算的输入缓冲区。读取缓冲区 A(此处分配有 800K 字节),就可以在后续运算中重复使用了,缓冲区 B 也是如此,依此类推。在左图出现分支时,先将缓冲区 A 和 B 分配给了右侧分支,之后则必须为左侧分支分配一个新的缓冲区 C。X7Rednc

X7Rednc

 2.说明缓冲区分配的简单图。右图在左图的基础上,将缓冲区 B  C 互换并增加了缓冲区 B 的大小,得到了改善。X7Rednc

从这个例子中不难看出,一开始就将缓冲区 B 的大小增加到 1000K,稍后再在左侧分支中重复使用 B 的全部大小,右侧分支中缓冲区 C 就只需要额外 10K 内存,如右图所示。左/右内存需求差异明显。左图需要 2.5MB (800K+700K+1000K),而修改顺序后的右图只需要 1.81MB (800K+1000K+10K)。X7Rednc

在一般人工智能神经网络图中找出最优排序就是众所周知的 0-1 背包问题。我们展开了初步测试,研究这种优化如何改善打包到固定大小 L2 缓存的效果。即使是当下初步阶段,结果也相当不错。我们测试了几种常见网络在 2MB 和 4MB L2 缓存中的安装效果。优化前,只有 13% 的模型可以安装在 2MB 内存中,38% 的模型可以安装在 4MB 内存中。优化后,66% 的模型可以安装在 2MB 内存中,83% 的模型可以安装在 4MB 内存中。仅这一项优化就值得我们努力,我们的目标是确保更多模型可以完全在片上内存中运行。X7Rednc

通过合并缓冲区优化人工智能神经网络模型X7Rednc

在卷积人工智能神经网络模型中,经过前几层处理后,缓冲区大小通常会缩小。这种结果表明,一开始分配的大缓冲区可以通过与稍后需要的较小缓冲区共享空间得到更高效的利用。图 3 说明了这种可能性。X7Rednc

X7Rednc

 3.不同的简单图。最初为缓冲区 A 分配的大小可以稍后由左右分支共享,此处的 C 缓冲区源自最初的 A 缓冲区。X7Rednc

我们试着进行优化,看看这种合并对内存总需求有何影响。在一系列无比熟悉的网络中,我们发现缓冲区总大小减小了 15% 到 35%。再次重申一遍,这些改进非常具有吸引力。X7Rednc

要点X7Rednc

我们通过这些优化,运行各种主流卷积人工智能神经网络模型,从检测到分类到细分,再到 RNN 模型不一而足。大多数情况下,模型完全迁移至了 4MB 二级缓存,某些情况下,模型迁移至了二级缓存中,只有一部分还留在 DDR 内存中。几乎所有模型都在打包方面呈现出巨大改进。 X7Rednc

即使你的人工智能神经网络模型无法安装在片上内存,也并非无法优化。在人工智能编译器阶段可以对缓冲区进行优化,大幅压缩模型总大小。在 CEVA,我们很乐意与你讨论以上问题和其他想法,以便进一步优化人工智能神经网络模型的内存使用。X7Rednc

责编:Franklin
文章来源及版权属于Rami Drucker,机器学习软件架构师,CEVA,EDN电子技术设计仅作转载分享,对文中陈述、观点判断保持中立,不对所包含内容的准确性、可靠性或完整性提供任何明示或暗示的保证。如有疑问,请联系Demi.xia@aspencore.com
  • 微信扫一扫
    一键转发
  • 最前沿的电子设计资讯
    请关注“电子技术设计微信公众号”
广告
热门推荐
广告
广告
EE直播间
在线研讨会
广告
广告
面包芯语
广告
向右滑动:上一篇 向左滑动:下一篇 我知道了