教育装备采购网
长春智慧学校体育论坛580*60 羽毛球测评580*60

“芯”起征程 海云捷迅杯企业大奖获奖团队爱卡丝俱乐部

教育装备采购网 2021-09-17 16:02 围观506次

他们是谁?

  他们是爱卡丝俱乐部,一家成立于2021年1月28日的新兴团体。三位俱乐部成员分别是苏天祺、程昕、薛睿鑫,均是南京大学电子系二年级研究生,俱乐部名称取自南京大学ICAIS实验室的音译。俱乐部的指导老师是IEEE Fellow 王中风教授。

“芯”起征程 海云捷迅杯企业大奖获奖团队爱卡丝俱乐部

成员合影(左起)程昕 苏天祺 薛睿鑫

他们做了什么?

  他们俱乐部参加了第五届集成电路创新创业大赛(海云捷迅杯),针对MobileNet V1的硬件加速器进行优化。一路过关斩将,熬夜调通代码,更新迭代结果在华东分赛区获得二等奖。最后绞尽脑汁进行优化,终于在全国总决赛获得一等奖(企业大奖)。

  俱乐部成员程昕为他们的优化方案起名叫“基于稀疏卷积与层融合的流水线优化方案”。优化手段分别放在量化、排序、传输、计算、流水线这五个方面。通过优化,他们将原3000ms的预测时间,压缩到接近800ms,速度提升超过3.5倍

“芯”起征程 海云捷迅杯企业大奖获奖团队爱卡丝俱乐部

整体的优化思路和手段

  最后的推理效果和时间效果如图(若将第二层卷积放在arm上进行,速度会慢一点但是精度会高一些)

“芯”起征程 海云捷迅杯企业大奖获奖团队爱卡丝俱乐部

所有卷积在FPGA上进行,速度快,精度稍低(左图);第二层卷积在ARM上进行,速度稍慢,但是精度高(右图)

他们的作品

  他们的任务是需要针对基于MobileNet V1的SSD目标检测算法加速器进行优化,以达到快速的目标检测效果。

“芯”起征程 海云捷迅杯企业大奖获奖团队爱卡丝俱乐部

“芯”起征程 海云捷迅杯企业大奖获奖团队爱卡丝俱乐部

  1、整体架构

  Data (数据)经UpSizer和BusMatrix进行仲裁,存储到相应的SRAM中,他们将PingPong Buffer取代原SRAM,用来实现数据传输和计算的并行;重新设计卷积模块,并将卷积结果直接传入BiasRelu单元,二者采用层融合的方式连接,以便提高数据读写和传输效率。

“芯”起征程 海云捷迅杯企业大奖获奖团队爱卡丝俱乐部

整体的架构图

  2、卷积重构

  他们采用row-wise,weight stationary的方式重新设计卷积模块,并将乘法的并行度提高到96(3x32)使得网络可以同时计算32个卷积核的一行数据,以加快卷积的计算速度并提高片上数据的复用性。

“芯”起征程 海云捷迅杯企业大奖获奖团队爱卡丝俱乐部

普通卷积的计算数据流

“芯”起征程 海云捷迅杯企业大奖获奖团队爱卡丝俱乐部

逐点卷积的计算数据流

  3、流水线优化

  为了进一步提高计算流水,他们将卷积(Conv)和偏移、激活(BiasReLU)融合起来并加入PingPong Buffer。

“芯”起征程 海云捷迅杯企业大奖获奖团队爱卡丝俱乐部

  4、量化方案

  他们也对量化过程进行优化,并在推理前对完成对数据的量化并保存结果。以减少权重的重复量化。

“芯”起征程 海云捷迅杯企业大奖获奖团队爱卡丝俱乐部

量化过程示意图

  5、硬件架构

  上述架构的硬件设计如图所示。他们设计的硬件单元包括包含32个Conv Core;每个Conv Core包括3个8bits乘法器和3个32bits加法器;Psum Processing负责累加并存储卷积计算的中间值。

“芯”起征程 海云捷迅杯企业大奖获奖团队爱卡丝俱乐部

  6、优化结果

  经过他们的优化,在不同卷积层的加速达到了最高39倍加速比,平均4.5倍加速比。并且将整体的目标识别速度提升到了快836ms!

“芯”起征程 海云捷迅杯企业大奖获奖团队爱卡丝俱乐部

普通卷积层(左)和逐点卷积层加速比

获奖心得

  爱卡丝俱乐部整个暑假都埋头苦干,终于一路披荆斩棘,最后拿到了想要的名次。让我们来听听各个成员的参赛心得吧!

  苏天祺:在这次比赛中,每位成员都有着很强的责任感和任务意识,大家主动给自己分配了需要学习的内容,所以即使是初次接触,我们的准备也足够。而且凡是遇到困难,我们都会相互讨论并且请教有经验的学长和老师,比赛气氛简直不要太好!

  程昕:我们每周都会开会啊,大家一股脑把问题抛出来然后相互讨论,我们就会碰撞出很多的火花。我们也会给自己规定时间轴(虽然经常做不完),但是给自己一个ddl,自己就有很多的动力!

  薛睿鑫:其实我们初赛过后,性能并不是很好,但是大家也都不气馁,也没放弃,那个STP一直连不上,简直要崩溃了,但是一遍一遍的尝试,一遍一遍的请教相关老师,终于出了结果。我们都非常高兴。

  还有什么有趣的想分享?

  在比赛之余,爱卡丝俱乐部还积极参加了集创赛五周年短视频大赛,苏天祺拍摄的小短片还悄默默拿了个三等奖,而三等奖正是由海云捷迅支持的定制蓝牙耳机,感觉和海云捷迅的缘分真的非常的深。

  文编 苏天祺

  图片 苏天祺 程昕 薛睿鑫 苏子琦

来源:海云捷迅 责任编辑:张肖 我要投稿
2021教育装备云展会

相关阅读

版权与免责声明:

① 凡本网注明"来源:教育装备采购网"的所有作品,版权均属于教育装备采购网,未经本网授权不得转载、摘编或利用其它方式使用。已获本网授权的作品,应在授权范围内使用,并注明"来源:教育装备采购网"。违者本网将追究相关法律责任。

② 本网凡注明"来源:XXX(非本网)"的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责,且不承担此类作品侵权行为的直接责任及连带责任。如其他媒体、网站或个人从本网下载使用,必须保留本网注明的"稿件来源",并自负版权等法律责任。

③ 如涉及作品内容、版权等问题,请在作品发表之日起两周内与本网联系,否则视为放弃相关权利。

intel 资讯终端页