bck

收藏本站

基于CNN加速器的深度学习编译器设计与实现

【摘要】:近十年来,基于神经网络的深度学习技术将图像分类、语音识别和目标检测等技术的准确率提高到了实用的水平。众多的科技巨头和初创公司都卷入其中,努力挖掘各种可能的应用落地场景。深度学习技术已经走进并开始影响人们的生活。移动终端、嵌入式系统、单片机以及各种AI加速器都是深度学习应用落地的重要硬件平台,不同平台通常有不同的功能和特性,要在不同类型的设备上都获得最佳性能非常困难,因为需要基于硬件对模型与运算核心同时进行优化才能充分发挥硬件的性能。所以在现阶段为各种计算平台和加速器研发配套的软件工具来实现模型的高性能部署是深度学习领域的一个工作重点,缺乏软件工具硬件就无法发挥其最大能效,也难以得到推广。本文以神经网络模型在低端嵌入式平台部署的挑战以及针对深度学习算法的定制硬件对软件工具的需求为研究出发点,对深度学习模型的优化部署进行了研究,并以本课题组的CNN加速器为目标设备设计并实现了一个深度学习编译器。实现了将需要较复杂解析过程的深度学习模型计算映射到底层硬件的功能。本文的主要研究工作包括以下几点:(1)研究卷积神经网络从顶层模型到硬件体系结构的端到端优化部署,和深度学习模型在低端微控制器部署的困难与挑战,提出适用于本课题组的集成了CNN加速器的片上系统的深度学习编译器结构。编译器选择开放神经网络交换格式ONNX作为输入格式,并基于ONNX IR设计适合于编译器实现的具有足够表示能力同时又相对简单的中间表示,编译器以该中间表示为载体进行模型优化和变换,并最终将模型所描述的前向推理计算输出为等价的C函数。通过利用C语言良好的移植性与工具链的成熟性,可以简化深度学习模型在低端设备的部署。(2)研究神经网络模型的量化方法,量化是目前最广泛使用的模型压缩手段,同时也是重要的模型加速手段,本文根据目标硬件资源的特点提出对应的模型量化方案,并将模型量化的全过程内置到编译流程中,进一步简化了模型部署操作。(3)设计并实现了基于CNN加速器的编译器后端,提出与体系结构相关的计算管理、内存管理以及代码生成方案,研究CNN加速器的卷积计算原理及其限制,提出基于CNN加速器的卷积实现方法。通过测试表明,本文实现的编译器能够对预训练神经网络模型进行优化、量化以及基于目标体系结构的代码生成。深度学习与AI芯片都是目前的热门研究领域,作为连接深度学习算法及其实现的深度学习编译器也得到了越来越多的关注。通过了解深度学习编译器,不仅可以加深对深度学习知识的理解,还对进一步学习其他成熟的编译器框架有一定作用。

下载App查看全文

(如何获取全文? 欢迎:、、)

支持CAJ、PDF文件格式


【相似文献】
中国期刊全文数据库 前13条
1 聂宇琛;唐雪寒;马瑶;马钟;李申;;一种高数据重用通用CNN计算模块设计[J];单片机与嵌入式系统应用;2020年05期
2 魏笑;秦永彬;陈艳平;;一种基于部件CNN的网络安全命名实体识别方法[J];计算机与数字工程;2020年01期
3 周月鹏;卢喜利;;基于组合激活函数的CNN应用研究[J];韶关学院学报;2019年12期
4 查兴兴;陈恳;;基于改进CNN的中文语音识别研究[J];无线通信技术;2019年04期
5 李莹;李忠;李海洋;孙可可;;结合颜色空间和CNN的火焰检测[J];计算机时代;2019年12期
6 王日彤;;基于共轭梯度法的CNN图像分类模型研究[J];电子技术与软件工程;2021年04期
7 周新城;吴自然;吴桂初;;基于1D-CNN的串联故障电弧检测[J];消防科学与技术;2020年02期
8 陆嘉慧;张树美;赵俊莉;;基于CNN集成的面部表情识别[J];青岛大学学报(工程技术版);2020年02期
9 胡德敏;胡钰媛;褚成伟;胡晨;;CNN图像修复区域故障检测的迭代方法[J];小型微型计算机系统;2020年07期
10 尚蕊;尚芳;刘林;韩秀丽;;基于CNN的在线开放课程表情识别应用研究[J];青岛职业技术学院学报;2020年04期
11 柳永翔;付晓峰;付晓鹃;周伟;潘哲琦;;深度可分离CNN在表情识别中的应用研究[J];工业控制计算机;2020年10期
12 凌娇秀;;具时滞的非线性CNN系统的行波解[J];广州大学学报(自然科学版);2006年05期
13 粟向军;;近十年CNN报道中的贵州国际形象分析[J];新闻研究导刊;2021年09期
中国重要会议论文全文数据库 前20条
1 尤加春;曹俊兴;王俊;;基于短时傅里叶变换的CNN涌浪噪音压制[A];2020年中国地球科学联合学术年会论文集(十五)—专题四十三:海洋地球物理、专题四十四:海啸及海啸预警研究、专题四十五:电磁地球物理学研究应用及其新进展[C];2020年
2 栗国星;石秉学;;一种用于手写体数字识别的电流型CNN特征提取器[A];1999年中国神经网络与信号处理学术会议论文集[C];1999年
3 张嘉露;;CNN对华报道的倾向和影响因素[A];决策论坛——基于公共管理学视角的决策研讨会论文集(上)[C];2015年
4 原达;张彩明;刘晓华;李晋江;;基于CNN的Mumford-Shah图像轮廓提取[A];中国计算机图形学进展2008--第七届中国计算机图形学大会论文集[C];2008年
5 杨红成;;外媒对香港“占中”事件报道的媒介框架分析——以CNN网站为例[A];首届长三角影视传媒研究生学术论坛论文集[C];2015年
6 刘国华;张颖;陈子军;陈子阳;;改进的CNN搜索算法[A];第二十届全国数据库学术会议论文集(技术报告篇)[C];2003年
7 雷国伟;舒强;郭东辉;;基于CNN通用编程的指纹识别算法研究[A];计算机技术与应用进展——全国第17届计算机科学与技术应用(CACIS)学术会议论文集(上册)[C];2006年
8 王怀颖;杨立瑞;章毓晋;;CNN在康普顿背散射图像处理中的应用研究[A];中国核科学技术进展报告——中国核学会2009年学术年会论文集(第一卷·第9册)[C];2009年
9 林翊钧;吴凤鸽;赵军锁;;面向CNN动目标检测的图像块星上提取方法[A];2018软件定义卫星高峰论坛会议摘要集[C];2018年
10 刘天华;杨绍清;刘松涛;;基于CNN的海空光电目标检测技术研究[A];第二届红外成像系统仿真测试与评价技术研讨会论文集[C];2008年
11 赵永峰;;体验认知视角下的传播研究——以CCTV和CNN索契冬奥会报道为例[A];中国认知传播学会第二届学术年会论文集[C];2015年
12 殷一帆;何春柳;王嘉秋;徐标;李志勇;;基于卷积神经网络(CNN)方法表征冠状动脉粥样硬化斑块组分的研究[A];第十二届全国生物力学学术会议暨第十四届全国生物流变学学术会议会议论文摘要汇编[C];2018年
13 李含清;王宏宇;王彦华;李阳;曾涛;;基于CNN的地面目标高分辨距离像识别方法[A];第十三届全国信号和智能信息处理与应用学术会议论文集[C];2019年
14 李朦;;美国有线电视新闻网(CNN)平昌冬奥会负面报道内容研究[A];第十一届全国体育科学大会论文摘要汇编[C];2019年
15 葛粲;;火山岩地球化学二维灰度码和基于CNN的构造源区判别[A];2018年中国地球科学联合学术年会论文集(三十四)——专题70:测试新技术及其地质应用、专题71:大数据挖掘、机器学习与数学地球科学[C];2018年
16 王文庆;郭恒;范启富;;基于CNN与GRU的航空发动机剩余寿命预测[A];第37届中国控制会议论文集(F)[C];2018年
17 彭桂力;庹先国;李怀良;刘勇;陆景;;微地震监测混合信号的CNN算法识别研究[A];第二届地球物理信息前沿技术研讨会论文摘要集[C];2019年
18 严韶光;康春玉;李军;李兰瑞;;基于功率谱特征的CNN被动声呐目标分类方法[A];中国声学学会2017年全国声学学术会议论文集[C];2017年
19 缪浩然;黎塔;梁宏;;改进的词向量特征和CNN在语句分类中的应用[A];第十四届全国人机语音通讯学术会议(NCMMSC’2017)论文集[C];2017年
20 倪铮;文韬;梁萍;窦红刚;孙预前;;一种基于CNN和RNN深度神经网络的天气预测模型——以北京地区雷暴的6小时临近预报为例[A];第35届中国气象学会年会 S1 灾害天气监测、分析与预报[C];2018年
中国博士学位论文全文数据库 前8条
1 葛芸;基于CNN迁移特征融合与池化的高分辨率遥感图像检索研究[D];南昌大学;2019年
2 张硕;基于FPGA的多路CNN并行计算体系结构研究[D];北京工业大学;2020年
3 陈芳跃;CNN符号动力系统[D];上海大学;2004年
4 王涛;NCN钳形铑(Ⅲ)以及CNN钳形钯(Ⅱ)和钌(Ⅱ)化合物物合成与催化性能研究[D];郑州大学;2014年
5 马萍;复杂环境中联合CNN与IMU的单目视觉SLAM方法研究[D];中国科学院大学(中国科学院长春光学精密机械与物理研究所);2020年
6 Adeel Akram;基于GAN和CNN模型的人脸画像合成方法[D];西安电子科技大学;2019年
7 Saman Riaz;基于模糊粗糙C均值的图像大数据CNN聚类与分类[D];西安电子科技大学;2019年
8 李明星;基于CNN的地-孔TEM异常提取及PSO-DLS反演方法研究[D];煤炭科学研究总院;2020年
中国硕士学位论文全文数据库 前20条
1 张芳芳;基于CNN加速器的深度学习编译器设计与实现[D];西安电子科技大学;2020年
2 季飞龙;基于并行CNN的肌电手势识别算法研究[D];南京邮电大学;2020年
3 闫小苗;基于CNN的可变焦场景视频行人检测算法研究与实现[D];北京交通大学;2019年
4 赵偲含;基于CNN的平面物体跟踪算法的研究与实现[D];北京交通大学;2019年
5 汪露;基于空洞CNN的实体级情感分析研究[D];重庆邮电大学;2019年
6 李令先;基于CNN的轨道交通拥堵预测算法研究[D];成都理工大学;2019年
7 陶臣嵩;基于旋转域特征和深度CNN的极化SAR检测与分类研究[D];国防科技大学;2017年
8 刘业鑫;基于CNN的任意分布的场景文本检测与识别方法研究[D];哈尔滨工业大学;2019年
9 何霞;基于多任务CNN的实例感知图像检索技术[D];浙江工业大学;2019年
10 荣伟;基于CNN的恶意请求检测[D];西安电子科技大学;2019年
11 侯倩;基于改进MCE准则的CNN算法研究及台风等级分类应用[D];上海海洋大学;2019年
12 孔思聪;基于CNN的多音调钢琴转录算法的研究与实现[D];华中科技大学;2019年
13 邹云飞;基于视频的人体异常行为识别与研究[D];云南大学;2019年
14 尹宁;基于CNN的雾霾环境下交通标志的识别[D];中北大学;2019年
15 潘雪峰;基于CNN的手骨异常检测研究与系统实现[D];东北师范大学;2019年
16 何雪琴;基于情感分析的旅游景点推荐[D];新疆大学;2019年
17 李娟娟;基于改进的CNN交通标志识别研究[D];长安大学;2018年
18 徐亚琴;基于CNN的苹果内部水心近红外光谱检测研究与实现[D];湖南大学;2018年
19 张乐;基于CNN的车辆安全距离感知系统研究与设计[D];成都理工大学;2018年
20 陈宇廷;基于CNN特征提取的无人机视频空间摘要研究[D];国防科学技术大学;2016年
中国重要报纸全文数据库 前13条
1 本报特约记者 胡浩;[N];环球时报;2018年
2 马潇;[N];环球时报;2019年
3 本报记者 王盼盼;[N];环球时报;2019年
4 本报驻美国特约记者 杨宏彦 本报特约记者 郝树华;[N];环球时报;2018年
5 本报记者 高雷;[N];环球时报;2019年
6 于名;[N];环球时报;2019年
7 志灵;[N];中国青年报;2008年
8 本报记者 刘欣 王盼盼;[N];环球时报;2021年
9 本报驻联合国记者 袁博 贾泽驰;[N];文汇报;2017年
10 毛建国;[N];中国青年报;2007年
11 本报驻美国特约特派记者 肖岩 本报驻埃及特约特派记者 曲翔宇 本报记者 白云怡 丛超 吴志伟 柳玉鹏;[N];环球时报;2019年
12 记者 徐莹波;[N];桂林日报;2015年
13 夏榆;[N];南方周末;2004年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978


{bck}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bck体育}| {bckbet}| {bcksports}| {bck官网}| {bck}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bck体育}| {bck}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bck体育}| {bckbet}| {bcksports}| {bck官网}| {bck}| {bck体育下载}| {bck体育}| {bckbet}| {bcksports}| {bck官网}| {bck}| {bck体育下载}| {bck体育app}| {bck体育}| {bckbet}| {bck体育下载}| {bck体育app}| {bck体育}| {bckbet}| {bcksports}| {bck体育下载}| {bckbet}| {bcksports}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bck体育}| {bck官网}| {bck体育下载}| {bckbet}| {bcksports}| {bck官网}| {bck体育app}| {bck体育}| {bcksports}| {bck官网}| {bck体育下载}| {bck体育}| {bckbet}| {bcksports}| {bck官网}| {bck体育}| {bcksports}| {bck官网}| {bck体育官网}| {bck体育下载}| {bck体育}| {bckbet}| {bcksports}| {bck}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bck体育}| {bckbet}| {bck官网}| {bck}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bcksports}| {bck官网}| {bck}| {bck体育官网}| {bcksports}| {bck体育下载}| {bck体育app}| {bckbet}|
{uc8}| {uc8体育}| {uc8官网}| {uc8老虎机}| {UC8娱乐城}| {uc8彩票}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8官网}| {uc8老虎机}| {uc8体育}| {UC体育}| {uc8老虎机}| {uc8老虎机}| {UC8娱乐}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8老虎机}| {uc8彩票}| {uc8}| {uc8体育}| {UC体育}| {uc8官网}| {UC8娱乐}| {UC8娱乐城}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8官网}| {uc8老虎机}| {UC8娱乐}| {UC8娱乐城}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8官网}| {uc8老虎机}| {UC8娱乐}| {UC8娱乐城}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8官网}| {uc8老虎机}| {UC8娱乐}| {uc8彩票}| {uc8}| {uc体育}| {UC体育}| {UC8娱乐城}| {uc8}| {UC体育}| {uc8官网}| {uc8老虎机}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8官网}| {uc8老虎机}| {UC8娱乐}| {UC8娱乐城}|