bck

收藏本站

基于卷积神经网络的硬件加速器设计及实现研究

【摘要】:神经网络在机器学习和认知科学领域是一种模仿生物神经网络的结构和功能的数学或计算模型,用于对函数进行估计或近似。至今已有若干种深度神经网络,如卷积神经网络(CNN)、循环神经网络(RNN),应用在计算机视觉、自然语言处理、语音识别与生物信息学等领域并获取了很好的效果,特别是卷积神经网络可以在目标识别、检测和场景理解等任务上达到前所未有的精度。从2012年提出的AlexNet(8层网络)到2015年提出的ResNet(多达152层网络),神经网络的计算复杂度不断提升,远高于传统方法,对计算硬件带来更高要求。针对当前终端应用场景下神经网络硬件计算存在的计算量大、带宽要求高、能耗高等问题,为了进一步提高深度神经网络的能效,提高吞吐量、降低功耗,本文从算法和结构上对基于卷积神经网络的硬件加速器ASIC(专用集成电路)设计及实现进行了深入的分析和研究。在提高性能的基础上,通过优化电路结构,控制电路的面积和功耗,达到提高总体的能效等指标。本文的具体研究内容分为以下几个方面:(1)首先从神经网络的基本单元——神经元入手,以PCNN(脉冲耦合神经网络)作为数字化实现神经网络的案例,研究基于PCNN模型的神经单元硬件建模,探索神经网络的构成和机制。针对图像处理嵌入式系统高性能和低功耗的需求,提出了一种基于两级PCNN算法的图像分割应用的VLSI(超大规模集成电路)实现。该算法中第一阶段是基于简化的PCNN模型以获得区域的种子,第二阶段种子扩张具有相似灰度级别的像素点,实现区域的生长。在这个过程中,PCNN的参数可以自适应调整,以克服参数设置的限制。在硬件实现中,两级网络以流水线的形式进行划分,运用了乒乓存储技术,用寄存器阵列以缓冲实时图像数据的传输。实验结果表明,处理速率可以达到每秒4.0×10~8次神经元迭代的高吞吐量,比其他文献提升了11%。(2)接下来以CNN算法作为切入点,研究基于AlexNet卷积神经网络的硬件加速器ASIC设计。根据AlexNet的运算特点,设计了3×3卷积运算单元、片上缓冲存储结构,优化的并行处理数据流,以及整体的粗粒度空间体系架构,通过减少从片外DRAM中访问数据,从而降低功耗,提高总体能效。这一架构的16个3×3卷积运算单元(PE)通过利用本地数据重用,实现了500 MHz下峰值性能144 GOPS。对AlexNet的卷积层处理达到99.2帧/秒,在500 MHz、1.0 V下工作时功耗为264 mW。与同类文献相比,本文工作实现了3倍的能量效率和3.5倍的面积效率。(3)在前面两部分的基础上,针对VGG、GoogLeNet、ResNet等其他主流的CNN神经网络模型的共性加以归纳,设计更为通用、应用范围更广的硬件加速处理器ASIC电路。提出了一个具有24个3×3卷积运算单元阵列的高性能粗粒度空间架构,通过数据寄存器组的数据流设计实现数值有规律的移动,传递到PE中进行计算。针对不同运算或不同大小卷积的情况,由指令发射单元控制各模块协同工作,增强了灵活性和可配置性。此架构的主要优点是每个PE的内部优化了面积,PE的数量便于在进行3×3、5×5、7×7卷积时提高计算效率,以及片上临时存储单元和数据流的设计减少了缓冲区中数据存储的冗余。在650 MHz、1.0 V的条件下,达到峰值性能281 GOPS,功耗为859 mW。在以下CNN卷积层的吞吐量为:AlexNet上179 fps,GoogLeNet上76.6 fps,ResNet-34上36.7 fps。与同类文献的AlexNet性能相比,本文提出的架构实现了1.7倍的能效,1.7倍至4.5倍的面积效率以及16.4%至23.7%的计算效率提升。本文的研究及粗粒度运算单元的硬件结构对于提高卷积神经网络加速器的吞吐量和计算效率具有重要的指导意义。设计完成的几种神经网络加速器硬件电路可以针对不同的应用场景,达到实时处理的性能,具有重要的应用价值和广阔的应用前景。

下载App查看全文

(如何获取全文? 欢迎:、、)

支持CAJ、PDF文件格式


【相似文献】
中国期刊全文数据库 前15条
1 胡悦;;金融市场中的神经网络拐点预测法[J];金融经济;2017年18期
2 刘高宇;;深度神经网络在煤质数据分析与预测中的应用[J];电脑知识与技术;2019年28期
3 冯伟业;廖可非;欧阳缮;牛耀;;基于胶囊神经网络的合成孔径雷达图像分类方法[J];科学技术与工程;2019年28期
4 温赞扬;;基于群智优化神经网络的音乐风格分类模型研究[J];现代电子技术;2019年21期
5 郑丽;;建筑设计中神经网络技术与遗传算法探究[J];湖北农机化;2019年21期
6 易炜;何嘉;邹茂扬;;基于循环神经网络的对话系统记忆机制[J];计算机工程与设计;2019年11期
7 黄为;李永刚;胡上成;汪毅;;基于循环神经网络的船摇数据实时预测[J];科学技术与工程;2019年31期
8 赖策;魏小琴;;卷积神经网络的训练方式研究[J];信息与电脑(理论版);2019年22期
9 周济民;;基于神经网络改进的元胞自动机分析——美国阿片类药物滥用情况[J];信息系统工程;2019年11期
10 马猛;王明红;;基于进化神经网络的304不锈钢车削加工表面粗糙度预测[J];轻工机械;2019年06期
11 迟惠生;陈珂;;1995年世界神经网络大会述评[J];国际学术动态;1996年01期
12 吴立可;;脉冲神经网络和行为识别[J];通讯世界;2018年12期
13 林嘉应;郑柏伦;刘捷;;基于卷积神经网络的船舶分类模型[J];信息技术与信息化;2019年02期
14 俞颂华;;卷积神经网络的发展与应用综述[J];信息通信;2019年02期
15 韩真;凯文·哈特尼特;;为神经网络的通用理论建造基石[J];世界科学;2019年04期
中国重要会议论文全文数据库 前10条
1 孙军田;张喆;;基于神经网络数据挖掘技术确定灾害等级的灭火救援出动力量模型研究[A];2016中国消防协会科学技术年会论文集[C];2016年
2 许进;保铮;;神经网络与图论[A];1999年中国神经网络与信号处理学术会议论文集[C];1999年
3 唐墨;王科俊;;自发展神经网络的混沌特性研究[A];2009年中国智能自动化会议论文集(第七分册)[南京理工大学学报(增刊)][C];2009年
4 张广远;万强;曹海源;田方涛;;基于遗传算法优化神经网络的故障诊断方法研究[A];第十二届全国设备故障诊断学术会议论文集[C];2010年
5 李涛;费树岷;;具有变时滞Cohen-Grossberg神经网络的指数稳定性准则[A];第二十六届中国控制会议论文集[C];2007年
6 汪灵枝;秦发金;;具有变时滞和脉冲的离散Cohen-Grossberg神经网络的周期解[A];中国自动化学会控制理论专业委员会D卷[C];2011年
7 韩正之;林家骏;;用神经网络求解非线性相容方程[A];1993年控制理论及其应用年会论文集[C];1993年
8 林家骏;王赞基;;求解不可微优化问题的连续极大熵神经网络[A];1998年中国智能自动化学术会议论文集(上册)[C];1998年
9 姜德宏;徐德民;任章;;基于神经网络的自校正控制器[A];1993中国控制与决策学术年会论文集[C];1993年
10 窦永丰;贝超;;模糊与神经网络结合方式及在控制中的应用[A];1997年中国控制会议论文集[C];1997年
中国博士学位论文全文数据库 前10条
1 刘昂;微结构硅基光子学器件性能的研究[D];南京大学;2019年
2 肖理业;基于机器学习的电磁场建模与设计研究[D];电子科技大学;2019年
3 付钱华;忆阻神经网络的动力学研究[D];电子科技大学;2019年
4 张马路;Spiking机器学习算法研究[D];电子科技大学;2019年
5 杜昌顺;面向细分领域的舆情情感分析关键技术研究[D];北京交通大学;2019年
6 陈涵瀛;核电站热工水力系统工况预测与诊断方法研究[D];哈尔滨工程大学;2018年
7 梁智杰;聋哑人手语识别关键技术研究[D];华中师范大学;2019年
8 饶红霞;信息受限下神经网络的状态估计和拟同步研究[D];广东工业大学;2019年
9 赵博雅;基于卷积神经网络的硬件加速器设计及实现研究[D];哈尔滨工业大学;2018年
10 陈科海;机器翻译上下文表示方法研究[D];哈尔滨工业大学;2019年
中国硕士学位论文全文数据库 前10条
1 白会杰;基于人工智能的光伏发电短期功率预测技术[D];北京交通大学;2019年
2 张荣葳;基于卷积神经网络与SimHash的网络异常流量检测技术研究[D];中国工程物理研究院;2019年
3 张超利;基于神经网络的河南省空气污染预测研究[D];华北水利水电大学;2019年
4 范汝鑫;基于深度神经网络的个性化商品推荐研究[D];合肥工业大学;2019年
5 贾凯;人工蜂群算法与BP神经网络并行集成学习研究[D];合肥工业大学;2019年
6 黄国维;基于深度学习的城市垃圾桶智能分类研究[D];安徽理工大学;2019年
7 江白华;基于深度学习的人脸识别研究[D];安徽理工大学;2019年
8 侯栋楠;基于深度特征学习的振动状态识别方法[D];华北电力大学;2019年
9 肖炜茗;基于Bernstein多项式和阶梯路径构造的前向插值神经网络及逼近能力[D];天津师范大学;2019年
10 强硕;基于神经网络的电锅炉动态过程建模研究[D];华北电力大学;2019年
中国重要报纸全文数据库 前10条
1 张允硕 姜正义 甄海锋 河南理工大学;[N];科学导报;2019年
2 湖北日报全媒记者 张爱虎 通讯员 徐向军 实习生 于蓝;[N];湖北日报;2019年
3 记者 刘霞;[N];科技日报;2017年
4 整理 本报记者 诸玲珍 顾鸿儒;[N];中国电子报;2018年
5 ;[N];电子报;2018年
6 张敏;[N];北京日报;2017年
7 ;[N];中国企业报;2017年
8 本报记者 龚丹韵;[N];解放日报;2017年
9 ;[N];中国企业报;2017年
10 张斌;[N];文汇报;2017年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978


{bck}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bck体育}| {bckbet}| {bcksports}| {bck官网}| {bck}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bck体育}| {bck}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bck体育}| {bckbet}| {bcksports}| {bck官网}| {bck}| {bck体育下载}| {bck体育}| {bckbet}| {bcksports}| {bck官网}| {bck}| {bck体育下载}| {bck体育app}| {bck体育}| {bckbet}| {bck体育下载}| {bck体育app}| {bck体育}| {bckbet}| {bcksports}| {bck体育下载}| {bckbet}| {bcksports}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bck体育}| {bck官网}| {bck体育下载}| {bckbet}| {bcksports}| {bck官网}| {bck体育app}| {bck体育}| {bcksports}| {bck官网}| {bck体育下载}| {bck体育}| {bckbet}| {bcksports}| {bck官网}| {bck体育}| {bcksports}| {bck官网}| {bck体育官网}| {bck体育下载}| {bck体育}| {bckbet}| {bcksports}| {bck}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bck体育}| {bckbet}| {bck官网}| {bck}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bcksports}| {bck官网}| {bck}| {bck体育官网}| {bcksports}| {bck体育下载}| {bck体育app}| {bckbet}|
{uc8}| {uc8体育}| {uc8官网}| {uc8老虎机}| {UC8娱乐城}| {uc8彩票}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8官网}| {uc8老虎机}| {uc8体育}| {UC体育}| {uc8老虎机}| {uc8老虎机}| {UC8娱乐}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8老虎机}| {uc8彩票}| {uc8}| {uc8体育}| {UC体育}| {uc8官网}| {UC8娱乐}| {UC8娱乐城}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8官网}| {uc8老虎机}| {UC8娱乐}| {UC8娱乐城}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8官网}| {uc8老虎机}| {UC8娱乐}| {UC8娱乐城}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8官网}| {uc8老虎机}| {UC8娱乐}| {uc8彩票}| {uc8}| {uc体育}| {UC体育}| {UC8娱乐城}| {uc8}| {UC体育}| {uc8官网}| {uc8老虎机}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8官网}| {uc8老虎机}| {UC8娱乐}| {UC8娱乐城}|