收藏本站

面向神经网络中非规则网络层的低功耗多精度计算电路设计

【摘要】:卷积神经网络(Convolutional Neural Network,CNN)具有良好的鲁棒性和容错性,是深度学习(Deep Learning,DL)的重要分支,已广泛应用于图像识别、语音识别和文本处理等领域。由于卷积神经网络存在大量的乘累加运算且数据量大,对硬件功耗和访存带来巨大挑战,传统的硬件设计已无法满足终端设备的低功耗和高性能要求。针对CNN各层的算法特性,满足芯片设计的低功耗多精度需求,本文对基于数模混合的高能效卷积神经网络加速器进行研究。首先,通过对网络中空间复杂度的分析,提出基于剪枝量化处理的卷积神经网络设计。在网络训练过程中,依据各层中不同卷积核绝对值和的大小,通过与预定阈值比较,剪枝掉绝对值和较小的卷积核,对于绝对值和分布不均的卷积层,则可以修剪掉较多的小卷积核而保留高价值的卷积核,以保证网络的精度要求。对于网络中生成的激活值,通过量化操作降低中间数据的位宽。同时,针对卷积层的乘累加运算特点,采用深层可分离卷积运算将标准卷积运算分为深度卷积和逐点卷积两个过程,逐点卷积可看作1×1的卷积运算,并采用模拟乘法器实现。通常情况下,深层可分离卷积运算可以使网络计算量降低约9倍。之后,采用模拟方法实现非规则网络层的运算。基于模拟运算分别设计数模转换和模数转换电路,实现数字量与电压量的相互转换。最后设计系数可调模拟乘法器和模拟加法器实现卷积神经网络的部分乘加运算,采用模拟乘法器可以极大地降低系统功耗且精度损失仅0.57%。本文使用Cadence软件在TSMC28nm工艺下,对数模混合的卷积神经网络加速器进行仿真验证,本文所设计的加速器可以实现5bit~8bit数据位宽计算。结果表明,在主频为100MHz,电路工作在0.9V电压下,数据位宽为7bit时,峰值性能为10.8GOPS,功耗0.43mW,能效为25.1TOPS/W。与主流设计相比,能效提高了14倍。

下载App查看全文

(如何获取全文? 欢迎:、、)

支持CAJ、PDF文件格式


【相似文献】
中国期刊全文数据库 前15条
1 俞汝劼;杨贞;熊惠霖;;基于深度卷积神经网络的航空器检测与识别[J];计算机应用;2017年06期
2 叶利华;王磊;赵利平;;低小慢无人机降落野外场景识别方法[J];计算机应用;2017年07期
3 孟海东;冀小青;宋宇辰;;基于光网络的深度学习算法研究[J];现代电子技术;2017年14期
4 毕林;谢伟;崔君;;基于卷积神经网络的矿工安全帽佩戴识别研究[J];黄金科学技术;2017年04期
5 孙俊;谭文军;毛罕平;武小红;陈勇;汪龙;;基于改进卷积神经网络的多种植物叶片病害识别[J];农业工程学报;2017年19期
6 钱岳;丁效;刘挺;陈毅恒;;聊天机器人中用户出行消费意图识别方法[J];中国科学:信息科学;2017年08期
7 胡悦;;金融市场中的神经网络拐点预测法[J];金融经济;2017年18期
8 宋超;许道云;秦永彬;;分离多路卷积神经网络研究[J];计算机工程;2017年06期
9 蒋承知;于起;叶文强;甘凇元;;卷积神经网络算法的比较探究[J];电子技术与软件工程;2017年07期
10 荣光辉;黄震华;;基于深度学习的问答匹配方法[J];计算机应用;2017年10期
11 郭晓洁;陈良;沈长青;刘承建;;自适应深度卷积神经网络在人脸识别上的应用[J];自动化技术与应用;2017年07期
12 王盛玉;曾碧卿;胡翩翩;;基于卷积神经网络参数优化的中文情感分析[J];计算机工程;2017年08期
13 张国云;向灿群;罗百通;郭龙源;欧先锋;;一种改进的人脸识别CNN结构研究[J];计算机工程与应用;2017年17期
14 王艳娜;孙丙宇;;基于卷积神经网络的烟瘾渴求脑电分类[J];计算机系统应用;2017年06期
15 崔雪红;刘云;王传旭;李辉;;基于卷积神经网络的轮胎缺陷X光图像分类[J];电子测量技术;2017年05期
中国重要会议论文全文数据库 前10条
1 张子腾;梁烨;胡启鹏;张梦隆;陈智慧;;基于迁移卷积神经网络的脑功能连接分类[A];创新发展与情报服务[C];2019年
2 朱利明;路达;陈占毅;李方明;;基于BP-RBF神经网络的深基坑邻近建筑物沉降势预测[A];土木工程新材料、新技术及其工程应用交流会论文集(下册)[C];2019年
3 郝佳恺;赵广怀;高鹏;牛海洋;郝毅;;可变嵌套深度神经网络自动训练方法[A];全国第四届“智能电网”会议论文集[C];2019年
4 徐小天;李敏;孙跃;高冉馨;;深度神经网络的攻击与防御技术研究[A];第三届智能电网会议论文集——智能用电[C];2019年
5 周浩;戴国忠;;基于神经网络的指挥信息系统体系贡献度分析[A];2019第七届中国指挥控制大会论文集[C];2019年
6 孙军田;张喆;;基于神经网络数据挖掘技术确定灾害等级的灭火救援出动力量模型研究[A];2016中国消防协会科学技术年会论文集[C];2016年
7 许进;保铮;;神经网络与图论[A];1999年中国神经网络与信号处理学术会议论文集[C];1999年
8 唐墨;王科俊;;自发展神经网络的混沌特性研究[A];2009年中国智能自动化会议论文集(第七分册)[南京理工大学学报(增刊)][C];2009年
9 张广远;万强;曹海源;田方涛;;基于遗传算法优化神经网络的故障诊断方法研究[A];第十二届全国设备故障诊断学术会议论文集[C];2010年
10 李涛;费树岷;;具有变时滞Cohen-Grossberg神经网络的指数稳定性准则[A];第二十六届中国控制会议论文集[C];2007年
中国博士学位论文全文数据库 前10条
1 肖理业;基于机器学习的电磁场建模与设计研究[D];电子科技大学;2019年
2 陈涵瀛;核电站热工水力系统工况预测与诊断方法研究[D];哈尔滨工程大学;2018年
3 梁智杰;聋哑人手语识别关键技术研究[D];华中师范大学;2019年
4 刘昂;微结构硅基光子学器件性能的研究[D];南京大学;2019年
5 赵博雅;基于卷积神经网络的硬件加速器设计及实现研究[D];哈尔滨工业大学;2018年
6 杜昌顺;面向细分领域的舆情情感分析关键技术研究[D];北京交通大学;2019年
7 陈科海;机器翻译上下文表示方法研究[D];哈尔滨工业大学;2019年
8 饶红霞;信息受限下神经网络的状态估计和拟同步研究[D];广东工业大学;2019年
9 张马路;Spiking机器学习算法研究[D];电子科技大学;2019年
10 付钱华;忆阻神经网络的动力学研究[D];电子科技大学;2019年
中国硕士学位论文全文数据库 前10条
1 郑梦瑶;面向神经网络中非规则网络层的低功耗多精度计算电路设计[D];东南大学;2019年
2 郭田梅;基于卷积神经网络的图像分类算法研究[D];济南大学;2017年
3 裴子龙;基于卷积神经网络的人脸性别识别研究[D];山西师范大学;2017年
4 刘彦宏;基于改进神经网络与主成分分析的综合量化选股策略研究[D];浙江工商大学;2019年
5 胡小南;基于深度学习的长途客车乘客大数据处理及分析研究[D];东北大学;2016年
6 万晶;基于深度神经网络的加密流量分类[D];武汉大学;2019年
7 汤倩;基于Cauchy Born准则和神经网络的应力计算[D];武汉大学;2019年
8 岑忠培;随机金融价格深度学习预测模型与统计分析[D];北京交通大学;2019年
9 蒋鹏;民航繁忙干线机票最低价格预测方法研究[D];北京交通大学;2019年
10 陶然;避免排队回流的城市交通拥堵控制研究[D];上海交通大学;2018年
中国重要报纸全文数据库 前10条
1 张允硕 姜正义 甄海锋 河南理工大学;[N];科学导报;2019年
2 湖北日报全媒记者 张爱虎 通讯员 徐向军 实习生 于蓝;[N];湖北日报;2019年
3 记者 刘霞;[N];科技日报;2017年
4 整理 本报记者 诸玲珍 顾鸿儒;[N];中国电子报;2018年
5 ;[N];电子报;2018年
6 张敏;[N];北京日报;2017年
7 ;[N];中国企业报;2017年
8 本报记者 龚丹韵;[N];解放日报;2017年
9 ;[N];中国企业报;2017年
10 张斌;[N];文汇报;2017年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978


{bck}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bck体育}| {bckbet}| {bcksports}| {bck官网}| {bck}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bck体育}| {bck}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bck体育}| {bckbet}| {bcksports}| {bck官网}| {bck}| {bck体育下载}| {bck体育}| {bckbet}| {bcksports}| {bck官网}| {bck}| {bck体育下载}| {bck体育app}| {bck体育}| {bckbet}| {bck体育下载}| {bck体育app}| {bck体育}| {bckbet}| {bcksports}| {bck体育下载}| {bckbet}| {bcksports}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bck体育}| {bck官网}| {bck体育下载}| {bckbet}| {bcksports}| {bck官网}| {bck体育app}| {bck体育}| {bcksports}| {bck官网}| {bck体育下载}| {bck体育}| {bckbet}| {bcksports}| {bck官网}| {bck体育}| {bcksports}| {bck官网}| {bck体育官网}| {bck体育下载}| {bck体育}| {bckbet}| {bcksports}| {bck}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bck体育}| {bckbet}| {bck官网}| {bck}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bcksports}| {bck官网}| {bck}| {bck体育官网}| {bcksports}| {bck体育下载}| {bck体育app}| {bckbet}|
{uc8}| {uc8体育}| {uc8官网}| {uc8老虎机}| {UC8娱乐城}| {uc8彩票}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8官网}| {uc8老虎机}| {uc8体育}| {UC体育}| {uc8老虎机}| {uc8老虎机}| {UC8娱乐}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8老虎机}| {uc8彩票}| {uc8}| {uc8体育}| {UC体育}| {uc8官网}| {UC8娱乐}| {UC8娱乐城}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8官网}| {uc8老虎机}| {UC8娱乐}| {UC8娱乐城}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8官网}| {uc8老虎机}| {UC8娱乐}| {UC8娱乐城}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8官网}| {uc8老虎机}| {UC8娱乐}| {uc8彩票}| {uc8}| {uc体育}| {UC体育}| {UC8娱乐城}| {uc8}| {UC体育}| {uc8官网}| {uc8老虎机}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8官网}| {uc8老虎机}| {UC8娱乐}| {UC8娱乐城}|