bck

收藏本站

基于深度学习的自然语言语义表征计算方法研究

【摘要】:自然语言处理是人工智能领域的关键技术,其包括自然语言理解和自然语言生成两类基本问题。而解决上述两类问题的首要核心就是获得自然语言的语义表征。自然语言文本的构成层级依次为单词、句子、篇章,其中单词表征的好坏会直接影响后续各级文本表征的质量;语句作为最简单的语义单元序列,其语义表征方法也会被用来处理由多句组成的篇章文本。现阶段,基于深度学习的单词及句子语义表征技术已经取得了积极进展,但仍存在诸多不足。首先,基于分布式语义假设从文本语料中获取的文本语义词向量,其包含的语义信息受制于单一数据来源而缺乏全面性;其次,在面向自然语言理解任务的句子语义表征中,领域内主流使用的循环神经网络无法直接建模句子中的潜在结构信息;再次,在面向自然语言生成任务的句子语义表征中,主流的条件变分自编码器模型在闲聊对话场景下无法有效获取受控于输入对话上文与情感风格的隐变量表征。因此,本文围绕基于深度学习的自然语言语义表征方法,在单词级别和句子级别的语义表征计算方面开展研究,具体包括:首先,研究了结合脑观测数据的单词语义表征方法。通过分析不同模态语义特征的词向量(包括文本语义词向量,视觉语义词向量、初级视觉特征词向量)与脑观测数据的相关性,探索了大脑皮层的语义表征规律,进而确定了文本语义词向量中所包含的语义信息是不充分全面的;进一步提出了结合脑观测数据的语义词向量构建方法,将脑观测数据转换为词对语义相似度不等式,并将此不等式作为约束加入到文本词向量的学习过程中,提升了词向量与人工标注语义数据的相关性。其次,研究了基于潜在结构描述的句子语义表征方法。针对领域内广泛使用的循环神经网络无法直接利用句子中潜在结构信息,而树形递归神经网络依赖外部句法解析器、编码效率低等问题,提出了一种基于潜在结构描述的序列编码器模型。该编码器不依赖任何外部句法解析器,以端到端的方式学习利用句子中潜在的断句结构信息,提升了模型在自然语言推理及情感分类任务上的准确率。再次,研究了基于条件转换变分自编码器的句子语义表征与对话生成方法。针对条件变分自编码器在闲聊对话场景下,输入条件(对话上文)对隐变量表征分布的调控作用受限问题,提出了一种条件转换变分自编码器模型。该模型通过对输入条件及来自条件无关分布的采样进行非线性变换,得到了和对话上文更相关的隐变量表征,提升了闲聊回复生成的流畅度、主题关联度和信息量。最后,研究了基于情感约束变分自编码器的句子语义表征与情感可控对话生成方法。典型的条件变分自编码器无法直接通过对隐变量的采样来实现情感可控的回复生成,而情感风格与语义内容的纠缠性也加大了这一问题的难度。本文提出了一种情感约束的条件变分自编码器模型,该模型假设了隐变量表征是语义信息及情感信息的混合表征,并对隐变量分布引入了相应的情感约束,获得了结构性更强且信息量更丰富的隐变量分布,提升了闲聊回复生成的情感控制与内容表达能力。

下载App查看全文

(如何获取全文? 欢迎:、、)

支持CAJ、PDF文件格式


【相似文献】
中国期刊全文数据库 前11条
1 滕祖伟;周杰华;;基于变分自编码器的异常小区检测[J];移动通信;2020年12期
2 秦佳奇;许源源;;基于变分自编码器的异常负荷检测算法研究[J];电子技术与软件工程;2021年07期
3 翟正利;梁振明;周炜;孙霞;;变分自编码器模型综述[J];计算机工程与应用;2019年03期
4 任朝晖;;转炉系统常用编码器选型及调试[J];科学技术创新;2021年05期
5 刘梦玲;;基于自编码器的影片个性化推荐模型研究[J];长江信息通信;2021年02期
6 肖思宇;吴丁娟;;基于神经网络与模糊理论的模糊自编码器[J];信息技术;2020年04期
7 林涛;赵成林;刘航鹏;赵参参;;基于改进栈式自编码器的风电机组发电机健康评估[J];计算机工程与科学;2020年03期
8 钟昕孜;廖闻剑;;基于自编码器的语音情感识别方法研究[J];电子设计工程;2020年06期
9 田志新;;定位编码器在钢丝绳检测中的应用与研究[J];中国石油和化工标准与质量;2020年03期
10 唐坚;胡鹏;郭星;;一种基于绝对值编码器的压力机装模高度标定方法[J];锻压装备与制造技术;2020年03期
11 张中华;;一种编码器检测维修工作台[J];港口科技;2020年04期
中国重要会议论文全文数据库 前20条
1 白永威;夏加宽;季慧颖;;基于CPLD的编码器抗干扰电路设计与实现[A];第十三届沈阳科学学术年会论文集(理工农医)[C];2016年
2 张磊;夏传浩;洪一;;使用纠错技术的8b/10b编码器设计[A];全国第22届计算机技术与应用学术会议(CACIS·2011)暨全国第3届安全关键技术与应用(SCA·2011)学术会议论文摘要集[C];2011年
3 刘靖;李立;张兴;董文亮;郑利元;;首钢智新连退线编码器故障预警功能开发[A];2019年第二届钢铁工业智能制造发展论坛会议论文集[C];2019年
4 ;堡盟微米级精度绝对值编码器[A];高速铁路与轨道交通(领航版)[C];2015年
5 李博;;编码器在宽厚板中的控制应用[A];中国计量协会冶金分会2015年会论文集[C];2015年
6 ;堡盟最新推出超速开关组合式重载编码器[A];高速铁路与轨道交通(证券版)[C];2016年
7 杨柳;薛方;;形状自适应可扩缩编码器的研究与实现[A];全国第十四届计算机科学及其在仪器仪表中的应用学术交流会论文集[C];2001年
8 郝双晖;刘勇;周春蛟;刘杰;;基于标定原理的单磁极编码器设计[A];2005全国自动化新技术学术交流会论文集(三)[C];2005年
9 陈成;;连铸自动化系统编码器软件设计[A];全国冶金自动化信息网2018年会论文集[C];2018年
10 贺庚贤;;一种高精度编码器的检测方法[A];第九届全国光学测试学术讨论会论文(摘要集)[C];2001年
11 蔡智威;关存太;陈永彬;;一种4KbpsCELP编码器的实现[A];第三届全国人机语音通讯学术会议(NCMMSC1994)论文集[C];1994年
12 郑君民;陶旭牧野;陈默;陈昊;沈桂旭;奚学程;赵万生;;基于编码器-播放器体系的电火花线切割加工数控系统原型[A];第16届全国特种加工学术会议论文集(上)[C];2015年
13 蒋毅飞;李俊;范好好;牟伦刚;;不使用查找表的高速统一8B/10B编码器[A];第十八届计算机工程与工艺年会暨第四届微处理器技术论坛论文集[C];2014年
14 续志军;洪喜;;径向基网络在编码器误差补偿中的应用[A];高精度几何量光电测量与校准技术研讨会论文集[C];2008年
15 刘岩;罗晓军;;绝对型编码器在高炉上料系统中的应用[A];2010年全国炼铁生产技术会议暨炼铁学术年会文集(下)[C];2009年
16 李红;;编码器的功能应用及维护[A];2019中国制浆造纸自动化技术与智能制造研讨会论文集[C];2019年
17 黎世杰;;多圈绝对式编码器的应用原理[A];《IT时代周刊》论文专版(第317期)[C];2015年
18 ;堡盟HOG86E重载编码器 只注重功能[A];《今日轨道交通》创新版2015年01月[C];2015年
19 刘海龙;肖海峰;贺昱曜;;基于正余弦编码器的位置细分技术综述[A];第十八届中国小电机技术研讨会论文集[C];2013年
20 康芳;佟兴嘉;张建亮;;磁性编码器在航空动力燃油系统试验中的应用[A];2012航空试验测试技术学术交流会论文集[C];2012年
中国博士学位论文全文数据库 前9条
1 阮玉平;基于深度学习的自然语言语义表征计算方法研究[D];中国科学技术大学;2020年
2 胡聪;基于自编码器和生成对抗网络的图像识别方法研究[D];江南大学;2019年
3 刘凯;静止图像编码器的实现结构研究[D];西安电子科技大学;2005年
4 朱炳强;高清实时编码器中帧间预测器的关键技术研究[D];清华大学;2010年
5 邱晨;贝叶斯学习算法及其应用研究[D];中国地质大学;2020年
6 周高祥;结合深度自编码器与Landsat时间序列的森林扰动监测方法研究[D];中国地质大学(北京);2020年
7 赵丹;基于自编码器结构的无监督学习算法研究及其应用[D];西安电子科技大学;2020年
8 王莹;Turbo码中几个关键技术研究[D];西安电子科技大学;2006年
9 王征;基于变分学习与推断的概率生成模型研究及应用[D];浙江大学;2019年
中国硕士学位论文全文数据库 前20条
1 田栋文;基于自编码器的图像生成算法研究[D];北方民族大学;2020年
2 迟涵文;绝对式磁编码器的设计[D];杭州电子科技大学;2019年
3 黄姗姗;磁编码器的设计与实现[D];东南大学;2019年
4 李斐然;基于霍尔原理的绝对式磁编码器的研究[D];哈尔滨工业大学;2015年
5 冯立锋;面向高精度伺服系统的磁电式编码器研究[D];哈尔滨工业大学;2014年
6 徐彬;基于FPGA的模拟量编码器接口电路的设计与实现[D];江西科技师范大学;2014年
7 武亭;一种复合式磁编码器的研究[D];哈尔滨工业大学;2011年
8 张荣;容栅编码器研究及其应用[D];同济大学;2007年
9 林立志;基于门自注意力自编码器的图像生成[D];大连理工大学;2020年
10 陈迎阳;基于主动学习和变分自编码器的时间序列异常检测研究[D];哈尔滨工业大学;2020年
11 侯嘉;角度编码器标定技术研究[D];中国计量大学;2019年
12 张智轩;语义认知的文本编码器的研究与实现[D];北京邮电大学;2020年
13 鲁亚平;面向深度网络的自编码器研究[D];苏州大学;2016年
14 薛继卓;新型磁电式多圈绝对编码器设计[D];黑龙江大学;2015年
15 崔建勇;快速稀疏编码器的研究及应用[D];大连理工大学;2014年
16 周雪连;基于FPGA的高分辨率磁编码器研究[D];华南理工大学;2012年
17 张恩勇;数字编码器的智能控制[D];电子科技大学;2004年
18 郑鑫;磁编码器的智能化设计[D];华南师范大学;2004年
19 乔磊磊;基于栈式自编码器神经网络的股价预测[D];华侨大学;2020年
20 徐鲲鹏;基于变分自编码器的多关系网络嵌入研究[D];哈尔滨工业大学;2020年
中国重要报纸全文数据库 前20条
1 本报记者 徐微;[N];长春日报;2019年
2 MEB记者 张兰;[N];机电商报;2017年
3 本报记者 李文洁;[N];东莞日报;2014年
4 本报记者 丹璐;[N];中国电子报;2014年
5 贺顺华;[N];中国纺织报;2009年
6 中国工业报记者 王斌;[N];中国工业报;2019年
7 记者 谢晓燕 通讯员 卢达 李院红;[N];邢台日报;2013年
8 任可;[N];科技日报;2009年
9 陈运发;[N];机电商报;2009年
10 ;[N];今日信息报;2004年
11 成都 陈宏城;[N];电子报;2011年
12 ;[N];中国包装报;2004年
13 本报记者 张琳婉;[N];长春日报;2018年
14 人行吉林中心支行科技处 刘志明;[N];中国计算机报;2001年
15 本报记者 刘屹辰 通讯员 邓旭;[N];威海日报;2020年
16 江西 廖勇;[N];电子报;2001年
17 记者 吕海清通讯员 薛红 王楠;[N];中国石油报;2007年
18 成都 陈宏城;[N];电子报;2011年
19 本报通讯员 陈树清 朱一知 周铭;[N];中国冶金报;2016年
20 ;[N];网络世界;2006年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978


{bck}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bck体育}| {bckbet}| {bcksports}| {bck官网}| {bck}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bck体育}| {bck}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bck体育}| {bckbet}| {bcksports}| {bck官网}| {bck}| {bck体育下载}| {bck体育}| {bckbet}| {bcksports}| {bck官网}| {bck}| {bck体育下载}| {bck体育app}| {bck体育}| {bckbet}| {bck体育下载}| {bck体育app}| {bck体育}| {bckbet}| {bcksports}| {bck体育下载}| {bckbet}| {bcksports}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bck体育}| {bck官网}| {bck体育下载}| {bckbet}| {bcksports}| {bck官网}| {bck体育app}| {bck体育}| {bcksports}| {bck官网}| {bck体育下载}| {bck体育}| {bckbet}| {bcksports}| {bck官网}| {bck体育}| {bcksports}| {bck官网}| {bck体育官网}| {bck体育下载}| {bck体育}| {bckbet}| {bcksports}| {bck}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bck体育}| {bckbet}| {bck官网}| {bck}| {bck体育官网}| {bck体育下载}| {bck体育app}| {bcksports}| {bck官网}| {bck}| {bck体育官网}| {bcksports}| {bck体育下载}| {bck体育app}| {bckbet}|
{uc8}| {uc8体育}| {uc8官网}| {uc8老虎机}| {UC8娱乐城}| {uc8彩票}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8官网}| {uc8老虎机}| {uc8体育}| {UC体育}| {uc8老虎机}| {uc8老虎机}| {UC8娱乐}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8老虎机}| {uc8彩票}| {uc8}| {uc8体育}| {UC体育}| {uc8官网}| {UC8娱乐}| {UC8娱乐城}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8官网}| {uc8老虎机}| {UC8娱乐}| {UC8娱乐城}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8官网}| {uc8老虎机}| {UC8娱乐}| {UC8娱乐城}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8官网}| {uc8老虎机}| {UC8娱乐}| {uc8彩票}| {uc8}| {uc体育}| {UC体育}| {UC8娱乐城}| {uc8}| {UC体育}| {uc8官网}| {uc8老虎机}| {uc8}| {uc体育}| {uc8体育}| {UC体育}| {uc8官网}| {uc8老虎机}| {UC8娱乐}| {UC8娱乐城}|