收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

语言层先验知识对若干自然语言处理任务中神经网络模型的影响研究

贝超  
【摘要】:随着互联网的发展以及计算机硬件的更新,神经网络模型在最近几年发展迅速,已经被广泛应用于图像识别、语音识别等领域,并且应用已经较为成熟。在自然语言处理领域中,神经网络同样也是前沿热点。在此之前,自然语言处理任务大多对自然语言处理方面的知识要求较高,尤其是使用规则的方法,其要求更加高。而基于统计的自然语言处理方法虽然不需要像基于规则的方法对于研究者有较高的语言学要求,但仍然需要具备自然语言处理的各种知识。但在使用神经网络模型处理自然语言处理任务时,并不需要很多自然语言处理各种任务的知识。而是首先使用词向量来表示所输入的文本,再使用神经网络模型提取文本中的特征来完成自然语言处理任务,这只需了解神经网络的知识即可完成大部分自然语言处理的任务。然而,使用神经网络模型处理这些问题时虽然可以适应于各种任务,但是其效果很难超过传统方法,使用神经网络这种模型的原因更多的是在于其简单易用,但其效果只是接近或者达到传统方法。其部分原因很可能是在神经网络模型中加入先验知识还比较少,直接从文本提取特征并未达到预期效果。因此本研究探究语言层先验知识对使用神经网络模型的自然语言处理任务的影响。对于不同任务,我们比较不同先验知识以及不同的先验知识输入位置(不同的先验知识输入位置主要针对机器翻译任务)对于神经网络模型的影响。我们在自然语言处理基本任务、文本分类和机器翻译三类任务上进行了实验。比较发现,在部分任务上,不同的先验知识对于不同的神经网络模型的影响是不同的。同时,在部分任务上使用合适的神经网络模型,加入恰当的先验知识,可以加快模型收敛,提高模型效果。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 贝超;胡珀;;语言先验知识对神经网络模型自然语言处理任务的影响[J];中文信息学报;2017年06期
2 涂文博;袁贞明;俞凯;;针对文本分类的神经网络模型[J];计算机系统应用;2019年07期
3 方明之;;自然语言处理技术发展与未来[J];科技传播;2019年06期
4 高源;;自然语言处理发展与应用概述[J];中国新通信;2019年02期
5 赵京胜;宋梦雪;高祥;;自然语言处理发展及应用综述[J];信息技术与信息化;2019年07期
6 柏艺珊;黄展原;;自然语言处理中半监督算法的应用[J];电子技术与软件工程;2017年02期
7 杨明川;胡婕;杨哲超;;基于自然语言处理和图计算的情报分析研究[J];电信技术;2017年06期
8 姜倩盼;;自然语言处理的挑战与未来[J];信息与电脑(理论版);2013年07期
9 ;第二届全国少数民族青年自然语言处理学术研讨会召开[J];模式识别与人工智能;2008年05期
10 孙茂松;;应用自然语言处理技术解决真实世界问题[J];国际学术动态;1998年02期
11 宋一凡;;自然语言处理的发展历史与现状[J];中国高新科技;2019年03期
12 路啸秋;;智能客服自然语言处理的方法研究[J];计算机产品与流通;2019年05期
13 崔运鹏;王健;刘娟;;基于深度学习的自然语言处理技术的发展及其在农业领域的应用[J];农业大数据学报;2019年01期
14 加日拉·买买提热衣木;常芙蓉;刘晨;杨礼;;基于自然语言处理的主题模型及其发展分析[J];信息与电脑(理论版);2017年24期
15 宋杰;章洁;高远;皮红英;;护理不良事件非结构上报内容的自然语言处理及效果比较[J];护理学报;2018年03期
16 林伊洋;;浅析自然语言处理技术的重要性[J];数字通信世界;2018年02期
17 ;第十五届全国自然语言处理青年学者研讨会在南京成功举行[J];中文信息学报;2018年05期
18 张永奎;;聚类分析在自然语言处理中的应用[J];情报学报;1993年05期
19 王飞;陈立;易绵竹;谭新;张兴华;;新技术驱动的自然语言处理进展[J];武汉大学学报(工学版);2018年08期
20 刘韫赫;吕凝;徐昊;;自然语言处理技术简述及在矿冶领域的应用展望[J];金属世界;2018年05期
中国重要会议论文全文数据库 前10条
1 ;哈尔滨工业大学智能技术与自然语言处理研究室简介[A];中国中文信息学会第六次全国会员代表大会暨成立二十五周年学术会议中文信息处理重大成果汇报展资料汇编[C];2006年
2 徐超;毕玉德;;面向自然语言处理的韩国语隐喻知识库构建研究[A];中国计算语言学研究前沿进展(2009-2011)[C];2011年
3 李文;程华良;彭耀;温明杰;肖威清;张陈斌;陈宗海;;自然语言处理云平台[A];系统仿真技术及其应用学术论文集(第15卷)[C];2014年
4 李生;;哈工大自然语言处理研究进展[A];语言计算与基于内容的文本处理——全国第七届计算语言学联合学术会议论文集[C];2003年
5 冯志伟;;自然语言处理中的理性主义和经验主义[A];民族语言文字信息技术研究——第十一届全国民族语言文字信息学术研讨会论文集[C];2007年
6 徐翼龙;李文法;周纯洁;;基于深度学习的自然语言处理综述[A];中国计算机用户协会网络应用分会2018年第二十二届网络新技术与应用年会论文集[C];2018年
7 ;SWCL-2006组织机构[A];第三届学生计算语言学研讨会论文集[C];2006年
8 李丽;冯志伟;;框架网络的理解和构建[A];内容计算的研究与应用前沿——第九届全国计算语言学学术会议论文集[C];2007年
9 徐进;;俄语军事缩略语知识库的构建[A];第五届全国青年计算语言学研讨会论文集[C];2010年
10 谭斌;;指代消解的原理和实现方法[A];2008'中国信息技术与应用学术论坛论文集(二)[C];2008年
中国博士学位论文全文数据库 前10条
1 李良炎;基于词联接的自然语言处理技术及其应用研究[D];重庆大学;2004年
2 周雅倩;最大熵方法及其在自然语言处理中的应用[D];复旦大学;2005年
3 易勇;计算机辅助诗词创作中的风格辨析及联语应对研究[D];重庆大学;2005年
4 王燚;基于场景化知识表示的自然语言处理及其在自动文本校对中的应用[D];西南交通大学;2005年
5 王智强;汉语指代消解及相关技术研究[D];北京邮电大学;2006年
6 王斌;汉英双语语料库自动对齐研究[D];中国科学院研究生院(计算技术研究所);1999年
7 鲁松;自然语言处理中词相关性知识无导获取和均衡分类器构建[D];中国科学院研究生院(计算技术研究所);2001年
8 李晗静;基于自然语言处理的空间概念建模研究[D];哈尔滨工业大学;2007年
9 郭江;基于分布表示的跨语言跨任务自然语言分析[D];哈尔滨工业大学;2017年
10 张国校;基于深层神经网络模型的浅层语义解析统计研究[D];暨南大学;2017年
中国硕士学位论文全文数据库 前10条
1 贝超;语言层先验知识对若干自然语言处理任务中神经网络模型的影响研究[D];华中师范大学;2017年
2 黄晓洁;自然语言处理技术在对外汉语教学中的应用研究[D];中国人民解放军外国语学院;2007年
3 方文静;基于解析序列的高阶非投影依存分析器[D];上海交通大学;2017年
4 郝云飞;基于自然语言处理的互联网舆情高危信息处理模块的研究[D];内蒙古大学;2019年
5 焦点;面向多任务的句嵌入方法研究[D];北京邮电大学;2019年
6 庞晨曦;句子向量化建模及文本级应用[D];上海交通大学;2017年
7 李璜;汉英神经机器翻译模型时态翻译改进研究[D];厦门大学;2018年
8 符磊;基于文本分类的信息解析研究[D];安徽大学;2019年
9 张桐喆;基于社交媒体的股票预测模型[D];天津大学;2018年
10 刘磊;《自然语言处理综论》(节选)翻译实践报告[D];郑州大学;2019年
中国重要报纸全文数据库 前10条
1 王培 美国天普大学计算机与信息科学系;机器翻译会迫使翻译们全失业吗?[N];北京科技报;2016年
2 本报记者 刘峣;人工智能创造新闻新玩法[N];人民日报海外版;2016年
3 北京商报记者 姜红;人工智能:市场前夜的秀场[N];北京商报;2017年
4 归欣;无需为“二代狗”惊慌失措[N];河南日报;2017年
5 本报记者 张盖伦;小心,聊天机器人也会被“教坏”[N];科技日报;2017年
6 本报记者 马爱平;机器人能成为“闺蜜”吗?[N];科技日报;2017年
7 陈宗周;重建巴别塔[N];电脑报;2017年
8 记者 李思;企业纷纷抢先机[N];上海金融报;2017年
9 赛迪顾问人工智能行业分析师 向阳;2017年人工智能产业发展分析与预测[N];中国信息化周报;2017年
10 赛迪顾问人工智能行业分析师 向阳;人工智能未来三年将迎新机遇点[N];中国计算机报;2017年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978