收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

基于多潜在空间的迁移学习算法研究

潘剑寒  
【摘要】:传统机器学习方法要求训练数据与测试数据具有相同的特征空间和特征分布。然而,在许多实际应用领域,这一条件往往很难满足。因此,利用已有领域所获得的信息和知识解决新领域问题的迁移学习方法近几年得到了更多的关注和研究。在这一类跨领域问题求解任务中,针对领域间具有潜在分布差异的问题,采用基于潜在空间的迁移学习方法具有较好的分类效果。此类方法构建单一的共享潜在特征空间,并使不同领域在此空间上满足分布一致。然而,当领域间的分布差异较大时,基于单一共享潜在空间的迁移学习方法难以有效地获取和利用领域间的潜在信息。为此,通过构建多潜在空间训练出适应性更强的跨领域学习模型具有重要的研究和应用价值。本文对迁移学习中多潜在空间的方法进行了研究,并提出了几种基于多潜在空间的迁移学习算法。主要研究工作如下:(1)提出一个能够在共享与非共享潜在空间中同时学习四种高层概念的四重迁移学习方法。本项研究基于如下几个出发点:首先,由于领域特有潜在信息有助于迁移学习模型的训练,且特有潜在信息大多通过构建特有潜在空间获得。因此,基于单一共享潜在空间的迁移学习方法难以有效地获取和利用特有潜在信息。其次,由于多义概念能够提高跨领域的学习能力,以往忽略多义概念的迁移学习方法难以适应多种不同的分布情况。针对以上问题,通过引入多义概念,四重迁移学习方法对包括多义概念在内的四种高层概念进行形式化,并创建共享和非共享的潜在空间。然后在共享和非共享的潜在空间上同时学习对应的高层概念。在此基础上,提出具有收敛性的算法QTL以实现优化问题。实验结果表明:QTL优于其他的对比方法,并有效的避免了负迁移的发生。(2)提出一个能够学习多个共享潜在空间上共享概念的多桥接迁移学习方法。由于单一共享潜在空间中的共享潜在信息仅是领域间所有共享潜在信息的一部分,因此,基于单一共享潜在空间的迁移学习方法难以有效地获取和利用共享潜在信息。针对这一问题,多桥接迁移学习方法在共现原始特征空间上创建多个不同的共享潜在特征空间,并在每个共享潜在空间上学习相应的高层概念以满足其分布一致。在此基础上,提出算法MBTL以实现优化问题。实验结果表明:MBTL在主题分类和情感分类任务上都优于其他的对比方法,并具有收敛性。(3)提出一个能够同时学习多个共享潜在空间上共享概念以及多个非共享(特有)潜在空间上非共享(特有)概念的多重迁移学习方法。针对基于单一共享潜在空间的迁移学习方法难以有效地获取和利用共享潜在信息和非共享潜在信息,多重迁移学习方法在共现原始特征空间上创建了共享潜在空间,在每个领域的原始特征空间上创建了非共享潜在空间,并将共享与非共享潜在空间组成一个潜在空间组。然后,创建多个不同的潜在空间组,并通过学习相应的各类高层概念以满足各组潜在空间的分布。在此基础上,提出算法MLTL以实现优化问题。实验结果表明:MLTL在跨领域文本分类任务上性能优异,并具有收敛性。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 李秀英;;网络环境下学生学习的特点[J];教师;2009年04期
2 夏定海,黄智英;教会学习 学会学习 终身学习[J];发明与革新;2000年06期
3 黄启兵;汪芳;;论网络时代学习与创新的统一[J];教学研究;2002年03期
4 陈相安;把档案部门建成学习型组织[J];中国档案;2003年09期
5 顾新,蔡兵,李久平;学习与学习型社会[J];软科学;2004年02期
6 郑军;试论编辑的学习特征[J];中国编辑;2005年06期
7 邱晓荣,孔一童;试论网络环境中的合作学习[J];当代教育论坛;2005年02期
8 冷平,王仁蓉,刁永锋;网络学习的成功要素探析[J];教育信息化;2005年03期
9 张建光;朱秀娥;张笑双;;网络学习社区的特征和构建[J];中国教育技术装备;2006年03期
10 徐晓涌;;创建学习型企业莫入误区[J];中国邮政;2006年02期
11 杜艳霞;;浅析网络环境下研究性学习的利与弊[J];沧州师范专科学校学报;2008年02期
12 刘锡铃;;网络学习对大学生的影响[J];民营科技;2008年10期
13 卢玉奎;李建昌;张艮山;;基于网络的协作学习过程中的问题及对策研究[J];才智;2009年08期
14 丁念金;;学习过程自主评价的基本思路[J];教育发展研究;2011年02期
15 马志方;;一种类推学习法[J];计算机研究与发展;1990年09期
16 宋树生;;在线学习──利用计算机网络进行学习的新方式[J];中国电化教育;1997年06期
17 肖川;《学习的革命》引发的反思[J];中小学管理;1999年05期
18 牟艳娜;卢秋红;郑小军;唐晓勇;江梅;李双君;邱细浪;包士娟;;话题:如何构筑健康的网络学习生态[J];中小学信息技术教育;2014年06期
19 何玲,黎加厚;促进学生深度学习[J];现代教学;2005年05期
20 梁军妮;冯秀琪;;网络环境下的研究性学习[J];中小学电教;2006年04期
中国重要会议论文全文数据库 前10条
1 韩文;;让合作学习在逆境中重生[A];中华教育理论与实践科研论文成果选编(第2卷)[C];2010年
2 吕启春;;浅谈小学数学中的小组合作学习[A];2014年1月现代教育教学探索学术交流会论文集[C];2014年
3 杜俊娟;;用学习动机培养策略课题的学习对体育教师进行研究性学习培养的实验研究[A];第七届全国体育科学大会论文摘要汇编(一)[C];2004年
4 瞿春波;;浅议合作学习之误区[A];校园文学编辑部写作教学年会论文集[C];2007年
5 时龙;;把握分析学情是改进教学和促进学习的基础[A];2012·学术前沿论丛——科学发展:深化改革与改善民生(下)[C];2012年
6 韦彩红;;如何组织学生共享学习成果[A];中华教育理论与实践科研论文成果选编(第2卷)[C];2010年
7 格保耿;;培养学生学习物理的兴趣[A];2014年5月现代教育教学探索学术交流会论文集[C];2014年
8 钮荣荣;;关于小学数学教学中小组合作学习的几点思考[A];2014年6月现代教育教学探索学术交流会论文集[C];2014年
9 陈妙;;让数学课堂效率得到真正的提高——浅谈新课改下学生学习兴趣的培养[A];中华教育理论与实践科研论文成果选编(第3卷)[C];2010年
10 黄春妙;;浅谈语文课堂合作学习的有效把握[A];中华教育理论与实践科研论文成果选编(第3卷)[C];2010年
中国博士学位论文全文数据库 前10条
1 徐峰;基于社会网络的大学生学习网络结构研究[D];江西财经大学;2014年
2 付亦宁;本科生深层学习过程及其教学策略研究[D];苏州大学;2014年
3 张钰旻;中枢代谢性学习记忆与系统代谢平衡[D];吉林大学;2015年
4 冯子勇;基于深度学习的图像特征学习和分类方法的研究及应用[D];华南理工大学;2016年
5 王星;关系分类模型的学习界限与应用[D];哈尔滨工业大学;2015年
6 潘剑寒;基于多潜在空间的迁移学习算法研究[D];合肥工业大学;2016年
7 杨南昌;学习科学视域中的设计研究[D];华东师范大学;2008年
8 薛晶晶;美国和泰国学习者汉语普通话阳平与上声习得的实验研究[D];北京大学;2013年
9 刘玉静;合作学习的伦理审思[D];山东师范大学;2006年
10 姚德明;终身学习与组织学习和组织发展的关系研究[D];华中科技大学;2005年
中国硕士学位论文全文数据库 前10条
1 王以宣;感知教师支持、基本心理需要满足与初中学生英语学习倦怠的关系[D];上海师范大学;2015年
2 李荣敬;不同情绪状态对学习判断的影响[D];河北师范大学;2015年
3 李兰翠;M00C学习平台的应用研究[D];上海师范大学;2015年
4 孙航;农民工随迁子女学习生态研究[D];上海师范大学;2015年
5 左扬扬;碎片化时代下企业微课程设计与应用[D];上海师范大学;2015年
6 戚政霞;基于翻转课堂的小学语文教学设计研究[D];上海师范大学;2015年
7 苏治芳;小学中高年级“微课题式”语文学习的实践研究[D];上海师范大学;2015年
8 张华;提高中职生语文课堂学习动力的策略研究[D];上海师范大学;2015年
9 强敏;“学困生”的现状调查与教育转化途径研究[D];宁夏师范学院;2015年
10 谢平;对初中学困生学习素质提高的情感教育研究[D];河北大学;2014年
中国重要报纸全文数据库 前10条
1 农行浙江东阳支行 吴新国 周龙飞;银行如何创建学习型组织[N];上海金融报;2003年
2 西北师范大学 李瑾瑜;校长:如何引领和促进教师学习[N];中国教育报;2008年
3 永寿县店头中学 刘俊锋;大力提倡合作学习 全面促进有效教学[N];咸阳日报;2009年
4 本报评论员;要在真学习上下功夫[N];酒泉日报;2009年
5 本报记者 李天然;学习应该是一种终身行为[N];大连日报;2010年
6 刘继芳;浅议建设学习型党组织中的“学习”内涵[N];伊犁日报(汉);2010年
7 哈尔滨市第五医院 蒙硕;浅谈医院创建学习型党组织[N];黑龙江日报;2010年
8 翟爱霞;浅谈如何深入推进学习型党组织建设[N];太行日报;2011年
9 李振 上海交通大学国际与公共事务学院;制度变迁中的制度学习[N];中国社会科学报;2012年
10 重庆市教育评估院院长、中国高等教育学会学习科学研究分会常务副会长 龚春燕;实施新学习,建设学习型社会[N];中国教育报;2013年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978