收藏本站
《上海交通大学》 2009年
收藏 | 手机打开
二维码
手机客户端打开本文

基于实例和特征的迁移学习算法研究

戴文渊  
【摘要】: 传统的机器学习假设训练数据与测试数据服从相同的数据分布。然而,在许多情况下,这种同分布假设并不满足。不满足同分布假设的情况往往发生在训练数据过期,而标注新数据非常昂贵。于是,我们有有了大量的在不同分布下的过期训练数据。完全丢弃这些数据将会是非常浪费的。在这种情况下,迁移学习就变得非常重要了,因为迁移学习可以从现有的数据中迁移知识,用来帮助将来的学习。 迁移学习(Transfer Learning)的目标是将从一个环境中学到的知识用来帮助新环境中的学习任务。因此,迁移学习不会像传统机器学习那样作同分布假设。在本文中,我们将会比较全面的回顾迁移学习的整个领域,并且介绍我们在迁移学习领域的近期研究成果。我们的工作可以分为两部分;基于实例的迁移学习和基于特征的迁移学习。我们将会展示出,基于实例的迁移学习有更强的知识迁移能力,而基于特征的迁移学习具有更广泛的知识迁移能力。这两种方法各有千秋。 我们介绍了两种迁移学习方法,分别基于boosting技术和特征翻译。这两种算法分别对应基于实例的迁移学习和基于特征的迁移学习。我们通过非常全面的实验来证明我们的方法在迁移学习时候能够很大幅度提高很多现有的学习算法,无论是近迁移还是远迁移。
【学位授予单位】:上海交通大学
【学位级别】:硕士
【学位授予年份】:2009
【分类号】:TP301.6

【引证文献】
中国期刊全文数据库 前1条
1 熊忠阳;舒方俊;张玉芳;孔润;;Markov逻辑网在迁移学习中的应用[J];计算机工程;2011年24期
中国博士学位论文全文数据库 前2条
1 孟佳娜;迁移学习在文本分类中的应用研究[D];大连理工大学;2011年
2 张韬政;结构学习中的辅助问题研究[D];北京邮电大学;2011年
中国硕士学位论文全文数据库 前6条
1 方玉成;基于Logistic回归的直推式迁移学习方法研究[D];合肥工业大学;2010年
2 于凤楠;基于多任务学习技术的图像特征提取方法研究[D];南京邮电大学;2012年
3 陆鑫伟;基于迁移学习的雷达辐射源识别研究[D];西安电子科技大学;2012年
4 刘萌;基于特征的归纳式迁移学习方法研究[D];哈尔滨工程大学;2012年
5 吕静;基于实例的迁移学习算法研究[D];山西财经大学;2013年
6 林永锋;基于迁移学习的计算机辅助肺结节检测研究[D];西北大学;2013年
【共引文献】
中国期刊全文数据库 前10条
1 周传华;王清;吴科主;赵保华;;平均1-依赖决策树集成算法[J];电子学报;2010年02期
2 胡学钢;方玉成;张玉红;;基于Logistic回归分析的直推式迁移学习[J];合肥工业大学学报(自然科学版);2010年12期
3 覃姜维;郑启伦;马千里;韦佳;林古立;;多步桥接精化迁移学习[J];华南理工大学学报(自然科学版);2011年05期
4 杨沛;谭琦;丁月华;;一种面向非线性回归的迁移学习模型[J];计算机科学;2009年08期
5 许棣华;王志坚;张艳丽;辛莉;;一种基于相关系数的多层邮件过滤系统[J];计算机应用研究;2010年12期
6 陈鸣;薛慧君;熊赟;朱扬勇;;基于多数据域描述的转录因子结合位点识别[J];计算机应用与软件;2011年06期
7 武威;李航;胡云华;金榕;;A Kernel Approach to Multi-Task Learning with Task-Specific Kernels[J];Journal of Computer Science & Technology;2012年06期
8 Hao SHAO;Feng TAO;Rui XU;;Transfer active learning by querying committee[J];Journal of Zhejiang University-Science C(Computers & Electronics);2014年02期
9 李国正;李丹;;集成学习中特征选择技术[J];上海大学学报(自然科学版);2007年05期
10 许棣华;王志坚;;基于多任务学习的邮件过滤系统的研究[J];计算机技术与发展;2010年10期
中国重要会议论文全文数据库 前1条
1 武进;尹恺;王长明;张家才;;SVDM在蔬菜病害图像分类中的应用[A];图像图形技术与应用进展——第三届图像图形技术与应用学术会议论文集[C];2008年
中国博士学位论文全文数据库 前10条
1 孟佳娜;迁移学习在文本分类中的应用研究[D];大连理工大学;2011年
2 王清;集成学习中若干关键问题的研究[D];复旦大学;2011年
3 覃姜维;迁移学习方法研究及其在跨领域数据分类中的应用[D];华南理工大学;2011年
4 王秀美;隐变量模型的建模与优化[D];西安电子科技大学;2010年
5 刘天羽;基于特征选择技术的集成学习方法及其应用研究[D];上海大学;2007年
6 李斌;概率混合模型的研究及其应用[D];复旦大学;2009年
7 朱真峰;快速增量式分类算法研究[D];复旦大学;2010年
8 陈雪峰;图像高斯混合模型的判别学习方法[D];北京理工大学;2009年
9 贺建军;基于高斯过程模型的机器学习算法研究及应用[D];大连理工大学;2012年
10 吕洪波;机器人智能修磨方法研究[D];清华大学;2011年
中国硕士学位论文全文数据库 前10条
1 朱莹婷;基于迁移学习理论的Markov检索模型[D];江西师范大学;2010年
2 陈原;名词性短语间语义关系的自动分类[D];华东师范大学;2011年
3 刘志州;基于字典学习的超分辨率图像重构[D];西安电子科技大学;2011年
4 高雅;短时交通流预测模型及预测方法的研究[D];华东师范大学;2011年
5 杜俊卫;基于聚类的文本迁移学习算法研究及应用[D];山西财经大学;2011年
6 刘萍;多核正则化算法及相关问题[D];济南大学;2011年
7 吴科主;基于多任务的多层次选择性集成学习的研究[D];安徽工业大学;2010年
8 李文娟;网络舆情倾向性分析技术研究与实现[D];哈尔滨工业大学;2011年
9 殷力昂;一种在深度结构中学习原型的分类方法[D];上海交通大学;2012年
10 陈雨强;图像与文本数据间的异构迁移学习[D];上海交通大学;2012年
【同被引文献】
中国期刊全文数据库 前10条
1 谭咏梅;王小捷;周延泉;钟义信;;使用SVMs进行汉语浅层分析[J];北京邮电大学学报;2008年01期
2 王跃龙;姬东鸿;;汉语树库综述[J];当代语言学;2009年01期
3 张翔,刘媚洁,陈立伟;基于数学形态学的边缘提取方法[J];电子科技大学学报;2002年05期
4 陈万青;张思维;邹小农;;中国肺癌发病死亡的估计和流行趋势研究[J];中国肺癌杂志;2010年05期
5 张韬政;王小捷;仝辉;;交互结构最优化算法中辅助问题的相关性[J];北京邮电大学学报;2011年04期
6 胡学钢;方玉成;张玉红;;基于Logistic回归分析的直推式迁移学习[J];合肥工业大学学报(自然科学版);2010年12期
7 梅灿华;张玉红;胡学钢;李培培;;一种基于最大熵模型的加权归纳迁移学习方法[J];计算机研究与发展;2011年09期
8 徐中一;胡谦;刘磊;;基于CRF的中文组块分析[J];吉林大学学报(理学版);2007年03期
9 王燕霞;邓伟;;基于级连神经网络和SVD的文本分类新模型[J];计算机工程与应用;2010年26期
10 韩妍妍;冯筠;崔鑫;王秋萍;;动态多分类器集成在肺结节辅助检测中的应用[J];计算机工程与应用;2012年02期
中国博士学位论文全文数据库 前4条
1 孟佳娜;迁移学习在文本分类中的应用研究[D];大连理工大学;2011年
2 覃姜维;迁移学习方法研究及其在跨领域数据分类中的应用[D];华南理工大学;2011年
3 车万翔;基于核方法的语义角色标注研究[D];哈尔滨工业大学;2008年
4 陈德品;基于迁移学习的跨领域排序学习算法研究[D];中国科学技术大学;2010年
中国硕士学位论文全文数据库 前9条
1 刘涛;多节点集成算法研究及在入侵检测上的应用[D];西安电子科技大学;2010年
2 王冰玉;集成学习算法的改进及其应用[D];西安电子科技大学;2009年
3 王梦松;RBF神经元网络的研究及其在复杂化学信息处理中的应用[D];浙江大学;2002年
4 王晶;支持向量机及其在癌症诊断中的应用研究[D];东北师范大学;2006年
5 杨辉;基于中值滤波和小波变换的图像去噪研究[D];湖南师范大学;2008年
6 邓舒;中文短信分析及其语言模型研究[D];北京邮电大学;2009年
7 郭浩;低剂量CT孤立肺结节检测方法研究[D];西安电子科技大学;2010年
8 张迪;基于跨领域分类学习的产品评论情感分析[D];上海交通大学;2010年
9 白雪;基于结构学习的语义角色标注[D];北京邮电大学;2010年
【二级引证文献】
中国博士学位论文全文数据库 前1条
1 谭琦;面向跨领域文档分类的异构迁移学习算法研究[D];华南理工大学;2013年
中国硕士学位论文全文数据库 前6条
1 李炜;面向迁移学习的文本特征提取[D];天津大学;2012年
2 杨楠;基于内容的商品图像分类技术研究[D];大连理工大学;2011年
3 马凤闸;基于迁移学习的中文评论情感分类方法研究[D];大连理工大学;2012年
4 孟志鹏;基于Markov逻辑网的问答答案排序方法研究[D];昆明理工大学;2012年
5 陆鑫伟;基于迁移学习的雷达辐射源识别研究[D];西安电子科技大学;2012年
6 李可;文献自动分类的文献交流平台的设计与实现[D];北京化工大学;2013年
【相似文献】
中国期刊全文数据库 前10条
1 赵铭伟,于泽源;基于Java语言的多媒体制作[J];计算机工程;1999年04期
2 乐滨;E-R方法在机械CAD系统分析中的应用[J];水利电力机械;2001年03期
3 曾令赫,李杰,陈卫福,刘红旗;协同设计系统中基于Agent的通讯模型及冲突解决的研究[J];机电产品开发与创新;2003年01期
4 李春梅;王大力;;Excel在土工试验资料整理中的应用[J];黑龙江水利科技;2006年05期
5 刘文魁;石建玲;;用实例举证数控机床故障排除的常见方法[J];现代制造工程;2006年12期
6 姬俊伟;;基于SolidWorks的大型成套装备的快速设计[J];机电设备;2008年02期
7 胡大威;;Oracle 10g数据库创建核心过程解析[J];武汉职业技术学院学报;2008年05期
8 赵岗平;;由传动间隙引起的数控机床故障排除实例[J];设备管理与维修;2010年10期
9 吕延超;;深度探讨计算机科学数据结构中链表的运用思路[J];科技资讯;2010年35期
10 黄昌文;徐皓;余国平;丁金根;宋家兵;;UG/GRIP二次开发入门介绍及其实例[J];模具制造;2011年02期
中国重要会议论文全文数据库 前10条
1 薛薇;李力;;非线性时滞系统的M-FPID控制研究[A];第12届全国电气自动化与电控系统学术年会论文集[C];2004年
2 黎蔚;杨凯鹏;陈家新;冀治航;;一种基于二维直方图的跟踪算法[A];第十届中国科协年会论文集(一)[C];2008年
3 李夕海;赵克;慕晓冬;刘代志;;目标识别中的特征相空间吸引子分析[A];第十届全国信号处理学术年会(CCSP-2001)论文集[C];2001年
4 游伟;周先敏;;基于特征空间的自适应波束形成算法[A];2006北京地区高校研究生学术交流会——通信与信息技术会议论文集(上)[C];2006年
5 李坤;杨华;;利用MODIS数据重庆伏旱动态监测研究[A];中国地理学会百年庆典学术论文摘要集[C];2009年
6 熊凌;;计算机视觉中的图像匹配综述[A];12省区市机械工程学会2006年学术年会湖北省论文集[C];2006年
7 李婧;;改进的特征空间波束形成算法[A];中国通信学会第五届学术年会论文集[C];2008年
8 刘怡光;游健;张建伟;;基于支持向量的多类分类器设计[A];第十三届全国图象图形学学术会议论文集[C];2006年
9 张召;业宁;业巧林;;基于配对约束的核半监督非线性降维算法[A];第五届全国信息检索学术会议论文集[C];2009年
10 刘代志;张斌;李夕海;赵克;;核爆地震模式识别中的特征相空间研究[A];中国地球物理第二十一届年会论文集[C];2005年
中国重要报纸全文数据库 前10条
1 陆应铸;“真实的新闻”怎么出了错?[N];新闻出版报;2000年
2 ;看实例学编程丛书[N];中华读书报;2000年
3 逸兰;实例教育 打动人心[N];中国图书商报;2001年
4 ;个案实例 一目了然[N];中国保险报;2000年
5 阿外;国外灌区 改革实例[N];中国水利报;2002年
6 小欣;辽宁科技社青睐汽车维修实例[N];中国图书商报;2001年
7 李俊恒;投保实例[N];山西日报;2000年
8 吴志攀;法院提供教育功能的几种实例[N];人民法院报;2000年
9 寇怀忠(作者为黄委数字办教授级高工,博士);应用神经网络研究河流水沙运动规律的相关问题[N];黄河报;2006年
10 杨金凤;传统&网络八大商战实例(一)[N];厂长经理日报;2001年
中国博士学位论文全文数据库 前10条
1 庄家俊;面向汽车辅助驾驶的远红外行人检测关键技术研究[D];华南理工大学;2013年
2 陈德品;基于迁移学习的跨领域排序学习算法研究[D];中国科学技术大学;2010年
3 陶剑文;基于统计学习的分类方法及在Web挖掘中的应用研究[D];江南大学;2012年
4 赵峰;基于核方法与累积量随机学习的模式分类研究[D];西安电子科技大学;2008年
5 孟佳娜;迁移学习在文本分类中的应用研究[D];大连理工大学;2011年
6 汪中;面向变化场景的行人分类检测方法研究[D];中国科学技术大学;2011年
7 姚志强;说话人识别中提高GMM性能方法的研究[D];中国科学技术大学;2006年
8 覃姜维;迁移学习方法研究及其在跨领域数据分类中的应用[D];华南理工大学;2011年
9 谭琦;面向跨领域文档分类的异构迁移学习算法研究[D];华南理工大学;2013年
10 邵纪东;非线性过程监测中的数据降维及相关问题研究[D];浙江大学;2010年
中国硕士学位论文全文数据库 前10条
1 戴文渊;基于实例和特征的迁移学习算法研究[D];上海交通大学;2009年
2 刘扬;入侵检测系统中的聚类算法研究[D];大连理工大学;2008年
3 陈雨强;图像与文本数据间的异构迁移学习[D];上海交通大学;2012年
4 汤隆慧;基于跨领域的迁移学习算法研究[D];湖南大学;2011年
5 吕静;基于实例的迁移学习算法研究[D];山西财经大学;2013年
6 毛志杰;数字波束形成算法研究[D];中国人民解放军信息工程大学;2003年
7 杜俊卫;基于聚类的文本迁移学习算法研究及应用[D];山西财经大学;2011年
8 胡薇;基于特征空间的3D目标识别方法研究[D];华中科技大学;2004年
9 梅灿华;基于最大熵模型的迁移学习算法研究[D];合肥工业大学;2011年
10 林好兵;基于迁移学习的中文问句分类方法研究[D];昆明理工大学;2012年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026