收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

迁移学习在文本分类中的应用研究

孟佳娜  
【摘要】:迁移学习方法是一种新的机器学习框架,它不同于传统的监督学习、无监督学习和半监督学习,该方法通过将某一源领域的标注数据样本和目标领域的未标注样本或少量的标注样本中学习到一个紧凑的、有效的表示,然后将学习到的特征表示方法应用到目标领域中。迁移学习没有像传统的机器学习那样要求训练数据与测试数据必需服从相同的分布,因此,迁移学习能够有效地在相似的领域或任务之间进行信息的共享和迁移。目前,迁移学习逐渐成为信息检索、文本挖掘和自然语言处理的热点话题,引起学术界和企业界的高度重视。 本文以文本分类为研究背景,以迁移学习为研究内容,围绕文本分类面临的主要挑战,重点关注具体应用中不同的迁移信息和方法,展开了对迁移学习模式下的特征和样本重构方法的研究,并提出了几种适用于迁移学习的文本分类方法。主要研究成果包括: 1.提出一种基于特征映射的迁移学习方法。特征和样本是文本分类的两个重要方面,综合考虑这两种因素是非常重要的。本文提出的方法结合了基于特征和基于样本两种迁移学习方法。首先,该方法构建两个领域的公共特征子空间,通过基于互信息的方法得到公共特征中与测试集的主题因子最相关的特征,然后,在新的特征子空间下学习一个新的特征映射函数,通过构建的特征映射函数来对源领域和目标领域的数据重新赋权重,通过使用基于样本的方法完成了知识的迁移,从而降低了具有不同分布的数据之间的距离。实验中使用了为符合迁移学习要求所构造的三个文本分类的语料,实验结果显著的超过了一些传统的监督分类方法,从而验证了算法的有效性。 2.提出一种自适应迁移学习方法。该方法以奇异值分解为基础,计算了目标领域的特有特征和公共特征之间的相似度,根据特征之间的相似度值对训练集和测试集的数据进行重构,通过建立的新的训练模型,给测试集数据一个预测的标签,并自适应的选择目标领域的合适的样本加入到原有的训练集中,从而解决了原有的训练集的数据偏置问题。本文将该方法应用到欧洲机器学习/数据挖掘竞赛ECML/PKDD 2006 Discovery Challenge语料库中,取得了较好的实验结果,也验证了该方法的有效性。 3.提出一种基于图的迁移学习方法。基于图的方法具有谱图理论下的很好的性质,图方法种类很多,其中PageRank算法是一种被广泛使用的方法,这种排序策略已经被扩展到很多领域。本文以PageRank算法的思想为基本框架,通过使用源领域和目标领域的数据建构一个融合的图模型。源领域的数据可以用来取得目标领域数据的伪标签,目标领域的数据可以用来更新标签,同时在迭代计算中保留了上一次预测的标签信息,当算法收敛时,目标领域数据的预测标签为最终的结果。理论上,文中给出了算法收敛的证明,并且进行了模拟实验。实验中使用了Web文本分类、文本倾向性分析和垃圾邮件过滤的相关迁移学习语料,与监督和半监督方法相比,实验结果有显著的改善,也证明了该算法的有效性和普适性。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 陈文亮,朱慕华,朱靖波,姚天顺;基于Bootstrapping的文本分类模型[J];中文信息学报;2005年02期
2 崔彩霞;;停用词的选取对文本分类效果的影响研究[J];太原师范学院学报(自然科学版);2008年04期
3 王鹏;樊兴华;;中文文本分类中利用依存关系的实验研究[J];计算机工程与应用;2010年03期
4 代六玲,黄河燕,陈肇雄;一种用于文本分类的语义SVM及其在线学习算法[J];计算机工程与应用;2004年36期
5 谭建龙;张吉;郭莉;;基于通用后缀树模型的垃圾邮件过滤方法[J];计算机工程;2007年09期
6 林永民;朱卫东;;模糊kNN在文本分类中的应用研究[J];计算机应用与软件;2008年09期
7 许增福,梁静国,田晓宇;基于FVSM和自组织映射网络的Web文本自动分类方法[J];哈尔滨工业大学学报;2004年09期
8 郑海,林鸿飞;基于段落匹配的文本分类机制[J];计算机工程与应用;2004年28期
9 王丁,运海红,张辉;文本自动分类系统的研究与实现[J];信息技术;2005年03期
10 杜志文;曾文华;;网格计算在文本分类中的应用[J];微电子学与计算机;2006年S1期
11 崔彩霞;王素格;;基于粗集的支持向量机文本分类方法研究[J];科技广场;2006年08期
12 马忠宝;刘冠蓉;;基于支持向量机的中文文本分类模型研究[J];计算机技术与发展;2006年11期
13 张燕;寒枫;楚红涛;;文本挖掘简述[J];中国电力教育;2006年S3期
14 祝晓鲁;白振兴;贾海燕;;自动文本分类技术研究[J];现代电子技术;2007年03期
15 张桂芸;刘洋;王元元;;基于模糊认知图的文本分类推理算法[J];计算机工程与应用;2007年12期
16 陈莲娜;姚伏天;;用于文本分类的多核SVM算法研究[J];计算机工程;2007年09期
17 王倩倩;段震;张燕平;;基于交叉覆盖算法的文本分类[J];计算机技术与发展;2007年06期
18 巩知乐;张德贤;;文本挖掘理论概述[J];福建电脑;2008年09期
19 张春红;;文本分类技术应用于学科导航分类的可行性探讨[J];情报科学;2009年07期
20 王树梅,戴保存,吴慧中,王飞;文本分类的字典生成[J];南京理工大学学报(自然科学版);2002年05期
中国重要会议论文全文数据库 前10条
1 杜长海;吉根林;;模糊聚类的最大树法在文本分类中的应用研究[A];第二十二届中国数据库学术会议论文集(研究报告篇)[C];2005年
2 陈克利;宗成庆;王霞;;基于大规模真实文本的平衡语料分析与文本分类方法[A];语言计算与基于内容的文本处理——全国第七届计算语言学联合学术会议论文集[C];2003年
3 刘秉权;李博;孙林;王宝勋;刘远超;;标签特征和正文特征融合的SVM博客文本分类算法研究[A];第六届全国信息检索学术会议论文集[C];2010年
4 朱慕华;陈文亮;朱靖波;;词聚类在文本分类中的应用[A];第二届全国学生计算语言学研讨会论文集[C];2004年
5 海丽且木·艾沙;维尼拉·木沙江;;Web文本分类及其维、哈、柯多文种信息检索中的应用研究[A];少数民族青年自然语言处理技术研究与进展——第三届全国少数民族青年自然语言信息处理、第二届全国多语言知识库建设联合学术研讨会论文集[C];2010年
6 商炳章;白清源;;基于特征项权重改进的关联文本分类[A];第二十五届中国数据库学术会议论文集(二)[C];2008年
7 胡俊;黄厚宽;;一种基于SVM的可视化文本分类的方法[A];第二十一届中国数据库学术会议论文集(技术报告篇)[C];2004年
8 贾会强;刘晓丽;于洪志;;基于词性特征提取的藏文文本分类方法研究[A];CCF NCSC 2011——第二届中国计算机学会服务计算学术会议论文集[C];2011年
9 王小华;陆蓓;张国煊;;文本自动分类的模糊方法[A];自然语言理解与机器翻译——全国第六届计算语言学联合学术会议论文集[C];2001年
10 庞剑锋;程学旗;;反馈方法在文本分类系统中的应用[A];自然语言理解与机器翻译——全国第六届计算语言学联合学术会议论文集[C];2001年
中国博士学位论文全文数据库 前10条
1 孟佳娜;迁移学习在文本分类中的应用研究[D];大连理工大学;2011年
2 刘伍颖;面向垃圾信息过滤的主动多域学习文本分类方法研究[D];国防科学技术大学;2011年
3 章舜仲;文本分类中词共现关系的研究及其应用[D];南京理工大学;2010年
4 廖一星;文本分类及其特征降维研究[D];浙江大学;2012年
5 郑文斌;基于正则化线性统计模型的文本分类研究[D];浙江大学;2012年
6 李智星;用于文本分类的简明语义分析技术研究[D];重庆大学;2011年
7 李自强;大规模文本分类的若干问题研究[D];电子科技大学;2013年
8 王博;文本分类中特征选择技术的研究[D];国防科学技术大学;2009年
9 平源;基于支持向量机的聚类及文本分类研究[D];北京邮电大学;2012年
10 冯国忠;文本分类中的贝叶斯特征选择[D];东北师范大学;2011年
中国硕士学位论文全文数据库 前10条
1 郭明;基于文本分类技术的文本情感倾向性研究[D];郑州大学;2010年
2 苏小康;基于维基百科构建语义知识库及其在文本分类领域的应用研究[D];华中师范大学;2010年
3 郭志毅;基于EM算法的半监督文本分类方法研究[D];重庆邮电大学;2010年
4 张彪;文本分类中特征选择算法的分析与研究[D];中国科学技术大学;2010年
5 张保富;基于粗糙集的中文文本分类算法研究及应用[D];江苏大学;2010年
6 蒋健;文本分类中特征提取和特征加权方法研究[D];重庆大学;2010年
7 闫晨;KNN文本分类研究[D];燕山大学;2010年
8 李璇;基于坐标下降法的半监督学习算法及其在文本分类中的应用[D];华南理工大学;2010年
9 宋志理;基于LDA模型的文本分类研究[D];西安理工大学;2010年
10 段江丽;基于SVM的文本分类系统中特征选择与权重计算算法的研究[D];太原理工大学;2011年
中国重要报纸全文数据库 前10条
1 通讯员 黄慧文;吉隆全体党员开展“比学促学”活动[N];日喀则报;2008年
2 冀灵渊 朔城区四中;为学生创设快乐的学习情境[N];朔州日报;2010年
3 民乐县逸夫小学 宋晓华;用爱心培养学生主动学习的兴趣[N];张掖日报;2005年
4 姜堰市东桥中心小学 杨爱军;在课文课堂中渗透心理教育[N];成才导报.教育周刊;2005年
5 师炜;西安学习经验可全省推广[N];西安日报;2003年
6 山东省临沭县白旄中学 张秀伟;如何培养中学生学习历史的习惯[N];学知报;2011年
7 本报记者 靳晓燕;哦,学习是能倒着来的[N];光明日报;2011年
8 郭佳 编译;21世纪的学习什么样[N];中国教师报;2011年
9 李林 余承武;努力把基层学习抓实抓深[N];战士报;2011年
10 河北省邯郸县第6中学 王建彬;学习着,并快乐着[N];学知报;2011年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978