收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

基于KL距离的半监督分类算法

许震  
【摘要】: 随着网络、医学等技术的发展,每时每刻都会产生大量的数据,为了储存和管理数据,还需要耗费大量的人力和物力。在这种背景下,数据挖掘方法被用于处理分类等实际应用中。但是,在传统分类任务中,只有通过增加人工标识的已知训练样本来提高分类精准度,造成了标注成本的增加。因此,围绕如何利用未标识样本来提高分类性能的研究与应用就引起了学术界和工业界越来越多的关注,其中,基于已知正类样本和未标识样本的半监督分类就成了研究的热点问题之一。 本文主要研究在训练集中没有任何反类实例可供学习前提下,如何有效找未标记集中隐藏的反类实例。目前,基于已知正样本和未标识样本的半监督分类方法都是针对均衡数据集的,而无法有效处理非平衡数据问题,即训练集和未标识数据集中的类别数据分布差异很大或者未标识数据集中的反类实例个数特别少。针对这一特殊问题,本文提出的解决方法也是非常直接和高效的。由于在传统分类过程中,分类器最终是根据实例所属后验概率的大小来未标识实例分类,因此,本文提出了基于KL距离的半监督分类算法,利用未标识实例所属后验概率和训练集中类别先验概率的相对熵来衡量分类结果的正确度,从而抵消了类别不平衡对分类结果的影响,提高了分类的精确度。同时,针对平衡数据集,本文又提出了直接基于后验概率的熵值来衡量后验概率的差异程度:当后验概率的熵值越小时,后验概率的分布就越不均匀,对实例的分类可信度就越高,反之亦然。 本文的主要贡献包括: 1.提出了一种新的半监督学习方法。该方法的底层可以使用任何一种具体的分类技术,依赖任何一种底层分类技术,从而避免了分类器对分类结果的影响,降低了数据类型和分类器之间的依赖度。 2.采用了更加简单灵活的处理方式:对于非平衡训练集,就采用基于KL距离的半监督学习算法;而对于平衡训练集,可以直接采用基于熵的半监督学习算法。 3.提供的实验数据集,不仅有文本数据,还有非文本数据。同时,保证了不同参数或因素下的性能对比。 4.提供了大量充分的实验来验证所提方法的有用性和高效性。通过文本数据集和非文本数据集的实验对比,本文所提的方法不仅在查准率和查全率上都优于同类方法。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 刘叶青;刘三阳;谷明涛;;一种多项式光滑的半监督支持向量机分类算法[J];计算机科学;2009年07期
2 汪春亮;伏玉琛;;一种针对非平衡数据的贝叶斯分类算法[J];计算机工程与科学;2010年07期
3 潘志松;严岳松;缪志敏;倪桂强;张晖;;基于半监督学习的单类分类器[J];解放军理工大学学报(自然科学版);2010年04期
4 胡荣;罗庆云;;SVM算法在文本分类中的研究[J];衡阳师范学院学报;2006年03期
5 陈锦秀;姬东鸿;;基于图的半监督关系抽取[J];软件学报;2008年11期
6 赵琨;孔祥纬;田英杰;;带有多面体扰动的半监督v-支持向量分类机[J];中国管理科学;2010年01期
7 牛罡;罗爱宝;商琳;;半监督文本分类综述[J];计算机科学与探索;2011年04期
8 王锐;徐祎;;统计学习理论算法在跳频信号分选中的应用[J];空军工程大学学报(自然科学版);2010年02期
9 柳斌;李之棠;涂浩;;一种基于半监督学习的应用层流量分类方法[J];微电子学与计算机;2008年10期
10 程仲汉;臧洌;;基于集成学习的Self-training在入侵检测中的应用[J];计算机应用;2010年03期
11 许洪贵;赵琨;田英杰;;鲁棒半监督ν-支持向量分类机[J];系统科学与数学;2010年02期
12 高恒振;万建伟;许可;钱林杰;;基于聚类核函数的最小二乘支持向量机高光谱图像半监督分类[J];信号处理;2011年02期
13 李妍妍;李媛媛;叶世伟;;基于流形正则化的支持向量回归及应用[J];计算机应用;2007年08期
14 夏士雄;李佑文;周勇;;一种半监督局部线性嵌入算法的文本分类方法[J];计算机应用研究;2010年01期
15 李永忠;王汝山;张念贵;王玉雷;;基于半监督模糊聚类的入侵检测技术[J];江苏科技大学学报(自然科学版);2010年04期
16 傅向华,冯博琴,马兆丰,何明;可在线增量自学习的聚焦爬行方法[J];西安交通大学学报;2004年06期
17 丁磊,钱云涛;不同程度的监督机制在自动文本分类中的应用[J];计算机应用与软件;2004年06期
18 张晨光;李玉鑑;;基于半监督学习的眉毛图像分割方法[J];计算机工程与应用;2009年21期
19 杨绪兵;潘志松;陈松灿;;半监督型广义特征值最接近支持向量机[J];模式识别与人工智能;2009年03期
20 鲁珂,赵继东,叶娅兰,曾家智;一种用于图像检索的新型半监督学习算法[J];电子科技大学学报;2005年05期
中国重要会议论文全文数据库 前10条
1 谢永芳;蒋有为;唐明珠;;一种基于数据剪辑的半监督最邻近分类算法[A];Proceedings of the 2011 Chinese Control and Decision Conference(CCDC)[C];2011年
2 许震;沙朝锋;王晓玲;周傲英;;LiPU:一种基于KL距离的主动分类算法[A];第26届中国数据库学术会议论文集(A辑)[C];2009年
3 谷方明;刘大有;王新颖;;基于半监督学习的加权支持向量域数据描述方法[A];NDBC2010第27届中国数据库学术会议论文集(B辑)[C];2010年
4 杨源;马云龙;林鸿飞;;基于权重标准化SimRank与半监督学习的产品属性归类[A];中国计算语言学研究前沿进展(2009-2011)[C];2011年
5 孙云山;张立毅;李艳琴;;基于模糊分类器的PAM盲均衡算法[A];四川省通信学会2005年学术年会论文集[C];2005年
6 刘艳民;;中文网页分类方法的研究[A];2009年全国开放式分布与并行计算机学术会议论文集(下册)[C];2009年
7 李晓波;;集成分类对比:Bagging NB & Boosting NB[A];2010年全国开放式分布与并行计算机学术会议论文集[C];2010年
8 邢延铭;诸克军;李春平;;一种基于遗传算法和模糊规则的分类算法[A];科学发展观与系统工程——中国系统工程学会第十四届学术年会论文集[C];2006年
9 何慧;陈博;郭军;;基于流形学习的半监督文本情感分类算法[A];第五届全国信息检索学术会议论文集[C];2009年
10 王毅军;张志广;李勇;高小榕;高上凯;杨福生;;2003年脑机接口数据竞赛论文之一——基于CSSD和FDA的单次手指运动诱发脑电分类算法[A];首届全国功能神经影像学和神经信息学研讨会论文汇编[C];2003年
中国博士学位论文全文数据库 前10条
1 朱岩;面向文本数据的半监督学习研究[D];北京交通大学;2012年
2 孔怡青;半监督学习及其应用研究[D];江南大学;2009年
3 王娇;多视图的半监督学习研究[D];北京交通大学;2010年
4 兰远东;基于图的半监督学习理论、算法及应用研究[D];华南理工大学;2012年
5 徐雪;样本的几何信息在半监督学习中的应用研究[D];中国科学技术大学;2010年
6 桂杰;基于图的半监督学习和维数约简方法及其应用研究[D];中国科学技术大学;2010年
7 潘俊;基于图的半监督学习及其应用研究[D];浙江大学;2011年
8 吕佳;基于局部学习的半监督分类问题研究[D];内蒙古大学;2012年
9 赵志凯;半监督学习及其在煤矿瓦斯安全信息处理中的应用研究[D];中国矿业大学;2012年
10 任广波;基于半监督学习的遥感影像分类技术研究[D];中国海洋大学;2010年
中国硕士学位论文全文数据库 前10条
1 许震;基于KL距离的半监督分类算法[D];复旦大学;2010年
2 余养强;半监督学习若干问题的研究[D];福建师范大学;2010年
3 杨伟;半监督学习方法研究[D];国防科学技术大学;2011年
4 魏征丽;基于图半监督学习算法的研究及应用[D];西安电子科技大学;2012年
5 秦飞;基于半监督学习的文本分类研究[D];西南交通大学;2010年
6 徐庆伶;基于半监督学习的遥感图像分类研究[D];陕西师范大学;2010年
7 卫力;基于图的半监督中文句子主客观分类算法研究[D];北京邮电大学;2011年
8 陈新勇;基于核策略的半监督学习方法研究[D];河北大学;2010年
9 黄明明;半监督学习方法研究及在警用平台中的应用[D];大连理工大学;2010年
10 冯元佶;基于图的半监督学习的改进研究[D];湘潭大学;2010年
中国重要报纸全文数据库 前10条
1 ;SecuiWALL独创分类算法[N];计算机世界;2002年
2 俞路石;中科大研究生解决网络数据包有效分类算法[N];中国教育报;2007年
3 ;锐捷RG-WALL系列防火墙[N];电脑商报;2004年
4 中国科学院东北地理与农业生态研究所 李建平;保护地球之肾 遥感体检湿地健康[N];中国水利报;2008年
5 ;百兆防火墙[N];计算机世界;2002年
6 ;MaxNet:本土化贴合市场[N];网络世界;2008年
7 刘宏伟;整合是一种趋势[N];中国计算机报;2004年
8 ;三星NXG全新系列防火墙安全和性能兼得[N];中国计算机报;2004年
9 长江期货 韩锦 邹云峰 高华;基于RFM模型的聚类分析算法在期货公司客户分类中的应用[N];期货日报;2008年
10 蒋波;非结构化数据管理与知识提炼[N];中国计算机报;2003年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978