收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

基于密度的样本裁剪算法的改进及在kNN中的应用研究

杨营辉  
【摘要】: 随着信息技术的飞速发展和迅速普及,人们可以方便快捷地获得大量的信息。然而,在浩瀚的信息海洋里,如何快速准确地找到所需要的信息已经成为人们不得不面对的现实问题。因此,海量信息的组织管理和高效利用已经成为急需解决的问题。目前,大多数信息表现为文本形式,为了有效利用这些文本信息,对它们进行高效、合理的分类是非常必要的。所以,文本分类已经成为处理大量文本信息的关键技术,并已成为数据挖掘领域中一个重要的研究方向。 本文对文本分类及其相关技术进行了研究。首先介绍了文本分类的发展概况和文本分类过程中的相关技术,重点介绍了文本预处理、文本的表示、文本特征向量的提取、特征向量的加权、文本分类的经典算法kNN( k nearest neighbor)、训练样本裁剪算法以及文本分类效果评估等;其次,分析了kNN算法和训练样本裁剪算法的不足并对其做出了改进。本文研究内容和创新工作主要包括以下两大方面: 第一,对训练样本裁剪算法进行改进。在文本分类中,训练集的分布状态会直接影响kNN分类器的效率和准确率。通过分析基于密度的kNN文本分类器训练样本的裁剪方法,发现它存在两大不足:一是裁减之后的均匀状态只是以ε为半径的球形区域意义上的均匀状态,而非最理想的均匀状态即两两样本之间的距离相等;二是未对低密度区域的样本做任何处理,裁减之后仍存在大量不均匀的区域。针对这两处不足,提出了以下两点改进:一是优化了裁减策略,使裁减之后的训练集更趋于理想的均匀状态;二是实现了对低密度区域样本的补充。通过实验表明,改进后的算法在稳定性和准确率方面都有明显提高。 第二,对kNN算法进行改进。原始kNN算法中最佳k值的确定目前还没有很好的方法,一般采用先设定一个初始值(一般为几百到几千之间),然后根据实验测试的结果来不断的调整k值。这不利于kNN算法在实际中的推广应用。针对这种不足,本文在基于密度的训练样本裁剪算法的基础上提出一种改进算法。改进算法的基本思路是:在给定新文本后,考虑训练文本集中,属于该新文本的ε邻域的k篇文本,根据这k篇文本所属的类别判定新文本所属的类别。通过实验表明,改进算法较好的解决了kNN算法中参数k取值的问题,同时,在时间效率上也要优于原始kNN算法。在分类效果上,改进算法跟原始kNN算法基本一致。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 杨丽华;戴齐;郭艳军;;KNN文本分类算法研究[J];微计算机信息;2006年21期
2 刘慧;杨宏光;;应用于中文文本分类的改进KNN算法[J];今日科苑;2010年08期
3 吕震宇;赵爽;林永民;;kNN在文本分类中的应用研究[J];计算机与现代化;2008年11期
4 杜尔斌;李翔;林祥;;改进的KNN文本分类算法[J];信息安全与通信保密;2011年04期
5 唐焕玲,付克明,鲁明羽;文本分类系统SECTCS中若干技术问题的探讨[J];计算机工程与应用;2003年11期
6 刘海博;郗亚辉;王煜;;用于文本分类的快速KNN算法[J];河北大学学报(自然科学版);2008年03期
7 李鑫;张黎烁;;文本分类方法比较研究[J];光盘技术;2009年05期
8 王斌;朴顺姬;邵华清;;基于粗糙集的KNN的WEB文本分类的研究[J];数字技术与应用;2011年08期
9 崔彩霞;张朝霞;;文本分类方法对比研究[J];太原师范学院学报(自然科学版);2007年04期
10 王煜;白石;王正欧;;用于Web文本分类的快速KNN算法[J];情报学报;2007年01期
11 张春红;谢卫;;基于SVM-KNN算法的特色数据库分类体系初探[J];情报科学;2009年11期
12 曾洪波;杨天奇;邱韬奋;;一种基于模糊理论的KNN文本分类算法[J];微计算机应用;2011年02期
13 张俊丽;张帆;;改进KNN算法在垃圾邮件过滤中的应用[J];现代图书情报技术;2007年04期
14 曹勇;吴顺祥;;使用KNN算法的中文Web文本分类技术研究[J];软件导刊;2007年01期
15 张俊丽;赵乃瑄;冯君;;基于统计频率的文本分类特征选择算法研究[J];现代图书情报技术;2008年11期
16 赵俊杰;胡学钢;;基于文本分类的文档相似度计算[J];微型电脑应用;2008年12期
17 李良俊;张斌;杨明;;基于LSA降维的KNN文本分类算法[J];东北师大学报(自然科学版);2007年02期
18 罗畏;邹峥嵘;;一种基于圆形窗口的多边形裁剪新算法[J];测绘科学;2011年03期
19 刘辉;应培培;;一种改进的KNN文本分类算法[J];信息安全与技术;2011年07期
20 陈可华;;基于多代表点的文本分类研究[J];郑州大学学报(工学版);2010年06期
中国重要会议论文全文数据库 前10条
1 陈克利;宗成庆;王霞;;基于大规模真实文本的平衡语料分析与文本分类方法[A];语言计算与基于内容的文本处理——全国第七届计算语言学联合学术会议论文集[C];2003年
2 杜长海;吉根林;;模糊聚类的最大树法在文本分类中的应用研究[A];第二十二届中国数据库学术会议论文集(研究报告篇)[C];2005年
3 刘秉权;李博;孙林;王宝勋;刘远超;;标签特征和正文特征融合的SVM博客文本分类算法研究[A];第六届全国信息检索学术会议论文集[C];2010年
4 海丽且木·艾沙;维尼拉·木沙江;;Web文本分类及其维、哈、柯多文种信息检索中的应用研究[A];少数民族青年自然语言处理技术研究与进展——第三届全国少数民族青年自然语言信息处理、第二届全国多语言知识库建设联合学术研讨会论文集[C];2010年
5 商炳章;白清源;;基于特征项权重改进的关联文本分类[A];第二十五届中国数据库学术会议论文集(二)[C];2008年
6 胡俊;黄厚宽;;一种基于SVM的可视化文本分类的方法[A];第二十一届中国数据库学术会议论文集(技术报告篇)[C];2004年
7 朱慕华;陈文亮;朱靖波;;词聚类在文本分类中的应用[A];第二届全国学生计算语言学研讨会论文集[C];2004年
8 王小华;陆蓓;张国煊;;文本自动分类的模糊方法[A];自然语言理解与机器翻译——全国第六届计算语言学联合学术会议论文集[C];2001年
9 庞剑锋;程学旗;;反馈方法在文本分类系统中的应用[A];自然语言理解与机器翻译——全国第六届计算语言学联合学术会议论文集[C];2001年
10 贾会强;刘晓丽;于洪志;;基于词性特征提取的藏文文本分类方法研究[A];CCF NCSC 2011——第二届中国计算机学会服务计算学术会议论文集[C];2011年
中国博士学位论文全文数据库 前10条
1 章舜仲;文本分类中词共现关系的研究及其应用[D];南京理工大学;2010年
2 孟佳娜;迁移学习在文本分类中的应用研究[D];大连理工大学;2011年
3 李智星;用于文本分类的简明语义分析技术研究[D];重庆大学;2011年
4 江民红;KNN基无铅压电陶瓷的改性与机理研究[D];中南大学;2010年
5 刘伍颖;面向垃圾信息过滤的主动多域学习文本分类方法研究[D];国防科学技术大学;2011年
6 王博;文本分类中特征选择技术的研究[D];国防科学技术大学;2009年
7 方建;KNN和BT高性能无铅压电陶瓷的制备技术及机理研究[D];清华大学;2012年
8 平源;基于支持向量机的聚类及文本分类研究[D];北京邮电大学;2012年
9 杨联强;几何造型中曲面的裁剪、形状调整以及界的研究[D];厦门大学;2009年
10 冯国忠;文本分类中的贝叶斯特征选择[D];东北师范大学;2011年
中国硕士学位论文全文数据库 前10条
1 杨营辉;基于密度的样本裁剪算法的改进及在kNN中的应用研究[D];重庆大学;2010年
2 闫晨;KNN文本分类研究[D];燕山大学;2010年
3 赵小华;KNN文本分类中特征词权重算法的研究[D];太原理工大学;2010年
4 刘亚南;KNN文本分类中基于遗传算法的特征提取技术研究[D];中国石油大学;2011年
5 刘辉;基于KNN算法的中文Web文本分类技术研究[D];辽宁工程技术大学;2010年
6 曹勇;中文Web文本分类技术研究[D];厦门大学;2007年
7 张彪;文本分类中特征选择算法的分析与研究[D];中国科学技术大学;2010年
8 苑迪文;基于KNN的专利文本分类算法研究[D];河南理工大学;2012年
9 张俊丽;文本分类中的关键技术研究[D];华中师范大学;2008年
10 夏青松;基于改进哈希算法的快速KNN文本分类方法[D];安徽大学;2012年
中国重要报纸全文数据库 前6条
1 中国科学院计算技术研究所 王 斌;内容为王[N];计算机世界;2004年
2 高利华;传承陆游风骨 推进国际交流[N];人民日报海外版;2005年
3 林木树;反垃圾邮件有待新突破[N];人民邮电;2004年
4 希安;微软试水信息检索[N];经济日报;2004年
5 王培森;从Web挖到竞争情报[N];中国计算机报;2003年
6 应晓敏 窦文华;技术架构[N];计算机世界;2003年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978