收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

基于KNN算法的文本分类系统的设计与实现

张飞  
【摘要】:自1995年以来,Web技术进入了快速发展的阶段,表现为Internet上的Web页面数量与服务站点数量呈指数级增长。2004年后,Internet上的PIW(pubulic indexableWeb)页面数目达到了1010数量级,而且已每天新增800万新页面的速度。同时,Web服务器的数量23周即可增长一倍。Web已成为一个开放性、动态的、全球性信息服务中心,以及当前人们获取信息的重要手段。如何从大量的Web信息中提取出人们感兴趣的信息和有价值的信息是现代信息研究的重要课题。 针对Web文本挖掘的特殊性,设计并实现了一个文本分类系统。使用该系统的主要目的是实验和发现Web文本分类相关算法的性能和准确率。系统主要包括训练和分类两大模块。训练模块有:(1)中文文本预处理,系统采用中科院计算所汉语词法分析工具包ICTCLAS,实现了对文本的分词和预处理功能;(2)特征选择,实现了文档频度DF、卡方特征词选择、信息增益(IG)、互信息法等四种特征选择算法;(3)权重计算,实现了TF、TF*特征评估函数值等权重算法,建立VSM模型;(4)分类器构造,实现了K近邻基于统计方法的文本分类算法,分类模块还包括对分类结果进行评价,并将评价结果反馈给训练模块,从而不断改进训练过程。 为了评测已实现的KNN分类系统的分类精度,采用了因特网上由搜狐新闻内容组成的小型语料库进行训练和分类测试。该语料库包括教育,体育,环境,娱乐,科技,经济6个类别,共780个文本。同时对改进后的算法进行实验并比较分析。实验数据可用于信息检索、信息过滤、数字图书馆和网页分类等做参考。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 刘慧;杨宏光;;应用于中文文本分类的改进KNN算法[J];今日科苑;2010年08期
2 吕震宇;赵爽;林永民;;kNN在文本分类中的应用研究[J];计算机与现代化;2008年11期
3 唐焕玲,付克明,鲁明羽;文本分类系统SECTCS中若干技术问题的探讨[J];计算机工程与应用;2003年11期
4 杜尔斌;李翔;林祥;;改进的KNN文本分类算法[J];信息安全与通信保密;2011年04期
5 刘海博;郗亚辉;王煜;;用于文本分类的快速KNN算法[J];河北大学学报(自然科学版);2008年03期
6 李鑫;张黎烁;;文本分类方法比较研究[J];光盘技术;2009年05期
7 王斌;朴顺姬;邵华清;;基于粗糙集的KNN的WEB文本分类的研究[J];数字技术与应用;2011年08期
8 李荣陆,胡运发;基于密度的kNN文本分类器训练样本裁剪方法[J];计算机研究与发展;2004年04期
9 崔彩霞;张朝霞;;文本分类方法对比研究[J];太原师范学院学报(自然科学版);2007年04期
10 王煜;白石;王正欧;;用于Web文本分类的快速KNN算法[J];情报学报;2007年01期
11 张春红;谢卫;;基于SVM-KNN算法的特色数据库分类体系初探[J];情报科学;2009年11期
12 曾洪波;杨天奇;邱韬奋;;一种基于模糊理论的KNN文本分类算法[J];微计算机应用;2011年02期
13 张业鹏;张道德;;贝叶斯算法在文本自动分类系统中的应用[J];计算机与现代化;2006年02期
14 张俊丽;张帆;;改进KNN算法在垃圾邮件过滤中的应用[J];现代图书情报技术;2007年04期
15 曹勇;吴顺祥;;使用KNN算法的中文Web文本分类技术研究[J];软件导刊;2007年01期
16 张俊丽;赵乃瑄;冯君;;基于统计频率的文本分类特征选择算法研究[J];现代图书情报技术;2008年11期
17 赵俊杰;胡学钢;;基于文本分类的文档相似度计算[J];微型电脑应用;2008年12期
18 李良俊;张斌;杨明;;基于LSA降维的KNN文本分类算法[J];东北师大学报(自然科学版);2007年02期
19 刘辉;应培培;;一种改进的KNN文本分类算法[J];信息安全与技术;2011年07期
20 陈可华;;基于多代表点的文本分类研究[J];郑州大学学报(工学版);2010年06期
中国重要会议论文全文数据库 前10条
1 海丽且木·艾沙;维尼拉·木沙江;;Web文本分类及其维、哈、柯多文种信息检索中的应用研究[A];少数民族青年自然语言处理技术研究与进展——第三届全国少数民族青年自然语言信息处理、第二届全国多语言知识库建设联合学术研讨会论文集[C];2010年
2 陈克利;宗成庆;王霞;;基于大规模真实文本的平衡语料分析与文本分类方法[A];语言计算与基于内容的文本处理——全国第七届计算语言学联合学术会议论文集[C];2003年
3 杜长海;吉根林;;模糊聚类的最大树法在文本分类中的应用研究[A];第二十二届中国数据库学术会议论文集(研究报告篇)[C];2005年
4 刘秉权;李博;孙林;王宝勋;刘远超;;标签特征和正文特征融合的SVM博客文本分类算法研究[A];第六届全国信息检索学术会议论文集[C];2010年
5 商炳章;白清源;;基于特征项权重改进的关联文本分类[A];第二十五届中国数据库学术会议论文集(二)[C];2008年
6 胡俊;黄厚宽;;一种基于SVM的可视化文本分类的方法[A];第二十一届中国数据库学术会议论文集(技术报告篇)[C];2004年
7 朱慕华;陈文亮;朱靖波;;词聚类在文本分类中的应用[A];第二届全国学生计算语言学研讨会论文集[C];2004年
8 王小华;陆蓓;张国煊;;文本自动分类的模糊方法[A];自然语言理解与机器翻译——全国第六届计算语言学联合学术会议论文集[C];2001年
9 庞剑锋;程学旗;;反馈方法在文本分类系统中的应用[A];自然语言理解与机器翻译——全国第六届计算语言学联合学术会议论文集[C];2001年
10 贾会强;刘晓丽;于洪志;;基于词性特征提取的藏文文本分类方法研究[A];CCF NCSC 2011——第二届中国计算机学会服务计算学术会议论文集[C];2011年
中国博士学位论文全文数据库 前10条
1 章舜仲;文本分类中词共现关系的研究及其应用[D];南京理工大学;2010年
2 孟佳娜;迁移学习在文本分类中的应用研究[D];大连理工大学;2011年
3 李智星;用于文本分类的简明语义分析技术研究[D];重庆大学;2011年
4 刘伍颖;面向垃圾信息过滤的主动多域学习文本分类方法研究[D];国防科学技术大学;2011年
5 王博;文本分类中特征选择技术的研究[D];国防科学技术大学;2009年
6 平源;基于支持向量机的聚类及文本分类研究[D];北京邮电大学;2012年
7 冯国忠;文本分类中的贝叶斯特征选择[D];东北师范大学;2011年
8 万源;基于语义统计分析的网络舆情挖掘技术研究[D];武汉理工大学;2012年
9 程军;基于统计的文本分类技术研究[D];中国科学院研究生院(文献情报中心);2003年
10 王占一;Web文本挖掘中若干问题的研究[D];北京邮电大学;2012年
中国硕士学位论文全文数据库 前10条
1 闫晨;KNN文本分类研究[D];燕山大学;2010年
2 赵小华;KNN文本分类中特征词权重算法的研究[D];太原理工大学;2010年
3 刘辉;基于KNN算法的中文Web文本分类技术研究[D];辽宁工程技术大学;2010年
4 刘亚南;KNN文本分类中基于遗传算法的特征提取技术研究[D];中国石油大学;2011年
5 张彪;文本分类中特征选择算法的分析与研究[D];中国科学技术大学;2010年
6 段莹;支持向量机在Web文本分类优化中的应用[D];武汉理工大学;2010年
7 张保富;基于粗糙集的中文文本分类算法研究及应用[D];江苏大学;2010年
8 蒋健;文本分类中特征提取和特征加权方法研究[D];重庆大学;2010年
9 苏小康;基于维基百科构建语义知识库及其在文本分类领域的应用研究[D];华中师范大学;2010年
10 李璇;基于坐标下降法的半监督学习算法及其在文本分类中的应用[D];华南理工大学;2010年
中国重要报纸全文数据库 前10条
1 赵晓涛;Web安全 服务为王[N];网络世界;2008年
2 Websense中国区总经理 王沛烨;Web安全期待产业变革[N];网络世界;2008年
3 ;Web 2.0数据分析工具正流行[N];网络世界;2008年
4 本报记者 赵晓涛;Web安全:历史的命题[N];网络世界;2008年
5 彭敏;企业级Web2.0迎来应用高潮[N];电脑商报;2009年
6 本报记者 毛江华;安启华联手赛门铁克 掘金Web安全[N];计算机世界;2009年
7 易水寒;如何在心上架起一座桥[N];中华读书报;2009年
8 本报记者 邹大斌;Web 2.0考验云计算的交付能力[N];计算机世界;2009年
9 闫冰;“推”出Web交付新天地[N];网络世界;2009年
10 赵晓涛;中国成全球Web安全新看点[N];网络世界;2009年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978