收藏本站
《山东科技大学》 2010年
收藏 | 手机打开
二维码
手机客户端打开本文

中文文本分类技术研究

吕万里  
【摘要】:随着信息技术的飞速发展及互联网的普及,信息资源急剧增加,如何对海量的信息资源进行统一有效的组织和利用,并为用户快速、全面、准确的检索提供方便成为亟待解决的问题。文本分类作为一种重要的信息处理技术,为信息资源的快速、全面、准确的组织和利用提供了解决方案,为用户高效的检索提供了保障,逐渐成为一个日益重要的研究领域。 本文对中文文本分类的关键技术进行了研究,包括中文分词、文本表示、特征选择及权重计算、文本分类算法、分类器性能评估等。然后,针对文本分类过程中两个核心问题,特征选择及权重计算算法和文本分类算法,进行了深入的研究。特征选择及权重计算是指从原始特征集中选择最能代表文本内容的词条并赋予一定的权重,从而去除影响分类效果的噪音词,提高文本分类的速度和准确度;而分类算法的好坏将会直接影响分类的效果。 本文有两个创新点:在特征权重计算方面,本文分析了经典的特征权重计算方法TFIDF存在的两个固有缺陷:数据集偏斜问题和特征项类间、类内分布差异问题。然后针对类间、类内分布差异问题,将特征选择算法互信息引入到权重计算上以解决特征项类间分布差异问题,并使用类内分布差异修正因子弥补原公式在类内分布差异上的缺陷;在分类算法设计方面,本文在前人研究成果的基础上设计了SE-Bagging KNN算法,该算法将集成学习中选择性集成的思想引入到中文文本分类中,根据KNN算法对属性敏感的特点,使用可重复抽样技术生成新的训练集,并使用这些训练集训练KNN弱分类器,然后采用变相似度聚类技术选取差异大且分类效果好的分类器进行集成对新文本进行分类。 在.Net平台上,综合使用WordSeg分词组件和Weka数据挖掘包开发了中文文本分类程序,通过实验证明,相比传统的分类算法,本文提出的权重计算方法和SE-BaggingKNN文本分类算法在中文文本分类效果上有明显的改进。
【学位授予单位】:

知网文化
【相似文献】
中国期刊全文数据库 前20条
1 靳小波;;文本分类综述[J];自动化博览;2006年S1期
2 张翔;周明全;耿国华;;Bagging中文文本分类器的改进方法研究[J];小型微型计算机系统;2010年02期
3 钱铁云,王元珍,冯小年;结合类频率的关联中文文本分类[J];中文信息学报;2004年06期
4 陈艳秋;熊耀华;;新型快速中文文本分类器的设计与实现[J];计算机工程与应用;2009年22期
5 王奕;;基于概率潜在语义分析的中文文本分类研究[J];甘肃联合大学学报(自然科学版);2011年04期
6 张翔;周明全;耿国华;侯凡;;面向中文文本分类的C4.5Bagging算法研究[J];计算机工程与应用;2009年26期
7 王元珍,钱铁云,冯小年;基于关联规则挖掘的中文文本自动分类[J];小型微型计算机系统;2005年08期
8 马建斌;李滢;滕桂法;王芳;赵洋;;KNN和SVM算法在中文文本自动分类技术上的比较研究[J];河北农业大学学报;2008年03期
9 刘怀亮;张治国;马志辉;赵捧未;;基于KNN的中文文本分类反馈学习研究[J];图书情报工作;2008年10期
10 张翔;周明全;耿国华;侯凡;;Bagging算法在中文文本分类中的应用[J];计算机工程与应用;2009年05期
11 罗永莲,张永奎;基于混合特征的中文文本分类[J];电脑开发与应用;2005年04期
12 张翔;周明全;董丽丽;闫清波;;结合粗糙集与集成学习的中文文本分类方法研究[J];计算机应用与软件;2011年01期
13 孙国菊,张杰;中文文本分类的特征选取评价[J];哈尔滨理工大学学报;2005年01期
14 吴雅娟,柳培林 ,丁子睿;基于统计分词的中文文本分类系统[J];电脑知识与技术;2005年11期
15 贾昱晟;;基于机器学习的中文文本分类技术研究[J];电脑知识与技术;2011年21期
16 张海燕,陈治平,童调生;基于2-grams短语标引的关键词自动抽取[J];绍兴文理学院学报;2002年09期
17 李莹,张晓辉,王华勇,常桂然;一种应用向量聚合技术的KNN中文文本分类方法[J];小型微型计算机系统;2004年06期
18 陈集;樊兴华;王鹏;;中文文本分类的两步特征选择法[J];计算机辅助工程;2008年03期
19 唐常杰,张天庆,胡蓉,元昌安,陈安龙;文本分类的关联规则辅助遗传算法(英文)[J];四川大学学报(工程科学版);2004年03期
20 姚兴山;;基于词频的中文文本分类研究[J];现代情报;2009年02期
中国重要会议论文全文数据库 前10条
1 陈伟萍;王琳;封化民;杨鼎才;方勇;;一种基于语义概念的中文文本分类方法[A];第一届建立和谐人机环境联合学术会议(HHME2005)论文集[C];2005年
2 穆明生;;基于特征集的多种分类器模型的在线笔迹认证[A];第十届全国信号处理学术年会(CCSP-2001)论文集[C];2001年
3 朱思俞;石锋;;不定人连续汉语音的四声识别[A];第二届全国人机语音通讯学术会议论文集[C];1992年
4 徐蔚然;于武贵;郭军;;基于统计方法的混排文字切分与分类[A];第八届全国汉字识别学术会议论文集[C];2002年
5 邵小健;段华;贺国平;;一种改进的最少核分类器[A];中国运筹学会第七届学术交流会论文集(上卷)[C];2004年
6 雷蕾;吴乃君;刘鹏;刘兰娟;;灵敏度分析:分类器中的缺失数据[A];第11届海峡两岸信息管理发展策略研讨会论文集[C];2005年
7 陈颖颖;张雁军;贾鑫;;通信信号调制识别方法[A];第一届中国高校通信类院系学术研讨会论文集[C];2007年
8 王颖;毋立芳;关媛;王涓涓;;基于LBP的SVM人脸姿势估计方法[A];第十三届全国信号处理学术年会(CCSP-2007)论文集[C];2007年
9 张国荣;;基于SVM分类算法的电力变压器故障诊断[A];第六届全国信息获取与处理学术会议论文集(2)[C];2008年
10 熊琴;李陶深;陈燕;蒙辉;;NS2中选播通信模块的设计与实现[A];2007年全国开放式分布与并行计算机学术会议论文集(下册)[C];2007年
中国重要报纸全文数据库 前10条
1 黄明;精子分类器决定生男生女[N];广东科技报;2000年
2 通讯员 彭云 袁龙刚;袁仁国荣膺改革开放30年酒界领军人物[N];经理日报;2009年
3 记者 万宁;业绩增长仍是主流[N];中国证券报;2005年
4 记者 姜晓凌 见习记者 王毅俊;原来,科技也能如此美丽[N];上海科技报;2007年
5 中国科学院东北地理与农业生态研究所 李建平;保护地球之肾 遥感体检湿地健康[N];中国水利报;2008年
6 CPW 张戈;Aperto PacketMAX系列可同时服务2000个用户[N];电脑商报;2005年
7 李倩;多种价格国债招标方式有望推出[N];金融时报;2004年
8 武德锋 李国辉 林洪文 姚作梁;图像世界任我行[N];计算机世界;2002年
9 中科院院士 戴汝为;开辟人机结合的新天地[N];计算机世界;2004年
10 本报记者 汪涛 ;证监会再下严令 迫货币市场基金软着陆[N];21世纪经济报道;2005年
中国博士学位论文全文数据库 前10条
1 周雪忠;文本挖掘在中医药中的若干应用研究[D];浙江大学;2004年
2 薛德军;中文文本自动分类中的关键问题研究[D];清华大学;2004年
3 张翔;文本挖掘技术研究及其在综合风险信息网络中的应用[D];西北大学;2011年
4 张涛;基于语音特征的帕金森病可视化诊断方法研究[D];燕山大学;2012年
5 张冬梅;文本情感分类及观点摘要关键问题研究[D];山东大学;2012年
6 代六玲;互联网内容监管系统关键技术的研究[D];南京理工大学;2005年
7 刘云峰;基于潜在语义分析的中文概念检索研究[D];华中科技大学;2005年
8 王喆;面向模式表示与模式源的分类器设计方法研究[D];南京航空航天大学;2008年
9 谢元澄;分类器集成研究[D];南京理工大学;2009年
10 杨显飞;数据流集成分类器算法研究[D];哈尔滨工程大学;2011年
中国硕士学位论文全文数据库 前10条
1 吕万里;中文文本分类技术研究[D];山东科技大学;2010年
2 陈雅芳;中文文本分类方法研究[D];浙江大学;2010年
3 李丹;基于朴素贝叶斯方法的中文文本分类研究[D];河北大学;2011年
4 鲁婷;K-近邻中文文本分类方法的研究[D];合肥工业大学;2010年
5 赵德圣;基于关联技术的中文文本分类研究[D];南京理工大学;2011年
6 何钟莉;中文文本分类关键技术研究与实现[D];西安电子科技大学;2009年
7 陈冲;互联网中文文本分类的研究与应用[D];北京邮电大学;2011年
8 李保秀;中文文本分类技术研究[D];南昌大学;2010年
9 马鹏飞;中文文本分类算法研究[D];南京理工大学;2012年
10 李原;中文文本分类中分词和特征选择方法研究[D];吉林大学;2011年
中国知网广告投放
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978