收藏本站
《重庆邮电大学》 2010年
收藏 | 手机打开
二维码
手机客户端打开本文

基于EM算法的半监督文本分类方法研究

郭志毅  
【摘要】: 随着互联网的发展和大量文本资源的出现,自动文本分类成为研究热点。为了提高文本分类器的性能,通常需要大量带标注的训练文本。但是训练文本需要专家构造,这是一项费时且耗力的工作。然而,我们可以很容易获得大量未标注文本。半监督学习技术把少量的标注文本与大量未标注文本相结合,可以有效解决标注瓶颈问题,因此逐渐引起人们的关注。 基于EM的半监督文本分类是通过EM算法将标注训练集与未标注训练集相结合构建分类器,利用未标注训练集的信息提高分类器的性能。该方法存在以下不足:由于初始标注训练集信息资源不足,分类器精度不高,未标注训练文本易被错误分类,这些不可靠数据会在一定程度上影响分类器的性能。针对该问题,本文提出一种改进的基于数据重构的半监督EM文本分类方法。该方法根据半监督学习的聚类假设,利用未标注样本与标注样本之间的关系,在每次迭代中利用数据剪辑和集成学习思想识别未标注训练集中的不可靠数据,对训练集进行数据重构。通过实验验证了该方法改进了分类器的性能。 另外,一旦错误信息加入标注样本集,这些信息将对分类器产生消极影响,而使当前未标注训练集含有的有用信息得不到充分利用。针对这个问题,本文提出一种基于增量式EM的半监督文本分类算法。该算法充分利用中间分类器的有用信息,使用划分机制对未标注样本进行有效划分,并使用回馈学习机制对新增样本的信息进行修正,提高新增样本的可靠性,把未标注样本增量式地加入标注样本集,改进了算法的分类性能。最后通过实验验证了该算法的有效性。
【学位授予单位】:

知网文化
【相似文献】
中国期刊全文数据库 前20条
1 郑海,林鸿飞;基于段落匹配的文本分类机制[J];计算机工程与应用;2004年28期
2 王丁,运海红,张辉;文本自动分类系统的研究与实现[J];信息技术;2005年03期
3 杜志文;曾文华;;网格计算在文本分类中的应用[J];微电子学与计算机;2006年S1期
4 崔彩霞;王素格;;基于粗集的支持向量机文本分类方法研究[J];科技广场;2006年08期
5 马忠宝;刘冠蓉;;基于支持向量机的中文文本分类模型研究[J];计算机技术与发展;2006年11期
6 张燕;寒枫;楚红涛;;文本挖掘简述[J];中国电力教育;2006年S3期
7 祝晓鲁;白振兴;贾海燕;;自动文本分类技术研究[J];现代电子技术;2007年03期
8 张桂芸;刘洋;王元元;;基于模糊认知图的文本分类推理算法[J];计算机工程与应用;2007年12期
9 陈莲娜;姚伏天;;用于文本分类的多核SVM算法研究[J];计算机工程;2007年09期
10 王倩倩;段震;张燕平;;基于交叉覆盖算法的文本分类[J];计算机技术与发展;2007年06期
11 董梅;胡学钢;;基于多特征选择的中文文本分类[J];计算机技术与发展;2007年07期
12 巩知乐;张德贤;;文本挖掘理论概述[J];福建电脑;2008年09期
13 张春红;;文本分类技术应用于学科导航分类的可行性探讨[J];情报科学;2009年07期
14 祝磊;;基于SVM技术的文本分类研究[J];软件导刊;2006年23期
15 陶兰,申军霞;文本信息自动分类系统ITC98(Ⅰ)──ITC98总体结构与编码子系统[J];中国农业大学学报;1999年04期
16 李钝,梁吉业;利用聚类和粗糙集进行文本分类研究[J];计算机工程与应用;2003年07期
17 韩家新,何华灿;SVMDT分类器及其在文本分类中的应用研究[J];计算机应用研究;2004年01期
18 王天江,叶卫国,卢正鼎,李永平;LSI和kNN相结合的文本分类模型研究[J];华中科技大学学报(自然科学版);2004年04期
19 卢娇丽,郑家恒;基于粗糙集的文本分类方法研究[J];中文信息学报;2005年02期
20 陈文亮,朱慕华,朱靖波,姚天顺;基于Bootstrapping的文本分类模型[J];中文信息学报;2005年02期
中国重要会议论文全文数据库 前10条
1 陈克利;宗成庆;王霞;;基于大规模真实文本的平衡语料分析与文本分类方法[A];语言计算与基于内容的文本处理——全国第七届计算语言学联合学术会议论文集[C];2003年
2 杜长海;吉根林;;模糊聚类的最大树法在文本分类中的应用研究[A];第二十二届中国数据库学术会议论文集(研究报告篇)[C];2005年
3 刘秉权;李博;孙林;王宝勋;刘远超;;标签特征和正文特征融合的SVM博客文本分类算法研究[A];第六届全国信息检索学术会议论文集[C];2010年
4 海丽且木·艾沙;维尼拉·木沙江;;Web文本分类及其维、哈、柯多文种信息检索中的应用研究[A];少数民族青年自然语言处理技术研究与进展——第三届全国少数民族青年自然语言信息处理、第二届全国多语言知识库建设联合学术研讨会论文集[C];2010年
5 商炳章;白清源;;基于特征项权重改进的关联文本分类[A];第二十五届中国数据库学术会议论文集(二)[C];2008年
6 胡俊;黄厚宽;;一种基于SVM的可视化文本分类的方法[A];第二十一届中国数据库学术会议论文集(技术报告篇)[C];2004年
7 朱慕华;陈文亮;朱靖波;;词聚类在文本分类中的应用[A];第二届全国学生计算语言学研讨会论文集[C];2004年
8 王小华;陆蓓;张国煊;;文本自动分类的模糊方法[A];自然语言理解与机器翻译——全国第六届计算语言学联合学术会议论文集[C];2001年
9 庞剑锋;程学旗;;反馈方法在文本分类系统中的应用[A];自然语言理解与机器翻译——全国第六届计算语言学联合学术会议论文集[C];2001年
10 贾会强;刘晓丽;于洪志;;基于词性特征提取的藏文文本分类方法研究[A];CCF NCSC 2011——第二届中国计算机学会服务计算学术会议论文集[C];2011年
中国重要报纸全文数据库 前10条
1 本报记者 胡英;263发布企业级IM产品及服务EM[N];计算机世界;2009年
2 小郝;EM菌液在獭兔养殖中的应用[N];瓜果蔬菜报.农业信息周刊;2009年
3 王文;食品标注热量催生健康新潮[N];中国包装报;2009年
4 东方;服装成分标注也有“潜规则”[N];经理日报;2009年
5 记者 周进文;“言不由衷”的成分标注[N];石狮日报;2011年
6 冯赐杭;谈新中国邮票公元前年份的标注[N];中国集邮报;2009年
7 记者王丹 魏明辉;标注新的历史节点[N];抚顺日报;2010年
8 深圳商报记者 陈美寿;深圳馆的标注是“先锋”[N];深圳商报;2010年
9 肖江;民进会员建议在酒瓶上标注警示语[N];人民政协报;2010年
10 李小亮 本报记者 薛庆元;睡衣标注“100%桑蚕丝”检测为零[N];中国消费者报;2011年
中国博士学位论文全文数据库 前10条
1 章舜仲;文本分类中词共现关系的研究及其应用[D];南京理工大学;2010年
2 孟佳娜;迁移学习在文本分类中的应用研究[D];大连理工大学;2011年
3 李智星;用于文本分类的简明语义分析技术研究[D];重庆大学;2011年
4 刘伍颖;面向垃圾信息过滤的主动多域学习文本分类方法研究[D];国防科学技术大学;2011年
5 王博;文本分类中特征选择技术的研究[D];国防科学技术大学;2009年
6 平源;基于支持向量机的聚类及文本分类研究[D];北京邮电大学;2012年
7 冯国忠;文本分类中的贝叶斯特征选择[D];东北师范大学;2011年
8 杨杰明;文本分类中文本表示模型和特征选择算法研究[D];吉林大学;2013年
9 程军;基于统计的文本分类技术研究[D];中国科学院研究生院(文献情报中心);2003年
10 李彦鹏;特征耦合泛化及其在文体挖掘中的应用[D];大连理工大学;2011年
中国硕士学位论文全文数据库 前10条
1 郭志毅;基于EM算法的半监督文本分类方法研究[D];重庆邮电大学;2010年
2 张彪;文本分类中特征选择算法的分析与研究[D];中国科学技术大学;2010年
3 张保富;基于粗糙集的中文文本分类算法研究及应用[D];江苏大学;2010年
4 蒋健;文本分类中特征提取和特征加权方法研究[D];重庆大学;2010年
5 闫晨;KNN文本分类研究[D];燕山大学;2010年
6 苏小康;基于维基百科构建语义知识库及其在文本分类领域的应用研究[D];华中师范大学;2010年
7 李璇;基于坐标下降法的半监督学习算法及其在文本分类中的应用[D];华南理工大学;2010年
8 宋志理;基于LDA模型的文本分类研究[D];西安理工大学;2010年
9 郭明;基于文本分类技术的文本情感倾向性研究[D];郑州大学;2010年
10 段江丽;基于SVM的文本分类系统中特征选择与权重计算算法的研究[D];太原理工大学;2011年
中国知网广告投放
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978