收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

文本分类算法研究

杨昂  
【摘要】: WWW的出现导致网站上的文本成指数级增长,因此如何自动处理这些海量联机文本成为目前重要的研究课题。自动文本分类是文本信息处理中的一个重要环节。 本文研究文本的自动分类算法。本文对常用的文本分类算法进行了评价,并且对这些算法在文本分类的应用进行了讨论。文本分类算法是有监督的学习算法,它需要一个分类好的,类别已标识的文本数据集训练分类器,然后用训练好的分类器对未标识类别的文本分类。一般分类器的精度随着训练文本的增多而提高,但人工分类好的文本是一种昂贵的资源,文本分类算法要解决的一个重要问题是要减少训练集中人工分类的文本数量,同时保证其精度。针对这一问题,本文从以下两个方面进行了研究。 首先,研究了在训练集较小的条件下提高分类精度的问题。本文在最近特征线算法的基础上,结合k近邻算法的思想,提出一种k最近特征线文本分类算法。实验结果表明,该算法在训练集较小的情况下,算法可以具有较好的性能。 本文的另一贡献是采用未标识文本来扩充训练集,提出了迭代TFIDF算法。网上存在大量文本,这些文本一般都没有类别标签,该算法可以利用大量廉价的未标识文本,结合很少的手工标识文本,通过迭代训练出较高精度的TFIDF文本分类器。实验结果表明,在同等实验条件下,该算法精度高于已有的EM贝叶斯文本分类算法。迭代TFIDF算法属于爬山算法,初始值的选取对精度影响较大,算法容易收敛到局部最优值。 针对迭代TFIDF算法存在的局部最优问题,本文引入主动学习的概念,提出了基于主动学习的迭代TFIDF算法。实验结果表明,主动学习可以有效的抑制算法收敛到局部最优值,进一步提高了算法精度。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 张欣欣,薛冰冰;基于数据挖掘技术的BBS的安全管理[J];洛阳工业高等专科学校学报;2003年04期
2 张婧;李珏峰;;数据挖掘技术在BBS管理中的应用[J];福建电脑;2008年04期
3 大鱼儿;;自动扩展大小的TEdit[J];软件;2001年07期
4 赵春红;刘国华;王柠;何玲玲;;外包数据库模型中文本数据的完整性检测方案[J];小型微型计算机系统;2010年09期
5 仲志平;刘渝妍;翟从鸿;;基于BWC的XML文本数据索引技术[J];安徽师范大学学报(自然科学版);2011年03期
6 仲志平;刘渝妍;孙建洪;;基于BWC的XML文本数据索引技术研究[J];昆明学院学报;2011年03期
7 杜德生;田小军;;Lucene应用中Pdf文档文本数据提取方法研究[J];自动化技术与应用;2009年03期
8 王成强;;基于不平衡数据集的文本分类技术[J];电脑知识与技术;2009年36期
9 孙开放;使用通信控件实现字节通信方式[J];微计算机信息;2002年03期
10 薛冰冰,普杰信;数据挖掘技术及其在电子邮件中的应用[J];信息技术;2003年07期
11 崔时珍;;纯文本数据在VFP中导入导出[J];电脑学习;2009年01期
12 王东兴,冷惠文;大量编程用文本数据的统一处理[J];鞍山钢铁学院学报;1997年06期
13 李文龙;保护文本数据案例的巧妙方法[J];计算机安全;2003年04期
14 ;保护文本数据安全的巧妙方法[J];电脑知识与技术;2003年13期
15 李文龙;保护文本数据安全的巧妙方法[J];网络与信息;2003年04期
16 于得海;王银;;巧借表格向Excel中导入文本数据[J];电脑迷;2006年09期
17 金凤霞;找回损坏磁盘中的文本数据[J];计算机周刊;1997年22期
18 周芝梅,陈志刚,李明山,何小巧;基于数据库的设计资料管理系统[J];南华大学学报(理工版);2001年02期
19 易树鸿;张为群;;一种基于粗集的文本数据特征信息的挖掘方法[J];计算机科学;2002年08期
20 李玉兰,黄海涛;房产图文数据管理技术[J];电脑学习;1996年02期
中国重要会议论文全文数据库 前10条
1 陈光强;杨树强;张晓辉;李润恒;贾焰;;面向海量文本数据的多任务并行调度加载技术研究与实现[A];第15届全国信息存储技术学术会议论文集[C];2008年
2 丁兆云;贾焰;周斌;;基于文本数据的多维层次式舆情计算模型的研究与实现[A];第二十五届中国数据库学术会议论文集(一)[C];2008年
3 蒋勇;陈晓静;;一种多方向手写文本行提取方法[A];第二十七届中国控制会议论文集[C];2008年
4 蔡嘉荣;印鉴;刘玉葆;黄志兰;;一种有效的文本聚类算法[A];第二十三届中国数据库学术会议论文集(技术报告篇)[C];2006年
5 杨艳;李巍;玄萍;;数字图书馆中基于Ontology的文本模型[A];黑龙江省计算机学会2009年学术交流年会论文集[C];2010年
6 彭泽映;俞晓明;许洪波;;大规模短文本的不完全聚类[A];第六届全国信息检索学术会议论文集[C];2010年
7 李虎;邹鹏;贾焰;周斌;;一种基于Map Reduce的分布式文本数据过滤模型研究[A];第26次全国计算机安全学术交流会论文集[C];2011年
8 苏变萍;侯筱婷;;文本数据的非线性降维方法研究[A];2007年全国开放式分布与并行计算机学术会议论文集(下册)[C];2007年
9 张小琴;蒋秀凤;;基于句子级的领域倾向词表构建[A];第五届全国青年计算语言学研讨会论文集[C];2010年
10 张丹;王静;;水利系统档案馆信息化管理[A];第十届中国科协年会文化强省战略与科技支撑论坛文集[C];2008年
中国博士学位论文全文数据库 前10条
1 孙晓华;基于聚类的文本机会发现关键问题研究[D];哈尔滨工程大学;2010年
2 杜伟夫;文本倾向性分析中的情感词典构建技术研究[D];哈尔滨工业大学;2010年
3 刘春辰;基于本体的企业搜索优化技术研究[D];吉林大学;2012年
4 朱岩;面向文本数据的半监督学习研究[D];北京交通大学;2012年
5 崔安颀;微博热点事件的公众情感分析研究[D];清华大学;2013年
6 王秀红;文本相似度计算核函数的构造及其在分布式信息检索中的应用研究[D];江苏大学;2012年
7 卢敏;具有自然分组特性文本的分类研究[D];南开大学;2013年
8 李芳;文本挖掘若干关键技术研究[D];北京化工大学;2010年
9 布凡;文本信息度量研究[D];清华大学;2013年
10 邓莎莎;支持决策研讨的文本分析方法研究[D];上海交通大学;2013年
中国硕士学位论文全文数据库 前10条
1 朱敏;基于丰心工学的情感信息可视化与充实度分析[D];北京邮电大学;2011年
2 徐淑坦;基于改进RBF神经网络的文本情感分类研究[D];吉林大学;2011年
3 曹亚辉;非结构文本最佳近似匹配系统的研究与实现[D];东华大学;2011年
4 李正林;中文文本数据分类研究[D];上海师范大学;2004年
5 罗晖霞;网络舆情监测系统研究与开发[D];中北大学;2010年
6 陈鸿;Web网页的时态文本索引研究[D];中国科学技术大学;2011年
7 暴自强;结合LSA的文本谱聚类算法研究[D];重庆大学;2010年
8 马桂香;评论文本的多方面观点挖掘研究[D];北京交通大学;2013年
9 黄文江;中文文本聚类算法分析与研究[D];上海交通大学;2010年
10 暴艳;多领域的文本情感倾向分类方法研究[D];山西大学;2012年
中国重要报纸全文数据库 前10条
1 曾华燊;化繁为简: 提升NGI服务质量[N];计算机世界;2006年
2 实习生 赵静记者 黄雪英;自贡馆藏文物数据库系统建立[N];自贡日报;2008年
3 Jim Goodnight;BI:演进中勾勒未来[N];网络世界;2007年
4 张耀南 杨海 韦五周 景通桥 张军强;寒区旱区数据管理平台[N];计算机世界;2006年
5 王;汇总通话、加速Web显示[N];中国计算机报;2001年
6 本报记者 谢斌鑫;视频的短板[N];中国计算机报;2004年
7 苏和;电子检务该如何推行[N];检察日报;2007年
8 ;BI的新方向[N];网络世界;2007年
9 金翔 王钰;全国文物普查通过验收[N];广元日报;2010年
10 杨前有;柞水建成土地利用现状数据库[N];商洛日报;2007年
中国知网广告投放
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978