收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

基于N-Gram模型的藏文文本分类技术研究

周登  
【摘要】:信息时代的到来,Internet上出现了爆炸式增长的信息资源。为了让人们不被这些海量的信息淹没,我们需要一种有效的方法对这些信息资源进行分类管理。对于怎样利用这些信息,文本分类起着非常重要的作用,它可以有效地组织和管理这些信息,从而提高信息搜索的效率。 本文对藏文文本分类及其相关技术进行了深入的研究,在分类中应用了一种不需分词的藏文文本表示方法。与传统其他藏文文本分类模型相比,该方法在音节的级别上利用了N元语法模型,由于进行文本表示时无需进行分词,藏文文本分类系统可以并且节省大量预处理过程中使用的计算资源。其次对目前常用的文本表示模型进行了分析比较,同时对藏文文本N ? Gram模型的表示进行了深入的研究,并对该模型中参数N的选取以及藏文文本分类系统的各个功能进行讨论;在第四章中本文对系统的核心功能分类器进行了详细论述,藏文文本分类系统选择的是多项式朴素贝叶斯分类器,该分类器通过与N ? Gram模型相结合能够取得良好的分类效果;最后,由于特征集中存在大量高度重叠特征和高度偏差特征,本文使用降维方法δ? OR,将高度重叠的Bigram特征提升到对应的Trigram特征。实验证明δ? OR方法不仅实现了特征降维,消除了冗余信息,而且提高了特征的描述能力和分类能力,在一定降维度范围内,还会适当改善分类效果。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 郑海,林鸿飞;基于段落匹配的文本分类机制[J];计算机工程与应用;2004年28期
2 王丁,运海红,张辉;文本自动分类系统的研究与实现[J];信息技术;2005年03期
3 杜志文;曾文华;;网格计算在文本分类中的应用[J];微电子学与计算机;2006年S1期
4 崔彩霞;王素格;;基于粗集的支持向量机文本分类方法研究[J];科技广场;2006年08期
5 马忠宝;刘冠蓉;;基于支持向量机的中文文本分类模型研究[J];计算机技术与发展;2006年11期
6 张燕;寒枫;楚红涛;;文本挖掘简述[J];中国电力教育;2006年S3期
7 祝晓鲁;白振兴;贾海燕;;自动文本分类技术研究[J];现代电子技术;2007年03期
8 张桂芸;刘洋;王元元;;基于模糊认知图的文本分类推理算法[J];计算机工程与应用;2007年12期
9 陈莲娜;姚伏天;;用于文本分类的多核SVM算法研究[J];计算机工程;2007年09期
10 王倩倩;段震;张燕平;;基于交叉覆盖算法的文本分类[J];计算机技术与发展;2007年06期
11 董梅;胡学钢;;基于多特征选择的中文文本分类[J];计算机技术与发展;2007年07期
12 巩知乐;张德贤;;文本挖掘理论概述[J];福建电脑;2008年09期
13 张春红;;文本分类技术应用于学科导航分类的可行性探讨[J];情报科学;2009年07期
14 陶兰,申军霞;文本信息自动分类系统ITC98(Ⅰ)──ITC98总体结构与编码子系统[J];中国农业大学学报;1999年04期
15 李钝,梁吉业;利用聚类和粗糙集进行文本分类研究[J];计算机工程与应用;2003年07期
16 韩家新,何华灿;SVMDT分类器及其在文本分类中的应用研究[J];计算机应用研究;2004年01期
17 王天江,叶卫国,卢正鼎,李永平;LSI和kNN相结合的文本分类模型研究[J];华中科技大学学报(自然科学版);2004年04期
18 卢娇丽,郑家恒;基于粗糙集的文本分类方法研究[J];中文信息学报;2005年02期
19 陈文亮,朱慕华,朱靖波,姚天顺;基于Bootstrapping的文本分类模型[J];中文信息学报;2005年02期
20 包学超 ,孙强 ,李生红;隐性语义的SVM文本分类模型[J];信息安全与通信保密;2005年05期
中国重要会议论文全文数据库 前10条
1 陈克利;宗成庆;王霞;;基于大规模真实文本的平衡语料分析与文本分类方法[A];语言计算与基于内容的文本处理——全国第七届计算语言学联合学术会议论文集[C];2003年
2 杜长海;吉根林;;模糊聚类的最大树法在文本分类中的应用研究[A];第二十二届中国数据库学术会议论文集(研究报告篇)[C];2005年
3 刘秉权;李博;孙林;王宝勋;刘远超;;标签特征和正文特征融合的SVM博客文本分类算法研究[A];第六届全国信息检索学术会议论文集[C];2010年
4 海丽且木·艾沙;维尼拉·木沙江;;Web文本分类及其维、哈、柯多文种信息检索中的应用研究[A];少数民族青年自然语言处理技术研究与进展——第三届全国少数民族青年自然语言信息处理、第二届全国多语言知识库建设联合学术研讨会论文集[C];2010年
5 贾会强;刘晓丽;于洪志;;基于词性特征提取的藏文文本分类方法研究[A];CCF NCSC 2011——第二届中国计算机学会服务计算学术会议论文集[C];2011年
6 商炳章;白清源;;基于特征项权重改进的关联文本分类[A];第二十五届中国数据库学术会议论文集(二)[C];2008年
7 胡俊;黄厚宽;;一种基于SVM的可视化文本分类的方法[A];第二十一届中国数据库学术会议论文集(技术报告篇)[C];2004年
8 朱慕华;陈文亮;朱靖波;;词聚类在文本分类中的应用[A];第二届全国学生计算语言学研讨会论文集[C];2004年
9 王小华;陆蓓;张国煊;;文本自动分类的模糊方法[A];自然语言理解与机器翻译——全国第六届计算语言学联合学术会议论文集[C];2001年
10 庞剑锋;程学旗;;反馈方法在文本分类系统中的应用[A];自然语言理解与机器翻译——全国第六届计算语言学联合学术会议论文集[C];2001年
中国博士学位论文全文数据库 前10条
1 章舜仲;文本分类中词共现关系的研究及其应用[D];南京理工大学;2010年
2 孟佳娜;迁移学习在文本分类中的应用研究[D];大连理工大学;2011年
3 李智星;用于文本分类的简明语义分析技术研究[D];重庆大学;2011年
4 刘伍颖;面向垃圾信息过滤的主动多域学习文本分类方法研究[D];国防科学技术大学;2011年
5 王博;文本分类中特征选择技术的研究[D];国防科学技术大学;2009年
6 李荣陆;文本分类及其相关技术研究[D];复旦大学;2005年
7 平源;基于支持向量机的聚类及文本分类研究[D];北京邮电大学;2012年
8 冯国忠;文本分类中的贝叶斯特征选择[D];东北师范大学;2011年
9 程军;基于统计的文本分类技术研究[D];中国科学院研究生院(文献情报中心);2003年
10 万源;基于语义统计分析的网络舆情挖掘技术研究[D];武汉理工大学;2012年
中国硕士学位论文全文数据库 前10条
1 张彪;文本分类中特征选择算法的分析与研究[D];中国科学技术大学;2010年
2 张保富;基于粗糙集的中文文本分类算法研究及应用[D];江苏大学;2010年
3 蒋健;文本分类中特征提取和特征加权方法研究[D];重庆大学;2010年
4 闫晨;KNN文本分类研究[D];燕山大学;2010年
5 苏小康;基于维基百科构建语义知识库及其在文本分类领域的应用研究[D];华中师范大学;2010年
6 李璇;基于坐标下降法的半监督学习算法及其在文本分类中的应用[D];华南理工大学;2010年
7 宋志理;基于LDA模型的文本分类研究[D];西安理工大学;2010年
8 郭志毅;基于EM算法的半监督文本分类方法研究[D];重庆邮电大学;2010年
9 郭明;基于文本分类技术的文本情感倾向性研究[D];郑州大学;2010年
10 段江丽;基于SVM的文本分类系统中特征选择与权重计算算法的研究[D];太原理工大学;2011年
中国重要报纸全文数据库 前10条
1 本报记者 王向华;藏文图书“走进”藏区农家书屋[N];四川日报;2009年
2 本报记者 康 丽 茅卫东;阿牛和他的普利藏文学校[N];中国教师报;2005年
3 记者 王杰;藏文软件推广应用项目启动仪式在拉萨举行[N];西藏日报;2009年
4 记者 涂洪长;手机藏文资讯研发启动[N];人民日报海外版;2009年
5 德吉 边巴次仁;藏文走在我国少数民族文字信息化前列[N];中国民族报;2008年
6 本报记者 王坤宁;我国藏文出版驶入快车道[N];中国新闻出版报;2009年
7 涂洪长;手机藏文资讯研发启动 藏文将畅游无线通信网络[N];中国民族报;2009年
8 记者 张黎黎 晓勇;让藏文驰骋在信息高速路上[N];西藏日报;2010年
9 记者 朗杰 裘立华;藏文词典越来越厚[N];新华每日电讯;2002年
10 记者 根秋多吉 克珠;本报选送的10件藏文新闻作品获奖[N];甘孜日报(汉文);2007年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978