收藏本站
《东北师范大学》 2011年
收藏 | 手机打开
二维码
手机客户端打开本文

文本分类中的贝叶斯特征选择

冯国忠  
【摘要】:由于人们获取电子文档的能力不断增强,管理这些文档的需求也不断增加,人们对文本自动分类,即将文本自动分入预先定义的类别结构中的兴趣正迅速高涨。而文本分类中的一个重要问题就是特征选择,其目的是改善分类效果、提高计算效率、或者两者兼得。由于现实中的文本数据集往往存在着类别不均衡性以及特征稀疏性等特点,因此通过衡量特征与类别结构关系的不同侧面来判断各个特征的类别性质的过滤式方法会表现得比较差。此外,它们要么仅仅选择与类别相关的特征,要么在选择相关特征之后添加一个冗余性分析步骤。显然,这样的方法是会丢失具有交互作用的特征的。 本文将特征选择放在训练的过程中,通过学习的方法从一个带标签的文档集中学习类别结构属性,进而选择出最优的特征子集。我们给出了一个生成模型,通过引入一个两值“排除包含”的潜在向量来处理特征选择问题,最后使用一个高效的Metropolis搜索的方法来更新这个潜在向量。我们用边来刻画特征之间的相互关系,定义特征与类别的相关性。最后,我们将特征选择问题转换成了一个优化问题。 在朴素贝叶斯结构假设下,我们给出了一个贝叶斯特征选择范例,得到了贝叶斯类别特征因子,以及考虑特征类别性质不确定性的贝叶斯特征平均分类器。在树结构假设下,我们能在选择出交互作用特征的同时消去冗余特征。通过采用多重条件独立性检验确定特征支持图,并对树结构和参数采用可分解先验之后,问题变得易于处理了。实验结果证明了本文方法的有效性。
【学位授予单位】:东北师范大学
【学位级别】:博士
【学位授予年份】:2011
【分类号】:TP391.1;O212.8

【引证文献】
中国博士学位论文全文数据库 前1条
1 安百国;关于模型稀疏性的研究[D];东北师范大学;2012年
【参考文献】
中国博士学位论文全文数据库 前1条
1 郝立柱;汉语文本自动分类[D];吉林大学;2008年
【共引文献】
中国期刊全文数据库 前10条
1 范生万;王浩;;贝叶斯网络在高职英语应用能力考试中的应用研究[J];安徽工程科技学院学报(自然科学版);2007年04期
2 范生万;;贝叶斯网络分类模型在教育中的应用研究[J];安徽建筑工业学院学报(自然科学版);2008年01期
3 濮永仙;;贝叶网在农业专家系统中的研究与应用[J];安徽农业科学;2011年07期
4 王翠莲;刘晓;;复合泊松分布参数估计的EM算法[J];安徽师范大学学报(自然科学版);2011年02期
5 姚劢;;t(n)分布及其渐近性质[J];安庆师范学院学报(自然科学版);2007年01期
6 陈景年;黄厚宽;杨莉萍;田凤占;;基于分布不完整数据选择性分类器[J];北京交通大学学报;2008年02期
7 陈景年;黄厚宽;徐力;伊传环;;利用增益率构建混合型选择性不完整数据分类器[J];北京交通大学学报;2009年05期
8 王中锋;王志海;付彬;;贝叶斯网络分类器结构与变量分布的差异性分析[J];北京交通大学学报;2011年02期
9 吴秀鹏;李文泽;俞康伦;;贝叶斯网络在维修保障决策中的应用[J];兵工自动化;2007年05期
10 范文兵;王全全;雷天友;邢军阳;;基于Relief算法的故障图像识别与匹配方法[J];兵工自动化;2010年10期
中国重要会议论文全文数据库 前10条
1 程泽凯;泰锋;;贝叶斯网络分类器结构学习:基于启发式的G2算法[A];2005年“数字安徽”博士科技论坛论文集[C];2005年
2 杨波;秦锋;程泽凯;;一种新的分类学习系统评估度量[A];2005年“数字安徽”博士科技论坛论文集[C];2005年
3 赵越岭;王英丽;;基于粗糙集感应电动机故障诊断决策规则分析[A];第二十七届中国控制会议论文集[C];2008年
4 ;Gas Thickness On-line Monitoring Instrument Design Based on BP Neural Network[A];第二十七届中国控制会议论文集[C];2008年
5 胡清华;常军涛;鲍文;于达仁;;高超声速发动机进气道起动/不起动模式分析[A];第二十九届中国控制会议论文集[C];2010年
6 ;Fault Diagnosis Based on Bayesian Networks for the Data Incomplete Industrial System[A];中国自动化学会控制理论专业委员会A卷[C];2011年
7 刘向南;王浩;姚宏亮;;一种基于x~2测试的贪婪搜索结构学习算法[A];2011中国仪器仪表与测控技术大会论文集[C];2011年
8 刘振;代进进;王毅;;贝叶斯网络推理与算法[A];2006北京地区高校研究生学术交流会——通信与信息技术会议论文集(下)[C];2006年
9 ;A Recursive Method of Learning Bayesian Network for Rule Extraction Based on Information Theory[A];第一届建立和谐人机环境联合学术会议(HHME2005)论文集[C];2005年
10 ;The Intelligent Methods for Teaching Quality Comprehensive Assessment[A];Proceedings of the 2011 Chinese Control and Decision Conference(CCDC)[C];2011年
中国博士学位论文全文数据库 前10条
1 刘家国;基于突发事件风险的供应链利益分配与行为决策研究[D];哈尔滨工程大学;2010年
2 孟宇龙;基于本体的多源异构安全数据聚合[D];哈尔滨工程大学;2010年
3 李炳龙;文档碎片取证关键技术研究[D];解放军信息工程大学;2007年
4 宫轶松;粒子滤波算法研究及其在GPS/DR组合导航中的应用[D];解放军信息工程大学;2010年
5 高志明;通感研究[D];福建师范大学;2010年
6 鄢显俊;信息垄断:信息技术革命视阈里的当代资本主义新变化[D];云南大学;2010年
7 朱佳俊;不确定可拓群决策优化方法及应用[D];东华大学;2010年
8 曾献辉;服饰智能适配系统的研究与应用[D];东华大学;2010年
9 张翔;文本挖掘技术研究及其在综合风险信息网络中的应用[D];西北大学;2011年
10 王中锋;树型贝叶斯网络分类器鉴别式训练研究[D];北京交通大学;2011年
中国硕士学位论文全文数据库 前10条
1 郑伟;MDL算法用于时间梯度设计试验猪骨骼肌基因调控网络分析上的研究[D];华中农业大学;2010年
2 韦师;几种分布参数的E-Bayes估计及其应用[D];广西师范学院;2010年
3 雷斌;基于Java技术的智能化搜索引擎的研究与设计[D];哈尔滨工程大学;2010年
4 李冠广;基于贝叶斯网络的入侵检测[D];大连理工大学;2010年
5 丛晓芳;中职实践课教师专业自主权问题研究[D];辽宁师范大学;2010年
6 刘伟丽;基于粒子群算法和支持向量机的中文文本分类研究[D];河南工业大学;2010年
7 张正华;手·火·语言—元工具论[D];广西民族大学;2010年
8 张蕾;保险业客户忠诚模式设计与挖掘[D];哈尔滨理工大学;2010年
9 于柏森;发动机机械故障诊断系统分类器设计[D];长春工业大学;2010年
10 李雪瑞;旅游资源整合评价分类方法与指标体系研究[D];南昌大学;2010年
【同被引文献】
中国博士学位论文全文数据库 前1条
1 郝立柱;汉语文本自动分类[D];吉林大学;2008年
【二级参考文献】
中国期刊全文数据库 前10条
1 陈为正,符根方,龚元明;图象、文本、数据库信息管理系统[J];北京理工大学学报;1994年01期
2 王里平,郝立柱;通用数据访问技术分析[J];电脑开发与应用;2003年06期
3 王里平,郝立柱;面向在线需求的程序设计研究[J];电脑开发与应用;2003年08期
4 徐魁生,郝立柱;面向在线需求的信息管理系统数学模型的构建[J];大庆石油学院学报;2005年03期
5 郝立柱;Foxpro系统处理外部命令的缺陷及解决策略[J];黑龙江大学自然科学学报;2000年02期
6 郝立柱,冯涛,程美玉;无穷结点非续长码编码方案在屏幕图象压缩上的应用[J];黑龙江大学自然科学学报;1998年03期
7 郝立柱;LB控制平台构建原理与实现[J];黑龙江科技学院学报;2004年03期
8 李晓黎,刘继敏,史忠植;概念推理网及其在文本分类中的应用[J];计算机研究与发展;2000年09期
9 杨祖龙,吴国平;递归算法在树型视图中的应用[J];计算机工程;2002年11期
10 宋枫溪,高林;文本分类器性能评估指标[J];计算机工程;2004年13期
中国硕士学位论文全文数据库 前1条
1 裴艳波;多重假设检验问题中关于三种错误测度-FWER,FDR和pFDR的讨论[D];东北师范大学;2005年
【相似文献】
中国期刊全文数据库 前10条
1 龚静;曾莉;;用于文本分类的特征选择方法[J];湖南环境生物职业技术学院学报;2008年03期
2 袁剑锋;张启蕊;;医药信息文本分类系统中特征选择模块的研究[J];电脑知识与技术;2008年30期
3 洪亮;;文本分类中特征选择方法研究及分析[J];科技广场;2009年07期
4 林永民;朱卫东;;模糊kNN在文本分类中的应用研究[J];计算机应用与软件;2008年09期
5 吕震宇;赵爽;林永民;;kNN在文本分类中的应用研究[J];计算机与现代化;2008年11期
6 肖婷;唐雁;;改进的χ~2统计文本特征选择方法[J];计算机工程与应用;2009年14期
7 王博;贾焰;杨树强;周斌;;适用于不确定文本分类的特征选择算法[J];通信学报;2009年08期
8 黄迎春;李晓晔;邓文新;;文本挖掘技术的研究[J];齐齐哈尔大学学报;2006年03期
9 刘健;钱猛;张维明;;基于Fisher线性判别模型的文本特征选择算法[J];国防科技大学学报;2008年05期
10 吕彦红;陈基漓;阮百尧;;基于遗传算法的中文自动分类特征选择[J];山东理工大学学报(自然科学版);2009年01期
中国重要会议论文全文数据库 前10条
1 张永;陈思睿;杨志勇;;一种改进的文本分类方法的研究[A];第二届全国信息检索与内容安全学术会议(NCIRCS-2005)论文集[C];2005年
2 徐燕;孙春明;王斌;李锦涛;;基于词条频率的特征选择算法研究[A];中文信息处理前沿进展——中国中文信息学会二十五周年学术会议论文集[C];2006年
3 刘功申;李建华;李生红;;基于类信息的特征选择和加权方法[A];NCIRCS2004第一届全国信息检索与内容安全学术会议论文集[C];2004年
4 伍建军;康耀红;;关于文本分类中特征降维方式的研究[A];第三届学生计算语言学研讨会论文集[C];2006年
5 徐燕;王斌;李锦涛;孙春明;;知识增益:文本分类中一种新的特征选择方法[A];第三届全国信息检索与内容安全学术会议论文集[C];2007年
6 陈克利;宗成庆;王霞;;基于大规模真实文本的平衡语料分析与文本分类方法[A];语言计算与基于内容的文本处理——全国第七届计算语言学联合学术会议论文集[C];2003年
7 王秀娟;郭军;郑康锋;;基于互信息可信度的特征选择方法[A];2006通信理论与技术新进展——第十一届全国青年通信学术会议论文集[C];2006年
8 陈庆轩;郑德权;郑博文;赵铁军;李生;;中文文本分类中基于文档频度分布的特征选择方法[A];黑龙江省计算机学会2009年学术交流年会论文集[C];2010年
9 肖婷;唐雁;;文本分类中特征选择方法及应用[A];2008年计算机应用技术交流会论文集[C];2008年
10 杜长海;吉根林;;模糊聚类的最大树法在文本分类中的应用研究[A];第二十二届中国数据库学术会议论文集(研究报告篇)[C];2005年
中国重要报纸全文数据库 前10条
1 周晓娟;TD已过分水岭[N];通信产业报;2008年
2 天相投顾 闻群王聃聃;选基金需考虑风险承受力[N];中国证券报;2007年
3 中国科学院计算技术研究所 王 斌;内容为王[N];计算机世界;2004年
4 孙志伟;刘刚检查城防林建设[N];齐齐哈尔日报;2008年
5 郑卫东;高产鹅选种方法和标准[N];中国畜牧兽医报;2007年
6 高利华;传承陆游风骨 推进国际交流[N];人民日报海外版;2005年
7 海通证券 娄静吴先兴;把握风险收益特征选择最适合自己的基金[N];上海证券报;2007年
8 华泰证券 吴璟;权证投资:只买对的,不买便宜的[N];上海证券报;2008年
9 ;现代军队与智能战争[N];中国计算机报;2005年
10 张小明;如何选择供应链[N];现代物流报;2005年
中国博士学位论文全文数据库 前10条
1 冯国忠;文本分类中的贝叶斯特征选择[D];东北师范大学;2011年
2 王博;文本分类中特征选择技术的研究[D];国防科学技术大学;2009年
3 章舜仲;文本分类中词共现关系的研究及其应用[D];南京理工大学;2010年
4 孟佳娜;迁移学习在文本分类中的应用研究[D];大连理工大学;2011年
5 程军;基于统计的文本分类技术研究[D];中国科学院研究生院(文献情报中心);2003年
6 李智星;用于文本分类的简明语义分析技术研究[D];重庆大学;2011年
7 宋枫溪;自动文本分类若干基本问题研究[D];南京理工大学;2004年
8 刘伍颖;面向垃圾信息过滤的主动多域学习文本分类方法研究[D];国防科学技术大学;2011年
9 韦娜;基于内容图像检索关键技术研究[D];西北大学;2006年
10 张颖;基于群集智能模式识别方法的研究[D];大连理工大学;2008年
中国硕士学位论文全文数据库 前10条
1 郭明;基于文本分类技术的文本情感倾向性研究[D];郑州大学;2010年
2 闫晨;KNN文本分类研究[D];燕山大学;2010年
3 段江丽;基于SVM的文本分类系统中特征选择与权重计算算法的研究[D];太原理工大学;2011年
4 董梅;文本内容的信息过滤技术研究[D];合肥工业大学;2006年
5 赵小华;KNN文本分类中特征词权重算法的研究[D];太原理工大学;2010年
6 孟杰;基于构造性覆盖算法的中文文本分类[D];安徽大学;2007年
7 马宏伟;基于SVM的中文文本分类系统的建模与实现[D];大连理工大学;2006年
8 王小燕;文本分类相关技术与应用研究[D];西北大学;2007年
9 杜圣东;基于多类支持向量机的文本分类研究[D];重庆大学;2007年
10 王新丽;中文文本分类系统的研究与实现[D];天津大学;2007年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026