收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

文本分类中的贝叶斯特征选择

冯国忠  
【摘要】:由于人们获取电子文档的能力不断增强,管理这些文档的需求也不断增加,人们对文本自动分类,即将文本自动分入预先定义的类别结构中的兴趣正迅速高涨。而文本分类中的一个重要问题就是特征选择,其目的是改善分类效果、提高计算效率、或者两者兼得。由于现实中的文本数据集往往存在着类别不均衡性以及特征稀疏性等特点,因此通过衡量特征与类别结构关系的不同侧面来判断各个特征的类别性质的过滤式方法会表现得比较差。此外,它们要么仅仅选择与类别相关的特征,要么在选择相关特征之后添加一个冗余性分析步骤。显然,这样的方法是会丢失具有交互作用的特征的。 本文将特征选择放在训练的过程中,通过学习的方法从一个带标签的文档集中学习类别结构属性,进而选择出最优的特征子集。我们给出了一个生成模型,通过引入一个两值“排除包含”的潜在向量来处理特征选择问题,最后使用一个高效的Metropolis搜索的方法来更新这个潜在向量。我们用边来刻画特征之间的相互关系,定义特征与类别的相关性。最后,我们将特征选择问题转换成了一个优化问题。 在朴素贝叶斯结构假设下,我们给出了一个贝叶斯特征选择范例,得到了贝叶斯类别特征因子,以及考虑特征类别性质不确定性的贝叶斯特征平均分类器。在树结构假设下,我们能在选择出交互作用特征的同时消去冗余特征。通过采用多重条件独立性检验确定特征支持图,并对树结构和参数采用可分解先验之后,问题变得易于处理了。实验结果证明了本文方法的有效性。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 龚静;曾莉;;用于文本分类的特征选择方法[J];湖南环境生物职业技术学院学报;2008年03期
2 袁剑锋;张启蕊;;医药信息文本分类系统中特征选择模块的研究[J];电脑知识与技术;2008年30期
3 洪亮;;文本分类中特征选择方法研究及分析[J];科技广场;2009年07期
4 林永民;朱卫东;;模糊kNN在文本分类中的应用研究[J];计算机应用与软件;2008年09期
5 吕震宇;赵爽;林永民;;kNN在文本分类中的应用研究[J];计算机与现代化;2008年11期
6 肖婷;唐雁;;改进的χ~2统计文本特征选择方法[J];计算机工程与应用;2009年14期
7 王博;贾焰;杨树强;周斌;;适用于不确定文本分类的特征选择算法[J];通信学报;2009年08期
8 黄迎春;李晓晔;邓文新;;文本挖掘技术的研究[J];齐齐哈尔大学学报;2006年03期
9 刘健;钱猛;张维明;;基于Fisher线性判别模型的文本特征选择算法[J];国防科技大学学报;2008年05期
10 吕彦红;陈基漓;阮百尧;;基于遗传算法的中文自动分类特征选择[J];山东理工大学学报(自然科学版);2009年01期
11 伍建军;康耀红;;基于改进的互信息特征选择的文本分类[J];计算机应用;2006年S2期
12 王晓微;;两种分类方法特征选择的比较[J];电子技术;2007年Z3期
13 朱颢东;钟勇;;使用优化模拟退火算法的文本特征选择[J];计算机工程与应用;2010年04期
14 符会涛;卡米力·木衣丁;;一种改进的文本特征选择方法的研究与设计[J];计算机应用与软件;2011年04期
15 刘洋;;中文文本分类中特征选择方法的比较研究[J];科技信息;2007年03期
16 裴志利;李志刚;王建;孔英;梁艳春;卢弈南;;一种基于改进互信息的文本分类方法[J];内蒙古民族大学学报(自然科学版);2007年04期
17 吕震宇;林永民;赵爽;陈景年;朱卫东;;基于类信息的文本特征选择与加权算法研究[J];计算机工程与应用;2008年20期
18 王卫玲;初建崇;许立科;;一种基于关联性的特征选择算法[J];计算机应用与软件;2009年08期
19 黄秀丽;王蔚;;一种改进的文本分类特征选择方法[J];计算机工程与应用;2009年36期
20 王博;贾焰;杨树强;韩伟红;;文本多分类中的特征选择研究[J];计算机工程与科学;2010年08期
中国重要会议论文全文数据库 前10条
1 张永;陈思睿;杨志勇;;一种改进的文本分类方法的研究[A];第二届全国信息检索与内容安全学术会议(NCIRCS-2005)论文集[C];2005年
2 徐燕;孙春明;王斌;李锦涛;;基于词条频率的特征选择算法研究[A];中文信息处理前沿进展——中国中文信息学会二十五周年学术会议论文集[C];2006年
3 刘功申;李建华;李生红;;基于类信息的特征选择和加权方法[A];NCIRCS2004第一届全国信息检索与内容安全学术会议论文集[C];2004年
4 伍建军;康耀红;;关于文本分类中特征降维方式的研究[A];第三届学生计算语言学研讨会论文集[C];2006年
5 徐燕;王斌;李锦涛;孙春明;;知识增益:文本分类中一种新的特征选择方法[A];第三届全国信息检索与内容安全学术会议论文集[C];2007年
6 陈克利;宗成庆;王霞;;基于大规模真实文本的平衡语料分析与文本分类方法[A];语言计算与基于内容的文本处理——全国第七届计算语言学联合学术会议论文集[C];2003年
7 王秀娟;郭军;郑康锋;;基于互信息可信度的特征选择方法[A];2006通信理论与技术新进展——第十一届全国青年通信学术会议论文集[C];2006年
8 陈庆轩;郑德权;郑博文;赵铁军;李生;;中文文本分类中基于文档频度分布的特征选择方法[A];黑龙江省计算机学会2009年学术交流年会论文集[C];2010年
9 肖婷;唐雁;;文本分类中特征选择方法及应用[A];2008年计算机应用技术交流会论文集[C];2008年
10 杜长海;吉根林;;模糊聚类的最大树法在文本分类中的应用研究[A];第二十二届中国数据库学术会议论文集(研究报告篇)[C];2005年
中国博士学位论文全文数据库 前10条
1 冯国忠;文本分类中的贝叶斯特征选择[D];东北师范大学;2011年
2 王博;文本分类中特征选择技术的研究[D];国防科学技术大学;2009年
3 章舜仲;文本分类中词共现关系的研究及其应用[D];南京理工大学;2010年
4 孟佳娜;迁移学习在文本分类中的应用研究[D];大连理工大学;2011年
5 程军;基于统计的文本分类技术研究[D];中国科学院研究生院(文献情报中心);2003年
6 李智星;用于文本分类的简明语义分析技术研究[D];重庆大学;2011年
7 宋枫溪;自动文本分类若干基本问题研究[D];南京理工大学;2004年
8 刘伍颖;面向垃圾信息过滤的主动多域学习文本分类方法研究[D];国防科学技术大学;2011年
9 韦娜;基于内容图像检索关键技术研究[D];西北大学;2006年
10 张颖;基于群集智能模式识别方法的研究[D];大连理工大学;2008年
中国硕士学位论文全文数据库 前10条
1 郭明;基于文本分类技术的文本情感倾向性研究[D];郑州大学;2010年
2 闫晨;KNN文本分类研究[D];燕山大学;2010年
3 段江丽;基于SVM的文本分类系统中特征选择与权重计算算法的研究[D];太原理工大学;2011年
4 董梅;文本内容的信息过滤技术研究[D];合肥工业大学;2006年
5 赵小华;KNN文本分类中特征词权重算法的研究[D];太原理工大学;2010年
6 孟杰;基于构造性覆盖算法的中文文本分类[D];安徽大学;2007年
7 马宏伟;基于SVM的中文文本分类系统的建模与实现[D];大连理工大学;2006年
8 王小燕;文本分类相关技术与应用研究[D];西北大学;2007年
9 杜圣东;基于多类支持向量机的文本分类研究[D];重庆大学;2007年
10 王新丽;中文文本分类系统的研究与实现[D];天津大学;2007年
中国重要报纸全文数据库 前10条
1 周晓娟;TD已过分水岭[N];通信产业报;2008年
2 天相投顾 闻群王聃聃;选基金需考虑风险承受力[N];中国证券报;2007年
3 中国科学院计算技术研究所 王 斌;内容为王[N];计算机世界;2004年
4 孙志伟;刘刚检查城防林建设[N];齐齐哈尔日报;2008年
5 郑卫东;高产鹅选种方法和标准[N];中国畜牧兽医报;2007年
6 高利华;传承陆游风骨 推进国际交流[N];人民日报海外版;2005年
7 海通证券 娄静吴先兴;把握风险收益特征选择最适合自己的基金[N];上海证券报;2007年
8 华泰证券 吴璟;权证投资:只买对的,不买便宜的[N];上海证券报;2008年
9 ;现代军队与智能战争[N];中国计算机报;2005年
10 张小明;如何选择供应链[N];现代物流报;2005年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978