收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

特征耦合泛化及其在文体挖掘中的应用

李彦鹏  
【摘要】:文本挖掘(Text Mining)技术是利用计算机程序自动读取和理解自然语言文本,并从中发现有价值的信息,从而提高人们的工作效率。随着信息技术的飞速发展和互联网时代的来临,该技术拥有了很大的实际应用价值和广阔的应用前景。在处理文本挖掘问题的方法中,基于机器学习(Machine Learning)的方法得到了广泛的应用,在很多实验中取得了较好的效果。特征表示(Feature Representation)是机器学习方法中至关重要的一步,很大程度决定了系统效果的高低,然而在传统的基于局部特征的监督学习(Supervised Learning)策略中,由于已标注训练集中的样本数量有限,存在着数据稀疏问题,即产生了很多低频特征,由于缺少信息量这些特征在机器学习过程中往往得不到好的利用,这种影响在文本挖掘和自然语言处理任务中更为严重。针对此问题,本文研究如何利用未标注数据将这些被忽略的特征转化成更富有信息量的新特征,从而可以激发出这些特征潜在的作用,达到提高系统的性能的目的。本文提出了一种新的特征构建方法—特征耦合泛化(Feature Coupling Generalization, FCG),该方法利用原始特征在海量未标注数据中的共现信息以及特征间的概念层次关系生成新的特征。相比于原始特征,新特征具有更丰富的信息量和更泛化的表示。本文讨论了该方法中各种因素对系统性能的影响,并通过实验验证该方法在文本挖掘任务中的效果。 本文将FCG方法应用于三个经典的文本挖掘任务:命名实体识别(Named Entity Recognition)、关系抽取(Relation Extraction)、文本分类(Text Classification),对每个任务进行了详细的研究,从不同角度比较了经典特征与FCG方法的效果、检验了FCG方法所带来的贡献,并通过观测低频特征在不同方法中的效果分析了FCG方法有效的原因以及对数据稀疏问题的解决情况。实验结果显示,FCG可以将传统方法中被忽略的低频特征转化为有效的特征,在传统方法的基础上有显著的提高,而且FCG方法可以很容易的应用于海量的未标注数据,这是相比于其他半监督学习方法(Semi-supervised Learning)的优势。更有趣的现象是,仅仅使用FCG方法所生成的新特征的效果普遍好于经典的特征,这说明该方法有可能在普遍的机器学习问题中取代经典特征表示方法,为特征生成的研究开辟了新的思路。此外,在公开评测数据上与其他研究者的对比结果显示,基于FCG方法的系统取得了很好的效果。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 高金勇;徐朝军;冯奕竸;;基于迭代的TFIDF在短文本分类中的应用[J];情报理论与实践;2011年06期
2 唐云;罗俊松;;基于粗糙集和BP神经网络的文本分类研究[J];计算机仿真;2011年06期
3 胥桂仙;向春丞;翁彧;赵小兵;杨国胜;;基于栏目的藏文网页文本自动分类方法[J];中文信息学报;2011年04期
4 张国梁;肖超锋;;基于SVM新闻文本分类的研究[J];电子技术;2011年08期
5 刘新生;厉锟;;基于BP神经网络的旅游突发事件文本分类系统的设计与实现[J];计算机与现代化;2011年07期
6 王斌;朴顺姬;邵华清;;基于粗糙集的KNN的WEB文本分类的研究[J];数字技术与应用;2011年08期
7 张春元;;基于条件随机场的文本分类模型[J];计算机技术与发展;2011年07期
8 卢志翔;蒙丽莉;;文本分类中特征项权重算法的改进[J];柳州师专学报;2011年04期
9 甄志龙;曾晓勤;韩立新;;文本分类中基于图模型的特征提取方法[J];情报科学;2011年08期
10 奉国和;;文本分类性能评价研究[J];情报杂志;2011年08期
11 奉国和;郑伟;;文本分类特征降维研究综述[J];图书情报工作;2011年09期
12 周国强;崔荣一;;基于朴素贝叶斯分类器的朝鲜语文本分类的研究[J];中文信息学报;2011年04期
13 胡泽文;王效岳;白如江;;国内外文本分类研究计量分析与综述[J];图书情报工作;2011年06期
14 冯霞;刘志辉;田继存;;基于假设检验的文本分类特征选择[J];信息与控制;2011年03期
15 张保富;施化吉;;一种基于粗糙集文本自动分类的改进算法[J];计算机工程与应用;2011年24期
16 杨金柱;刘金岭;;基于词语上下文的文本分类研究[J];计算机技术与发展;2011年08期
17 赖英旭;许昕;杨震;;基于尾项加权的自适应文本分类方法研究[J];中国科学技术大学学报;2011年07期
18 刘辉;应培培;;一种改进的KNN文本分类算法[J];信息安全与技术;2011年07期
19 潘正高;侯传宇;谈成访;;基于命名实体的Web新闻文本分类方法[J];合肥工业大学学报(自然科学版);2011年08期
20 陈叶旺;余金山;;一种改进的朴素贝叶斯文本分类方法[J];华侨大学学报(自然科学版);2011年04期
中国重要会议论文全文数据库 前10条
1 陈克利;宗成庆;王霞;;基于大规模真实文本的平衡语料分析与文本分类方法[A];语言计算与基于内容的文本处理——全国第七届计算语言学联合学术会议论文集[C];2003年
2 杜长海;吉根林;;模糊聚类的最大树法在文本分类中的应用研究[A];第二十二届中国数据库学术会议论文集(研究报告篇)[C];2005年
3 刘秉权;李博;孙林;王宝勋;刘远超;;标签特征和正文特征融合的SVM博客文本分类算法研究[A];第六届全国信息检索学术会议论文集[C];2010年
4 海丽且木·艾沙;维尼拉·木沙江;;Web文本分类及其维、哈、柯多文种信息检索中的应用研究[A];少数民族青年自然语言处理技术研究与进展——第三届全国少数民族青年自然语言信息处理、第二届全国多语言知识库建设联合学术研讨会论文集[C];2010年
5 商炳章;白清源;;基于特征项权重改进的关联文本分类[A];第二十五届中国数据库学术会议论文集(二)[C];2008年
6 胡俊;黄厚宽;;一种基于SVM的可视化文本分类的方法[A];第二十一届中国数据库学术会议论文集(技术报告篇)[C];2004年
7 朱慕华;陈文亮;朱靖波;;词聚类在文本分类中的应用[A];第二届全国学生计算语言学研讨会论文集[C];2004年
8 王小华;陆蓓;张国煊;;文本自动分类的模糊方法[A];自然语言理解与机器翻译——全国第六届计算语言学联合学术会议论文集[C];2001年
9 庞剑锋;程学旗;;反馈方法在文本分类系统中的应用[A];自然语言理解与机器翻译——全国第六届计算语言学联合学术会议论文集[C];2001年
10 贾会强;刘晓丽;于洪志;;基于词性特征提取的藏文文本分类方法研究[A];CCF NCSC 2011——第二届中国计算机学会服务计算学术会议论文集[C];2011年
中国博士学位论文全文数据库 前10条
1 章舜仲;文本分类中词共现关系的研究及其应用[D];南京理工大学;2010年
2 江会星;汉语命名实体识别研究[D];北京邮电大学;2012年
3 孟佳娜;迁移学习在文本分类中的应用研究[D];大连理工大学;2011年
4 李智星;用于文本分类的简明语义分析技术研究[D];重庆大学;2011年
5 刘伍颖;面向垃圾信息过滤的主动多域学习文本分类方法研究[D];国防科学技术大学;2011年
6 王博;文本分类中特征选择技术的研究[D];国防科学技术大学;2009年
7 冯国忠;文本分类中的贝叶斯特征选择[D];东北师范大学;2011年
8 平源;基于支持向量机的聚类及文本分类研究[D];北京邮电大学;2012年
9 程军;基于统计的文本分类技术研究[D];中国科学院研究生院(文献情报中心);2003年
10 万源;基于语义统计分析的网络舆情挖掘技术研究[D];武汉理工大学;2012年
中国硕士学位论文全文数据库 前10条
1 周昆;基于规则的命名实体识别研究[D];合肥工业大学;2010年
2 张佳宝;基于条件随机场的中文命名实体识别研究[D];国防科学技术大学;2010年
3 杨晓东;中文命名实体识别及若干相关问题的研究[D];江苏大学;2010年
4 张祝玉;基于条件随机场的中文命名实体识别[D];东北大学;2009年
5 孙静;基于组合分类器的生物命名实体识别[D];大连理工大学;2010年
6 张彪;文本分类中特征选择算法的分析与研究[D];中国科学技术大学;2010年
7 孟迎;基于统计的机器学习的中文命名实体识别[D];昆明理工大学;2004年
8 叶磊;电子公告系统环境中的数据挖掘技术设计与实现[D];华东交通大学;2009年
9 张保富;基于粗糙集的中文文本分类算法研究及应用[D];江苏大学;2010年
10 蒋健;文本分类中特征提取和特征加权方法研究[D];重庆大学;2010年
中国重要报纸全文数据库 前6条
1 中国科学院计算技术研究所 王 斌;内容为王[N];计算机世界;2004年
2 高利华;传承陆游风骨 推进国际交流[N];人民日报海外版;2005年
3 林木树;反垃圾邮件有待新突破[N];人民邮电;2004年
4 希安;微软试水信息检索[N];经济日报;2004年
5 王培森;从Web挖到竞争情报[N];中国计算机报;2003年
6 应晓敏 窦文华;技术架构[N];计算机世界;2003年
中国知网广告投放
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978