收藏本站
《大连理工大学》 2010年
收藏 | 手机打开
二维码
手机客户端打开本文

词性标注体系对中文分词的影响

刘金宁  
【摘要】: 自然语言处理的重要的基本组成部分是分词。很多自然语言处理研究课题都是建立在分词基础上完成的。分词的准确程度会直接影响到其他后处理的正确率。汉语,由其自身的复杂性和多样性,决定了中文分词一直是中文自然语言处理中的重、难点项目。随着中国国际地位的提升,中文自然语言处理也被越来越多的自然语言领域的学者所关注,对中文分词的研究也越来越深入。 本文首先对中文分词进行了概述,分析了中文分词的现状和发展趋势。总结了中文分词遇到的几个难点。其次介绍了词性体系的构成,对词性标注进行了讲解,包括词性标注方法、词性体系的切分、标记规范和词性标注集的组成。然后对汉语分词模型进行了详细的描述。重点是有向图模型中的隐马尔可夫模型、最大熵隐马尔科夫模型和条件随机场模型。最后本分针对对中文分词的研究,进行了关于词性标注体系对中文分词影响的大量实验,通过实验对比不同条件随机场分词模型下的分词结果,研究词性标注体系对分词的影响,分析比较基于字的中文分词与基于词的中文分词方法。 基于实验,本文得出的主要结论如下:(1)比较有词性和无词性对同一语料的分词结果。在以词为单位的分词中,带有词性的结果要优于无词性的结果。(2)用带词性的分词工具比较不同词性标注集的分词结果。不同的词性标注体系中,词性分的粒度越细,对切分效果越好。(3)用CRFs对比基于字的分词与基于词的分词之间的分词标注结果。在OOV的切分,基于字的分词又一定的优势,而在IV的切分上,还是基于词的效果好。
【学位授予单位】:

知网文化
【相似文献】
中国期刊全文数据库 前20条
1 熊桂喜;李政;;基于规则和语料库的中文姓名识别研究[J];计算机与信息技术;2007年12期
2 李跃民;王浩;赵生慧;;有词典中文分词算法研究[J];滁州学院学报;2008年03期
3 许高建;胡学钢;路遥;王庆人;;一种改进的中文分词歧义消除算法研究[J];合肥工业大学学报(自然科学版);2008年10期
4 黄德根;焦世斗;周惠巍;;基于子词的双层CRFs中文分词[J];计算机研究与发展;2010年05期
5 孙殿哲;魏海平;陈岩;;Nutch中庖丁解牛中文分词的实现与评测[J];计算机与现代化;2010年06期
6 杨文涛;司应硕;张森;;GA-BP神经网络算法在中文分词分析中的应用研究[J];河南机电高等专科学校学报;2010年04期
7 孙乐;方自金;;基于互联网的信息采集系统的设计与实现[J];河北大学成人教育学院学报;2010年04期
8 陈红英,李卫华;智能信息Agent的研究和实现[J];计算机工程与应用;2002年12期
9 林珊,宁国宁,赵之霖;中文分词在邮件过滤系统中的应用[J];华南理工大学学报(自然科学版);2004年S1期
10 王坚,赵恒永;专业搜索引擎中文分词算法的实现与研究[J];福建电脑;2005年07期
11 许敏;周伟灿;;CAD电子图管理系统中全文检索的研究[J];微计算机信息;2006年19期
12 山岚;赵英;徐耀;王坚;张莹莹;;专业搜索引擎系统的设计与实现[J];微计算机信息;2007年06期
13 祁文青;;一种改进的中文分词算法[J];黄石理工学院学报;2007年04期
14 徐飞;孙劲光;;基于一种粗切分的最短路径中文分词研究[J];计算机与信息技术;2007年11期
15 张恒;杨文昭;屈景辉;卢虹冰;张亮;赵飞;;基于词典和词频的中文分词方法[J];微计算机信息;2008年03期
16 梁卓明;陈炬桦;;基于专有名词优先的快速中文分词[J];计算机技术与发展;2008年03期
17 沈勤中;周国栋;朱巧明;孔芳;丁金涛;;基于字位置概率特征的条件随机场中文分词方法[J];苏州大学学报(自然科学版);2008年03期
18 刘健;张维明;;一种快速的交集型歧义检测方法[J];计算机应用研究;2008年11期
19 谷俊;;基于互联网的信息采集系统的设计与实现[J];情报探索;2008年12期
20 马志强;刘利民;苏依拉;马瑞明;;基于Lucene的站内搜索引擎研究[J];内蒙古工业大学学报(自然科学版);2009年01期
中国重要会议论文全文数据库 前10条
1 王敏;叶宽余;薛峰;;一种面向网店商品搜索的中文分词系统设计[A];全国第22届计算机技术与应用学术会议(CACIS·2011)暨全国第3届安全关键技术与应用(SCA·2011)学术会议论文摘要集[C];2011年
2 修驰;宋柔;;基于“大词”实例的中文分词研究[A];中国计算语言学研究前沿进展(2009-2011)[C];2011年
3 张梅山;邓知龙;车万翔;刘挺;;统计与词典相结合的领域自适应中文分词[A];中国计算语言学研究前沿进展(2009-2011)[C];2011年
4 韩冬煦;常宝宝;;基于边界熵和卡方统计量的多领域适应性中文分词方法[A];中国计算语言学研究前沿进展(2009-2011)[C];2011年
5 赵海;揭春雨;;基于子串标注的中文分词:寻找更佳的标注单元[A];内容计算的研究与应用前沿——第九届全国计算语言学学术会议论文集[C];2007年
6 彭辉;翟翔;;AutoCAD 2008自动翻译软件研发[A];全国冶金自动化信息网2010年年会论文集[C];2010年
7 王屹林;朱慕华;朱靖波;;针对SVM中文分词特性的个性化后处理设计[A];第三届学生计算语言学研讨会论文集[C];2006年
8 刘东生;尹宝生;张桂平;徐立军;苗雪雷;;面向专利文献的中文分词技术的研究[A];第五届全国信息检索学术会议论文集[C];2009年
9 戴莉;周明全;武仲科;王永恒;王燕妮;周曼;;Lucene在智能答疑系统中的应用研究[A];图像图形技术与应用进展——第三届图像图形技术与应用学术会议论文集[C];2008年
10 黄昌宁;赵海;;由字构词——中文分词新方法[A];中文信息处理前沿进展——中国中文信息学会二十五周年学术会议论文集[C];2006年
中国重要报纸全文数据库 前10条
1 清华大学IT可用性实验室;2005中文搜索引擎质量对比[N];计算机世界;2005年
2 本报记者 张彤;让计算机说中国话[N];网络世界;2004年
3 记者 吴苡婷;用技术挖出网络信息中“金子”[N];上海科技报;2009年
4 中国科学院计算技术研究所 王 斌;内容为王[N];计算机世界;2004年
5 贺俊;汇聚亿万草根智慧 奇虎发布经验搜索[N];证券日报;2006年
6 记者 杨朝晖;医药搜索:不再“众里寻他千百度”[N];科技日报;2007年
7 张韬;谷歌推出“谷歌拼音”力拼百度[N];上海证券报;2007年
8 王翌;互联网2005:个性化生存[N];计算机世界;2005年
9 记者 李霆钧;国内首个“影视剧植入广告分析系统”出炉[N];中国电影报;2010年
10 李永胜;在中文网页搜索质量上 Google险胜百度[N];中国计算机报;2007年
中国博士学位论文全文数据库 前10条
1 修驰;适应于不同领域的中文分词方法研究与实现[D];北京工业大学;2013年
2 何嘉;基于遗传算法优化的中文分词研究[D];电子科技大学;2012年
3 孙越恒;基于统计的NLP技术在中文信息检索中的应用研究[D];天津大学;2005年
4 孙道军;文本挖掘预处理相关基础技术分析与应用研究[D];北京邮电大学;2008年
5 杨传耀;中文信息检索索引模型及相关技术研究[D];复旦大学;2007年
6 陈博;WEB文本情感分类中关键问题的研究[D];北京邮电大学;2008年
7 任飞亮;高适应性基于实例的机器翻译中关键技术研究[D];东北大学;2008年
8 张京楣;基于统计方法的文本风格分析研究[D];山东大学;2012年
9 张友华;面向智能服务的Web内容计算研究与应用[D];中国科学技术大学;2006年
10 汤步洲;序列标注问题的监督学习方法及应用[D];哈尔滨工业大学;2011年
中国硕士学位论文全文数据库 前10条
1 马忠宝;基于支持向量机的中文文本分类系统研究[D];武汉理工大学;2006年
2 杨彦;基于Hash结构的机械统计分词系统[D];中南大学;2005年
3 戚晶;基于RSS的搜索引擎的研究与实现[D];吉林大学;2006年
4 马莉;基于SVM的垃圾邮件过滤的研究[D];山东大学;2005年
5 王新梅;基于内容挖掘的垃圾邮件过滤技术[D];武汉理工大学;2006年
6 李培国;基于人工神经网的中文垃圾邮件过滤器的设计与实现[D];暨南大学;2007年
7 刘琨;搜索引擎的研究与实现[D];西安电子科技大学;2004年
8 王圆;文本内容过滤的关键技术研究[D];东北师范大学;2006年
9 李东海;基于Nutch技术的主题搜索引擎实现[D];吉林大学;2008年
10 孟美华;桌面搜索引擎的设计与实现[D];大连理工大学;2009年
中国知网广告投放
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978