收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

基于分治法的Rough集高效数据挖掘方法研究

胡峰  
【摘要】:在诸多数据挖掘方法中,Rough集理论是一种新型的智能信息处理方法,它采用确定的方法处理不确定问题,已是处理模糊、不精确和不完备问题的重要数学工具Rough集通过数据预处理、离散化、知识约简(属性约简、属性值约简)等过程,对数据进行去粗取精、去伪存真,逐步地从原始数据集中获取知识。使用Rough集,可以对原始数据进行离散化、降维和知识约简等处理,逐步降低问题的复杂性,它是进行数据挖掘的一条有效途径。 但是,作为数据挖掘研究中的一个重要课题,现有的Rough集与方法仍然存在着一些没有解决好的问题。例如,基于Rough集的高效数据挖掘方法、基于Rough集的海量数据挖掘理论与方法、基于Rough集的动态数据处理方法、Rough集的强泛化能力问题、云计算环境下的Rough集数据挖掘方法等。这些问题的存在,有待于我们对Rough集理论与方法进行更深入地研究,并提出更好的解决方案。 分治法是一种有效处理复杂问题的方法,它也是一种简单的粒计算方法。分治法的思想就是将整个问题分成若干个问题后分而治之。当求解的问题规模较大时,直接求解往往是非常困难的,有的甚至根本没法直接求出,采用分治法可以将规模较大的问题分解为多个规模较小的问题,然后分别递归求解,最后将解合并,从而实现对原问题的求解。如果能将分治法应用到Rough集数据挖掘方法的研究中,则有可能设计出高精度、高效率的数据挖掘方法。 本文分析了现有的Rough集理论与应用研究现状,以基于分治法的Rough集数据挖掘方法为研究主线,对多维表快速排序的复杂度分析、基于Rough集的高效离散化方法、基于分治法的Rough集的知识约简方法的抽象控制过程、Rough集的快速知识约简方法等方面进行了较为深入的研究。归纳起来,本文的主要研究工作和创新内容表现在以下几个方面: (1)将多维数据快速排序的时间复杂度改进为O(nx(m+log n)),提高了Rough集数据挖掘方法的海量数据处理能力。 基于分治法原理,将多维数据快速排序的时间复杂度从O(nxmxlogn)降低到O(nx(m+logn))(其中,m为数据维数,n为数据记录数),并应用于改进传统的知识约简方法,在属性核和知识约简研究中取得了很好效果。这一成果,对实现快速、高效的海量数据挖掘,具有重要作用。(第2章) (2)提出了一个两步处理策略的高效离散化算法,解决了Rough集理论中海量数据的离散化问题。 在基于Rough理论的数据挖掘过程中,离散化是一个重要的环节,现有的全局离散化算法很难兼顾高精度的离散化效果和高效率,它已成为使用Rough集处理海量数据的一个瓶颈,其主要原因在于候选断点太多造成了计算量和辅助存储空间太大。为克服这一问题,本文提出了“先在单个属性上进行候选断点的动态聚类;然后在所有属性上进行断点选择”的两步处理思路,实验结果表明,使用本方法得到的离散化结果和Skowron教授提出的贪心算法接近,但是运行效率更高。本文提出的离散化算法更适合海量数据的处理,特别是样本数量大的浮点决策表的离散化处理。(第3章) (3)提出了基于分治法的高效属性约简算法和值约简算法,有效地解决了海量数据的知识约简问题。 分治法是一种有效处理复杂问题的方法,在Rough集知识约简算法的设计过程中,如果能有效结合分治法,则有可能设计出高效的算法。针对此问题,本文首先介绍了等价关系下基于分治法的决策表分解方法,该方法可用于正区域、属性核、属性约简的计算以及分辨矩阵的操作;其次,介绍了容差关系下基于分治法的决策表分解方法,该方法可用于决策表的值约简;再次,提出了基于分治法的Rough集知识约简方法的抽象控制过程,该控制过程对于设计高效的知识约简方法具有一定的参考意义。在此基础上,通过在属性空间上对论域对象进行快速分解和操作分辨矩阵,给出了基于分治法的知识约简方法。首先,改进了王珏教授提出的属性约简算法,提出了一个新的快速属性约简算法,其次,提出了一个基于分治法的高效值约简算法。实验结果表明,采用文中提出的基于分治法的Rough集高效数据挖掘方法,可以在普通PC机上进行300万网络入侵检测数据(KDDCUP99)的数据挖掘,并保持较高的正确识别率,有效地提升了基于Rough集的数据挖掘方法的数据处理能力。(第4、5章)


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 丁纪云,蔡春娥;利用构造数据集评定数据挖掘过程的方法[J];湖南广播电视大学学报;2001年02期
2 任承业,罗伟其;校园信息系统中CRM与数据挖掘的结合和应用[J];计算机工程与应用;2003年13期
3 王艳;数据挖掘在数字图书馆中的应用[J];情报科学;2003年02期
4 邵红全,赵茜;用SQL Server2000实现数据挖掘的技术与策略[J];电脑开发与应用;2003年04期
5 耿庆鹏,卢子芳;利用数据挖掘技术实现对电信行业用户欺诈行为的预测[J];电信快报;2003年10期
6 蒋良孝,蔡之华;基于数据仓库的数据挖掘研究[J];计算技术与自动化;2003年03期
7 叶静,蔡之华;遥感图像中的数据挖掘应用概述[J];计算机与现代化;2003年10期
8 黄解军,万幼川,潘和平;银行客户关系管理与数据挖掘的应用[J];计算机工程与设计;2003年07期
9 崔强,朱卫东;基于数据挖掘的铁路机务段成本控制系统[J];铁路计算机应用;2003年01期
10 杨思春;基于数据仓库的数据挖掘技术分析研究[J];微机发展;2003年09期
11 汤效琴,戴汝源;数据挖掘中聚类分析的技术方法[J];微计算机信息;2003年01期
12 李月芳,孙俊;数据挖掘及其在电网故障诊断中的应用[J];农机化研究;2003年04期
13 陈勍;数据挖掘技术及其应用[J];医学信息;2004年04期
14 ;中国科学院数据挖掘与知识管理学术研讨会在京举行[J];管理评论;2004年07期
15 曾贞;数据挖掘在电子商务中的应用[J];甘肃农业;2004年07期
16 陈钟;基于DSO的数据挖掘应用[J];广西师范学院学报(自然科学版);2004年S1期
17 柯文德;一种基于数据挖掘的分布式入侵检测模型[J];计算机测量与控制;2004年08期
18 徐玲;基于案件综合信息分析挖掘的研究[J];广东公安科技;2004年01期
19 赵明清;蒋昌俊;陶树平;;基于等价相异度矩阵的聚类[J];计算机科学;2004年07期
20 王恬宇,陈雪强;基于数据挖掘的分步式定性推理[J];情报杂志;2005年01期
中国重要会议论文全文数据库 前10条
1 郭学军;陈晓云;;粗集方法在数据挖掘中的应用[A];第十六届全国数据库学术会议论文集[C];1999年
2 徐慧;;基于Web的文献数据挖掘[A];第十七届全国数据库学术会议论文集(技术报告篇)[C];2000年
3 孙迎;;医院信息的数据挖掘与方法研究[A];中华医学会第十次全国医学信息学术会议论文汇编[C];2004年
4 薛晓东;李海玲;;数据挖掘的客户关系管理应用[A];科技、工程与经济社会协调发展——河南省第四届青年学术年会论文集(下册)[C];2004年
5 郭建文;黄燕;印鉴;杨小波;梁兆辉;;建立中风病“阴阳类证”辨证规范的数据挖掘研究[A];中华医学会第十三次全国神经病学学术会议论文汇编[C];2010年
6 薛鲁华;张楠;;聚类分析在Web数据挖掘中的应用[A];北京市第十三次统计科学讨论会论文选编[C];2006年
7 朱扬勇;黄超;;基于多维模型的交互式数据挖掘框架[A];第二十届全国数据库学术会议论文集(技术报告篇)[C];2003年
8 陈涛;胡学钢;陈秀美;;基于数据挖掘的教学质量评价体系分析[A];全国第21届计算机技术与应用学术会议(CACIS·2010)暨全国第2届安全关键技术与应用学术会议论文集[C];2010年
9 王星;谢邦昌;戴稳胜;;数据挖掘在保险业中的应用[A];北京市第十二次统计科学讨论会论文选编[C];2003年
10 郭建文;黄燕;印鉴;杨小波;梁兆辉;;建立中风病阴阳类证辨证规范的数据挖掘研究[A];2010中国医师协会中西医结合医师大会摘要集[C];2010年
中国博士学位论文全文数据库 前10条
1 孙丽;工艺知识管理及其若干关键技术研究[D];大连交通大学;2005年
2 胡志坤;复杂有色金属熔炼过程操作模式智能优化方法研究[D];中南大学;2005年
3 刘革平;基于数据挖掘的远程学习评价研究[D];西南师范大学;2005年
4 刘寨华;基于临床数据分析的病毒性心肌炎证候演变规律研究[D];黑龙江中医药大学;2006年
5 王川;基因芯片数据管理及数据挖掘[D];中国科学院研究生院(上海生命科学研究院);2004年
6 王涛;挖掘序列模式和结构化模式的精简集[D];华中科技大学;2006年
7 郭斯羽;动态数据中的数据挖掘研究[D];浙江大学;2002年
8 李旭升;贝叶斯网络分类模型研究及其在信用评估中的应用[D];西南交通大学;2007年
9 刘东升;面向连锁零售企业的客户关系管理模型(R-CRM)研究[D];浙江工商大学;2008年
10 余红;网络时政论坛舆论领袖研究[D];华中科技大学;2007年
中国硕士学位论文全文数据库 前10条
1 廖赛恩;养生方数据挖掘分析系统的研制[D];湖南中医药大学;2010年
2 李坤然;数据挖掘在股市趋势预测的应用研究[D];中南林业科技大学;2008年
3 郑宏;数据挖掘可视化技术的研究与实现[D];西安电子科技大学;2010年
4 杜金刚;数据挖掘在电信客户关系管理及数据业务营销中的应用[D];北京邮电大学;2010年
5 徐路;基于决策树的数据挖掘算法的研究及其在实际中的应用[D];电子科技大学;2009年
6 梁小鸥;数据挖掘在高职教学管理中的应用[D];华南理工大学;2011年
7 王浩;数据挖掘在上海市职业能力考试院招录考试优化管理项目中的运用研究[D];华东理工大学;2012年
8 黎卫英;数据挖掘在中职幼教课程改革中的应用[D];福建师范大学;2009年
9 张煜辉;数据挖掘和SPC在生产过程质量控制中应用研究[D];上海交通大学;2009年
10 刘华敏;数据挖掘在高职院校学生成绩分析中的应用[D];安徽大学;2011年
中国重要报纸全文数据库 前10条
1 李开宇 黄建军 田长春;把“数据挖掘”作用发挥出来[N];中国国防报;2009年
2 华莱士;“数据挖掘”让银行赢利更多[N];国际金融报;2003年
3 记者 晏燕;数据挖掘让决策者告别“拍脑袋”[N];科技日报;2006年
4 □中国电信股份有限公司北京研究院 张舒博 □北京邮电大学计算机科学与技术学院 牛琨;走出数据挖掘的误区[N];人民邮电;2006年
5 张立明;数据挖掘之道[N];网络世界;2003年
6 中圣信息技术有限公司 李辉;数据挖掘在CRM中的作用[N];中国计算机报;2001年
7 田红生;数据挖掘在CRM中的应用[N];中国经济时报;2002年
8 王广宇;数据挖掘 加速银行CRM一体化[N];中国计算机报;2004年
9 周蓉蓉;数据挖掘需要点想像力[N];计算机世界;2004年
10 张舒博;数据挖掘 提升品牌的好帮手[N];首都建设报;2009年
中国知网广告投放
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978