收藏本站
《西安电子科技大学》 2011年 博士论文
收藏 | 手机打开
二维码
手机客户端打开本文

核矩阵低秩分解与核空间信息能度量研究及应用

刘松华  
【摘要】:模式分类中的核方法在实际应用中获得了较为成功的应用,其良好的性能在于不仅能高效地对数据间存在的非线性关系进行模式分析,而且核方法本身建立在严格的统计分析基础之上,与线性统计分析方法一样有坚实的理论基础。但是核方法在处理大规模数据分类任务时存在如下问题:一方面,核方法的计算复杂度较高,其算法的设计和求解与训练样本个数有关,且常见的经典算法采用凸二次优化策略,对于大规模数据集,需要较高的时间和空间复杂度;另一方面,由于核空间为高维甚至无限维,其间样本具有多模式、多态性,因此相似性不便于描述。针对上述问题,本文主要探讨了核矩阵的低秩分解和核空间的相似性测度。 一是从特征选择和矩阵分解的角度考虑如何学习较优的低秩近似核矩阵。二是从基于距离的度量来考虑核空间中高维数据的特性。在此基础上,结合已有算法分别进行了比较分析,用基于核矩阵低秩分解与信息能度量的核方法实现高维多模式对象的特征提取和模式分类,实验结果验证了算法的有效性。 总的来说,本文的主要工作包括如下五个方面: 1.针对核矩阵分解算法时间复杂度较高的问题,研究了如何对核矩阵进行低秩分解。常用的矩阵低秩分解算法均可以视为无监督算法,本文通过分析核矩阵中行/列与类别的相关性,结合已有的矩阵分解运算,提出了有监督的核矩阵低秩分解方法,最后给出核矩阵低秩近似误差界的期望值。实验证明核矩阵分解过程中,行/列的选取对分类效果有较大影响,在保证分类性能的前提下,本文算法能在一定程度上提高核机器学习效率,为大规模数据集中的应用奠定了良好的基础; 2.核方法在低维数据中已经取得了较为成功的应用,然而在高维数据中,由于数据包含更为丰富的内在结构,因此常用的相似性测度如欧氏距离面临分类效果较低的困境。通过研究非距离的度量问题,提出了新的信息能度量,该方法满足距离的度量公理,且不仅适用于低维数据,同时可以有效挖掘高维数据中的相似性结构,实验结果验证了该相似性测度的正确性; 3.研究了核空间中的特征提取问题。基于提出的信息能度量,结合梯度上升方法,提出了新的特征提取算法。该算法在应用于大规模数据集时,可以采用核矩阵的低秩近似分解来有效降低运算复杂度,且无须预先进行特征选择。同时信息能的梯度信息可以描述特征的聚集趋势,有利于指导分类任务; 4.基于提出的信息能度量,通过研究已有的最近邻算法和其核化形式,对其进行改进,提出了新的核k-最近邻算法。该算法有效结合了近邻法和核方法的特性,有较好的物理意义,且能由此模型推出经典的互信息度量,因此具有良好的理论基础和推广能力; 5.对已有的细胞表型图形态差异学习算法进行核化,提出新的基于信息能度量的核形态差异学习算法,并设计了一系列最优参数选择方案,保证了实验效果,为核方法在该领域的进一步应用奠定了基础。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 谭国真;Walsh变换核矩阵递推性的研究[J];大连理工大学学报;1994年04期
2 温长吉;;支持向量机分类器的快速样本选择法[J];沈阳化工学院学报;2007年04期
3 朱树先;张仁杰;郑刚;;混合核函数对支持向量机分类性能的改进[J];上海理工大学学报;2009年02期
4 郭崇慧;李芳;;基于核矩阵的改进支持向量聚类算法[J];情报学报;2010年03期
5 杜京义;侯媛彬;;核矩阵逼近的贪心算法[J];模式识别与人工智能;2007年01期
6 郭雷;肖怀铁;付强;;目标识别中特征空间核矩阵收缩方法[J];自然科学进展;2008年12期
7 朱树先;张仁杰;郑刚;;核函数的选择与改进在人脸识别中的应用[J];计算机工程与应用;2009年08期
8 曾绍华;魏延;段廷才;曹长修;;一种支持向量逐步回归机算法研究[J];计算机工程与应用;2007年08期
9 朱树先;张仁杰;;支持向量机核函数选择的研究[J];科学技术与工程;2008年16期
10 朱树先;张仁杰;;支持向量机核函数选择对面部特征识别的作用[J];光学技术;2008年06期
11 方杰;韦穗;霍修坤;;超声衍射层析成像的高精度核卷积插值重建算法[J];西安交通大学学报;2009年10期
12 郑茂;郑林华;;基于特征向量选择的非线性盲分离算法[J];电路与系统学报;2010年05期
13 赵峰;张军英;;一种KPCA的快速算法[J];控制与决策;2007年09期
14 肖建;于龙;白裔峰;;支持向量回归中核函数和超参数选择方法综述[J];西南交通大学学报;2008年03期
15 杨化斌;孙俊;;基于聚类分析的跳频序列选取[J];计算机工程与应用;2009年27期
16 杜京义;侯媛彬;;基于核的多故障分类器及其应用[J];煤炭学报;2007年01期
17 张敏;覃华;苏一丹;;半定规划支持向量机模型的研究[J];计算机工程与设计;2011年05期
18 熊俊;;多分类问题的超球SVM求解与设计实现[J];电子测试;2011年04期
19 王耀南;张莹;李春生;;基于核矩阵的Isomap增量学习算法研究[J];计算机研究与发展;2009年09期
20 付立东;;核k-means聚类检测复杂网络社团算法[J];计算机科学;2010年09期
中国重要会议论文全文数据库 前4条
1 宋海鹰;桂卫华;阳春华;;基于核偏最小二乘的简约最小二乘支持向量机及其应用研究[A];第二十六届中国控制会议论文集[C];2007年
2 须德;张敬国;;自然表格查询语言[A];第九届全国数据库学术会议论文集(下)[C];1990年
3 熊伟;万忠宏;张红英;幸华刚;;基于聚类的核主成分分析方法在地震属性降维中的应用[A];中国地球物理学会第二十七届年会论文集[C];2011年
4 陈召曦;孟小红;;海量重磁数据三维约束反演GPU加速试验研究[A];中国地球物理学会第二十七届年会论文集[C];2011年
中国博士学位论文全文数据库 前6条
1 刘松华;核矩阵低秩分解与核空间信息能度量研究及应用[D];西安电子科技大学;2011年
2 贾磊;核方法模型选择与模型组合的谱方法[D];天津大学;2010年
3 杜京义;基于核算法的故障智能诊断理论及方法研究[D];西安科技大学;2007年
4 史卫亚;大规模数据集下核方法的技术研究[D];复旦大学;2008年
5 胡恩良;图上的传播学习研究及应用[D];南京航空航天大学;2009年
6 陈义明;基于分类的蛋白质功能预测技术研究[D];国防科学技术大学;2010年
中国硕士学位论文全文数据库 前10条
1 孙铁凝;2M维矢量正交变换核矩阵及在多视角视频编码中的应用[D];吉林大学;2011年
2 陈鹏;图像Sobel处理的FPGA多核矩阵实现[D];沈阳理工大学;2013年
3 牛增欣;基于计算约简与代价敏感的多核分类器设计与实现[D];华东理工大学;2013年
4 方盛昌;基于核的特征提取方法的人脸识别研究[D];东华大学;2008年
5 介文博;基于多核学习的高性能核分类方法研究[D];华东理工大学;2012年
6 连云涓;蛋白质二级结构预测的多核学习方法[D];上海交通大学;2013年
7 沈彦波;面向智能信息检索:集成支撑矢量机排序、约束自适应传递和交互式图像检索[D];西安电子科技大学;2012年
8 刘娟;利用流形结构的谱聚类与核传递进行图像分割[D];西安电子科技大学;2012年
9 李芳;改进的支持向量聚类算法及其应用研究[D];大连理工大学;2010年
10 赵培培;支持向量机预测miRNA靶基因数据不平衡问题的研究[D];燕山大学;2012年
中国重要报纸全文数据库 前1条
1 本报记者 管宏业;奥迪:打造双核矩阵[N];中国商报;2011年
中国知网广告投放
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978