收藏本站
《西安电子科技大学》 2011年
收藏 | 手机打开
二维码
手机客户端打开本文

核矩阵低秩分解与核空间信息能度量研究及应用

刘松华  
【摘要】:模式分类中的核方法在实际应用中获得了较为成功的应用,其良好的性能在于不仅能高效地对数据间存在的非线性关系进行模式分析,而且核方法本身建立在严格的统计分析基础之上,与线性统计分析方法一样有坚实的理论基础。但是核方法在处理大规模数据分类任务时存在如下问题:一方面,核方法的计算复杂度较高,其算法的设计和求解与训练样本个数有关,且常见的经典算法采用凸二次优化策略,对于大规模数据集,需要较高的时间和空间复杂度;另一方面,由于核空间为高维甚至无限维,其间样本具有多模式、多态性,因此相似性不便于描述。针对上述问题,本文主要探讨了核矩阵的低秩分解和核空间的相似性测度。 一是从特征选择和矩阵分解的角度考虑如何学习较优的低秩近似核矩阵。二是从基于距离的度量来考虑核空间中高维数据的特性。在此基础上,结合已有算法分别进行了比较分析,用基于核矩阵低秩分解与信息能度量的核方法实现高维多模式对象的特征提取和模式分类,实验结果验证了算法的有效性。 总的来说,本文的主要工作包括如下五个方面: 1.针对核矩阵分解算法时间复杂度较高的问题,研究了如何对核矩阵进行低秩分解。常用的矩阵低秩分解算法均可以视为无监督算法,本文通过分析核矩阵中行/列与类别的相关性,结合已有的矩阵分解运算,提出了有监督的核矩阵低秩分解方法,最后给出核矩阵低秩近似误差界的期望值。实验证明核矩阵分解过程中,行/列的选取对分类效果有较大影响,在保证分类性能的前提下,本文算法能在一定程度上提高核机器学习效率,为大规模数据集中的应用奠定了良好的基础; 2.核方法在低维数据中已经取得了较为成功的应用,然而在高维数据中,由于数据包含更为丰富的内在结构,因此常用的相似性测度如欧氏距离面临分类效果较低的困境。通过研究非距离的度量问题,提出了新的信息能度量,该方法满足距离的度量公理,且不仅适用于低维数据,同时可以有效挖掘高维数据中的相似性结构,实验结果验证了该相似性测度的正确性; 3.研究了核空间中的特征提取问题。基于提出的信息能度量,结合梯度上升方法,提出了新的特征提取算法。该算法在应用于大规模数据集时,可以采用核矩阵的低秩近似分解来有效降低运算复杂度,且无须预先进行特征选择。同时信息能的梯度信息可以描述特征的聚集趋势,有利于指导分类任务; 4.基于提出的信息能度量,通过研究已有的最近邻算法和其核化形式,对其进行改进,提出了新的核k-最近邻算法。该算法有效结合了近邻法和核方法的特性,有较好的物理意义,且能由此模型推出经典的互信息度量,因此具有良好的理论基础和推广能力; 5.对已有的细胞表型图形态差异学习算法进行核化,提出新的基于信息能度量的核形态差异学习算法,并设计了一系列最优参数选择方案,保证了实验效果,为核方法在该领域的进一步应用奠定了基础。
【学位授予单位】:西安电子科技大学
【学位级别】:博士
【学位授予年份】:2011
【分类号】:TP391.41

【引证文献】
中国博士学位论文全文数据库 前1条
1 陈世海;冲击地压电磁辐射前兆信息识别技术研究[D];中国矿业大学;2012年
【参考文献】
中国期刊全文数据库 前10条
1 张鸿宾,孙广煜;近邻法参考样本集的最优选择[J];电子学报;2000年11期
2 杨露;苏秀琴;陆陶;梁金峰;张占鹏;;基于Contourlet变换和形态学的图像去噪方法[J];光电子.激光;2008年11期
3 乔闹生;叶玉堂;刘霖;黄永林;陈镇龙;王昱琳;方亮;;基于均值去噪与图像增强的方差滤波器[J];光电子.激光;2008年12期
4 王卫卫;韩雨;冯象初;;基于非局部扩散的图像去噪[J];光学学报;2010年02期
5 付蓉;李洁;高新波;;基于形态学成分分析的静态极光图像分类算法[J];光子学报;2010年06期
6 李晓黎,刘继敏,史忠植;基于支持向量机与无监督聚类相结合的中文网页分类器[J];计算机学报;2001年01期
7 吴涛,贺汉根,贺明科;基于插值的核函数构造[J];计算机学报;2003年08期
8 李昆仑,黄厚宽,田盛丰,刘振鹏,刘志强;模糊多类支持向量机及其在入侵检测中的应用[J];计算机学报;2005年02期
9 叶涛;朱学峰;李向阳;史步海;;基于改进k-最近邻回归算法的软测量建模[J];自动化学报;2007年09期
10 郝红卫;蒋蓉蓉;;基于最近邻规则的神经网络训练样本选择方法[J];自动化学报;2007年12期
中国博士学位论文全文数据库 前2条
1 厉小润;模式识别的核方法研究[D];浙江大学;2007年
2 史卫亚;大规模数据集下核方法的技术研究[D];复旦大学;2008年
【共引文献】
中国期刊全文数据库 前10条
1 王全凤;郑浩;;基于径向基函数神经网络的高层建筑结构选型[J];四川建筑科学研究;2010年05期
2 贺超英;黄美成;;一种基于无线通信技术的防盗系统[J];安防科技;2006年09期
3 张根耀,李竹林,赵宗涛;遮挡情况下运动目标的跟踪[J];安徽大学学报(自然科学版);2003年03期
4 陈弋兰;王鸣;孙书诚;;朴素贝叶斯分类器的误差估计[J];安徽工程科技学院学报(自然科学版);2008年04期
5 张红涛;胡玉霞;张恒源;顾波;;储粮害虫图像识别中的特征压缩研究[J];安徽农业科学;2008年27期
6 童新安;王云鹏;;基于核主成分-聚类分析的土壤质量评价方法[J];安徽农业科学;2009年10期
7 张昭;何东健;;基于计算机视觉的竹块颜色分类方法研究[J];安徽农业科学;2010年26期
8 唐晓芬;赵秉新;;基于支持向量机的农村劳动力转移预测[J];安徽农业科学;2011年11期
9 丁新涛;郑笑遥;;秩亏矩阵极分解算法的扰动[J];安徽师范大学学报(自然科学版);2008年02期
10 汪洁;朱军;;基于Linux的中文垃圾邮件过滤系统设计与实现[J];安徽农业大学学报;2011年02期
中国重要会议论文全文数据库 前10条
1 刘志斌;金连文;;候选字静态生成技术及其在两级LDA汉字识别中的应用[A];第二十六届中国控制会议论文集[C];2007年
2 张彬;金连文;;基于AdaBoost的手写体汉字相似字符识别[A];第二十六届中国控制会议论文集[C];2007年
3 王红霞;田国会;李晓磊;卜范骞;;基于地标信息融合的家庭环境机器人组合导航[A];第二十六届中国控制会议论文集[C];2007年
4 吕蓬;柳亦兵;马强;魏于凡;;支持向量机在齿轮智能故障诊断中的应用研究[A];第二十六届中国控制会议论文集[C];2007年
5 梁禹;王义刚;王娜;;基于支持向量机的电力电子电路故障诊断[A];第二十六届中国控制会议论文集[C];2007年
6 曹爱增;陈月婷;魏军;李金屏;;一种基于EDAs和聚类分析的杂合进化算法[A];第二十六届中国控制会议论文集[C];2007年
7 李鑫;李力争;;基于模板匹配的固态流体流速检测算法[A];第二十七届中国控制会议论文集[C];2008年
8 李潮潮;迟凯;付芳萍;车文刚;赵庆江;;基于模糊聚类的证券价格对公共信息的反应强度划分[A];第二十九届中国控制会议论文集[C];2010年
9 赵庆江;迟凯;付芳萍;李潮潮;车文刚;;基于FCM的模糊时间序列模型及人民币汇率预测[A];第二十九届中国控制会议论文集[C];2010年
10 刘华;张建华;王娆芬;王行愚;;人机系统操作员功能状态的模糊聚类方法[A];第二十九届中国控制会议论文集[C];2010年
中国博士学位论文全文数据库 前10条
1 梁洪;基于内容的医学图像检索及语义建模关键技术研究[D];哈尔滨工程大学;2010年
2 任桢;图像分类任务的关键技术研究[D];哈尔滨工程大学;2010年
3 殷志伟;基于统计学习理论的分类方法研究[D];哈尔滨工程大学;2009年
4 孔凡芝;引线键合视觉检测关键技术研究[D];哈尔滨工程大学;2009年
5 孙鹏飞;基于计算智能技术的蛋白质结构预测方法研究[D];哈尔滨工程大学;2010年
6 李桃迎;交通领域中的聚类分析方法研究[D];大连海事大学;2010年
7 乔小燕;基于生物形态学的赤潮藻显微图像分割与特征提取研究[D];中国海洋大学;2010年
8 杨宁;计算机辅助卷烟配方设计关键技术研究[D];中国海洋大学;2010年
9 易吉良;基于S变换的电能质量扰动分析[D];湖南大学;2010年
10 陈韶斌;基于知识推理和视觉机理的遥感图像目标识别方法研究[D];华中科技大学;2010年
中国硕士学位论文全文数据库 前10条
1 杜二玲;拟概率空间上等均值噪声下统计学习理论的理论基础[D];河北大学;2007年
2 朱杰;一种基于聚类的支持向量机反问题求解算法[D];河北大学;2007年
3 廖甜甜;白细胞图像语义识别分类的研究[D];南昌航空大学;2010年
4 黄正荣;基于振动波的高速公路车辆行驶状态辨识理论研究[D];南昌航空大学;2010年
5 刘棉;人机划拳系统的实现[D];山东科技大学;2010年
6 刘桂珍;颅骨三维重建与信息提取[D];山东科技大学;2010年
7 张海峰;空间三维信息重构与飞行器路径规划[D];山东科技大学;2010年
8 田文娟;基于支持向量机的人民币序列号识别方法的研究[D];山东科技大学;2010年
9 陈楠楠;互动音乐桌[D];山东科技大学;2010年
10 韩晓峰;高斯混合模型及在探测网络社区结构中的应用[D];山东科技大学;2010年
【同被引文献】
中国期刊全文数据库 前10条
1 李均之,曹明,夏雅琴,毛浦森;岩石压缩试验与震前电磁波辐射的研究[J];北京工业大学学报;1982年04期
2 采峰;曾凤章;;产品需求量非平稳时序的ANN-ARMA预测模型[J];北京理工大学学报;2007年03期
3 崔立林;章林柯;朱海潮;栾瑞鹏;;一种多传感器信息融合的噪声源识别方法研究[J];船舶力学;2010年10期
4 宋寿鹏;阙沛文;;超声信号的非线性行为及应用[J];传感技术学报;2007年01期
5 张建成;吴新杰;;形态滤波在实时信号处理中应用的研究[J];传感技术学报;2007年04期
6 戴吾蛟;丁晓利;朱建军;陈永奇;李志伟;;基于经验模式分解的滤波去噪法及其在GPS多路径效应中的应用[J];测绘学报;2006年04期
7 王家耀;谢明霞;郭建忠;陈科;;基于相似性保持和特征变换的高维数据聚类改进算法[J];测绘学报;2011年03期
8 撒占友;王恩元;;煤岩破坏电磁辐射信号的短时分形模糊滤波[J];电波科学学报;2007年02期
9 徐为民,童芜生,王自成;单轴压缩下岩样破坏过程中的发光现象[J];地震;1984年01期
10 孙正江,王丽华,吴忠良;岩石破裂过程中的低频电磁辐射[J];地震;1986年04期
中国博士学位论文全文数据库 前10条
1 李关防;模态域信号处理在水声中的应用[D];哈尔滨工程大学;2009年
2 王旭宏;大同矿区“三硬”煤层冲击地压发生机理研究[D];太原理工大学;2010年
3 杨力;基于小样本数据的矿井瓦斯突出风险评价[D];中国科学技术大学;2011年
4 王骏;无监督学习中聚类和阈值分割新方法研究[D];南京理工大学;2011年
5 薛洋;基于单个加速度传感器的人体运动模式识别[D];华南理工大学;2011年
6 韩骏;小波熵与小波网络在多相流参数测量中的应用研究[D];天津大学;2010年
7 徐学锋;煤层巷道底板冲击机理及其控制研究[D];中国矿业大学;2011年
8 王正帅;老采空区残余沉降非线性预测理论及应用研究[D];中国矿业大学;2011年
9 吴胜强;核主元分析及证据理论的多域特征故障诊断新方法研究[D];燕山大学;2011年
10 侯俊剑;基于声像模式识别的故障诊断机理研究[D];上海交通大学;2011年
中国硕士学位论文全文数据库 前2条
1 张杰;基于数学形态学的故障行波测距方法研究[D];昆明理工大学;2005年
2 杨勇;煤岩电磁辐射机理及在冲击地压预测中的应用研究[D];辽宁工程技术大学;2007年
【二级参考文献】
中国期刊全文数据库 前10条
1 柳回春,马树元,吴平东,杨峰,曾兴生,毕路拯;UK心理测试自动分析系统的手写体数字识别[J];北京理工大学学报;2002年05期
2 张鸿宾,孙广煜;近邻法参考样本集的最优选择[J];电子学报;2000年11期
3 焦李成,张莉,周伟达;支撑矢量预选取的中心距离比值法[J];电子学报;2001年03期
4 高学,金连文,尹俊勋,黄建成;一种基于支持向量机的手写汉字识别方法[J];电子学报;2002年05期
5 梁化楼,戴贵亮;人工神经网络与遗传算法的结合:进展及展望[J];电子学报;1995年10期
6 刘泓,莫玉龙;改进的多分辨纹理图像分割算法[J];光学学报;2000年06期
7 刘德连;张建奇;;基于纹理分割的遥感图像的变化探测[J];光学学报;2006年08期
8 白俊奇;陈钱;;基于各向异性扩散的红外图像噪声滤波算法[J];光学学报;2008年05期
9 姚宇宏;栗岩锋;刘博文;胡明列;柴路;王清月;童维军;罗杰;;基于图像处理的频域有限差分法用于实际光子晶体光纤的研究[J];光学学报;2008年07期
10 黄建明;沈忙作;;基于噪声特性的大气湍流退化图像多帧盲反卷积复原[J];光学学报;2008年09期
【相似文献】
中国期刊全文数据库 前10条
1 谭国真;Walsh变换核矩阵递推性的研究[J];大连理工大学学报;1994年04期
2 温长吉;;支持向量机分类器的快速样本选择法[J];沈阳化工学院学报;2007年04期
3 朱树先;张仁杰;郑刚;;混合核函数对支持向量机分类性能的改进[J];上海理工大学学报;2009年02期
4 郭崇慧;李芳;;基于核矩阵的改进支持向量聚类算法[J];情报学报;2010年03期
5 杜京义;侯媛彬;;核矩阵逼近的贪心算法[J];模式识别与人工智能;2007年01期
6 郭雷;肖怀铁;付强;;目标识别中特征空间核矩阵收缩方法[J];自然科学进展;2008年12期
7 朱树先;张仁杰;郑刚;;核函数的选择与改进在人脸识别中的应用[J];计算机工程与应用;2009年08期
8 曾绍华;魏延;段廷才;曹长修;;一种支持向量逐步回归机算法研究[J];计算机工程与应用;2007年08期
9 朱树先;张仁杰;;支持向量机核函数选择的研究[J];科学技术与工程;2008年16期
10 朱树先;张仁杰;;支持向量机核函数选择对面部特征识别的作用[J];光学技术;2008年06期
中国重要会议论文全文数据库 前4条
1 宋海鹰;桂卫华;阳春华;;基于核偏最小二乘的简约最小二乘支持向量机及其应用研究[A];第二十六届中国控制会议论文集[C];2007年
2 须德;张敬国;;自然表格查询语言[A];第九届全国数据库学术会议论文集(下)[C];1990年
3 熊伟;万忠宏;张红英;幸华刚;;基于聚类的核主成分分析方法在地震属性降维中的应用[A];中国地球物理学会第二十七届年会论文集[C];2011年
4 陈召曦;孟小红;;海量重磁数据三维约束反演GPU加速试验研究[A];中国地球物理学会第二十七届年会论文集[C];2011年
中国重要报纸全文数据库 前1条
1 本报记者 管宏业;奥迪:打造双核矩阵[N];中国商报;2011年
中国博士学位论文全文数据库 前6条
1 刘松华;核矩阵低秩分解与核空间信息能度量研究及应用[D];西安电子科技大学;2011年
2 贾磊;核方法模型选择与模型组合的谱方法[D];天津大学;2010年
3 杜京义;基于核算法的故障智能诊断理论及方法研究[D];西安科技大学;2007年
4 史卫亚;大规模数据集下核方法的技术研究[D];复旦大学;2008年
5 胡恩良;图上的传播学习研究及应用[D];南京航空航天大学;2009年
6 陈义明;基于分类的蛋白质功能预测技术研究[D];国防科学技术大学;2010年
中国硕士学位论文全文数据库 前10条
1 孙铁凝;2M维矢量正交变换核矩阵及在多视角视频编码中的应用[D];吉林大学;2011年
2 陈鹏;图像Sobel处理的FPGA多核矩阵实现[D];沈阳理工大学;2013年
3 牛增欣;基于计算约简与代价敏感的多核分类器设计与实现[D];华东理工大学;2013年
4 方盛昌;基于核的特征提取方法的人脸识别研究[D];东华大学;2008年
5 介文博;基于多核学习的高性能核分类方法研究[D];华东理工大学;2012年
6 连云涓;蛋白质二级结构预测的多核学习方法[D];上海交通大学;2013年
7 沈彦波;面向智能信息检索:集成支撑矢量机排序、约束自适应传递和交互式图像检索[D];西安电子科技大学;2012年
8 刘娟;利用流形结构的谱聚类与核传递进行图像分割[D];西安电子科技大学;2012年
9 李芳;改进的支持向量聚类算法及其应用研究[D];大连理工大学;2010年
10 赵培培;支持向量机预测miRNA靶基因数据不平衡问题的研究[D];燕山大学;2012年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62791813
  • 010-62985026