收藏本站
《西安交通大学》 2008年
收藏 | 手机打开
二维码
手机客户端打开本文

关于流形学习若干基础问题与核心算法研究

孟德宇  
【摘要】:数据特征提取,或数据降维,是数据建模与数据挖掘的基本问题,而流形学习是近年来所兴起的数据特征提取(特别是低维特征表示)最引人注目的热点方法之一。尽管已提出Isomap, LLE,Laplacian eigenmap等有效的流形学习方法,但其有效性机理、模型选择、对复杂数据的可应用性等基本理论与算法问题仍尚未解决。本学位论文针对流形学习方法的上述基础理论与算法问题进行系统研究,取得了一系列创新成果: (1)针对流形学习方法的模型选择问题,提出了有效的邻域尺寸与本质维自动选择策略。通过构造指数加权的k近邻距离均值表达,提出了近似描述流形数据局部本质维分布的刻画函数;通过定义刻画函数的稳定性度量,导出了流形学习算法邻域尺寸的最优选择策略;进而通过选取本质维分布的稳定值,实现了对数据本质维数的自动设定。所提出的理论与方法简洁、有效,可广泛实用于流形学习算法的参数自动设定。 (2)针对流形学习方法的有效性机理与环结构问题,以Isomap方法为切入点证明了“数据流形不存在环结构是流形学习方法有效的充分必要条件”这一重要结论。该结论首次严格阐释了Isomap方法不能有效应用于具环结构复杂数据的本质原因。针对环流形数据降维问题,我们进而发展了有效的流形学习算法。所提出的新算法能够:(a)基于给定数据集判定其中是否存在结构;(b)针对环结构流形数据集生成一系列环形路径以对其环结构进行近似描述;(c)生成数据集的一个近似最大无环子集;(d)基于所生成的近似最大无环子集实现环流形数据集的降维。实验表明:所提出的有关流形学习方法其有效性机理与应用事实完全相符,而且算法能够成功地应用于具有环形结构的数据集降维。 (3)针对流形学习的非连通性问题,提出了两类可用于非连通流形数据集非线性降维的高效流形学习算法:通道算法与分解-整合算法。通道算法利用图论工具与微分几何知识,通过搭建非连通流形数据类间的光滑连接通道(由光滑的邻域片组成),且在连接通道上保持与流形类内一致的本质维结构,形成分布在全数据集上的光滑连通流形形态。相应的流形数据集(包括原数据集与通道数据集)使流形学习方法的有效性得以保证,从而有效地避免了非连通流形学习可能出现的短路、非连通与粗糙连接等问题。分解-整合算法将整个数据集首先按其流形类分解,并对每一子类形数据分别降维,然后利用类间关系对所得降维类分别进行定向与定位,并对其进行整合,从而获得原数据集的降维表示。所提出的新算法均能有效应用于非连通流形数据的降维,其性能均明显优于已有非连通流形学习算法。 (4)针对流形学习方法中的数据邻域图构造与测地距离估训问题,提出了一种新的修正邻域图构造思想,并基于此思想发展了测地距离估计的一种更为精确的计算方法。在通常的局部线性假设下(即假设由数据与其近邻凸组合构成的局部邻域片位于本质流形面上),通过将传统的“点线”邻域图扩充为“点与邻域片”邻域图,从而实现了对流形形态的更精细刻画。基于修正的邻域图,进而提出了在相邻邻域片间优化计算两点间测地距离的思想,并由此建立起了一个更为精确的数据测地距离改进估计方法。实验表明:所提出的新方法计算精度更高,且并未本质增加算法的计算复杂性,可广泛应用于流形学习算法的实际应用中。 (5)综合上述研究成果并集成已有流形学习算法,研发了一套流形学习应用系统。该系统具有模型自动选择、数据流形类型检测、不变量特征(主要针对测地距离)精确估计和针对不同类型数据自动选择降维方法等综合功能。系统不仅可直接应用于广泛数据的低维特征提取,也可方便地用作流形学习算法研究和比较的平台。所研发系统的突出特征是功能模块齐全和对用户的弱依赖性,从而方便应用。作为例子,我们对所研发的系统在各种类型的图像数据集上进行了测试,取得了令人满意的效果。
【学位授予单位】:

知网文化
【相似文献】
中国期刊全文数据库 前20条
1 魏莱;王守觉;徐菲菲;;一种对奇异值不敏感的ISOMAP[J];计算机应用;2007年08期
2 王靖;;基于鲁棒的全局流形学习方法[J];计算机工程;2008年09期
3 李子荣;杜明辉;;LDA/GE在人脸识别中的应用[J];计算机工程与应用;2008年25期
4 孟德宇;古楠楠;徐宗本;梁怡;;针对环状流形数据的非线性降维[J];软件学报;2008年11期
5 周谆;杨炳儒;;基于认知的流形学习方法概要[J];计算机科学;2009年05期
6 唐皓;刘希玉;;基于密度流形上的空间聚类[J];河北大学学报(自然科学版);2009年06期
7 邵超;张斌;万春红;;流形学习中邻域大小参数的合适性判定[J];计算机工程与应用;2010年20期
8 李昕;钱旭;王自强;;用于文档聚类的间隔流形学习算法研究[J];计算机工程;2010年15期
9 陈晓红;陈松灿;;监督型局部保持的典型相关分析[J];小型微型计算机系统;2010年08期
10 刘辉;杨俊安;王一;;基于流形学习的声目标特征提取方法研究[J];物理学报;2011年07期
11 詹德川,周志华;基于集成的流形学习可视化[J];计算机研究与发展;2005年09期
12 万海平;何华灿;;一个关于如何选择核函数的框架(英文)[J];广西师范大学学报(自然科学版);2006年04期
13 祝磊;朱善安;;基于2维保局投影的人脸识别[J];中国图象图形学报;2007年11期
14 喻军;申家峰;;有监督的核局部线性嵌入算法[J];科学技术与工程;2008年14期
15 冯海亮;李见为;黄鸿;;自组织LLE算法及其在人脸识别中的应用[J];光学精密工程;2008年09期
16 王靖;;基于离群点检测的鲁棒局部切空间排列方法[J];华侨大学学报(自然科学版);2008年04期
17 李子荣;杜明辉;;基于局部边界鉴别分析的人脸识别[J];电子与信息学报;2009年03期
18 蔡洪;何强;韩壮志;尚朝轩;;基于局部保持判别子空间的ISAR目标识别[J];中国电子科学研究院学报;2009年06期
19 贺广南;杨育彬;;基于流形学习的图像检索算法研究[J];山东大学学报(工学版);2010年05期
20 张善文;巨春飞;;正交全局-局部判别映射应用于植物叶片分类[J];农业工程学报;2010年10期
中国重要会议论文全文数据库 前10条
1 董广军;纪松;朱朝杰;;基于局部线性嵌入流形学习的高光谱影像分类技术[A];第六届全国信息获取与处理学术会议论文集(3)[C];2008年
2 邱慧宁;黄剑;陈羽;赖剑煌;;基于UDP的半监督学习及其在人脸识别的应用[A];第十四届全国图象图形学学术会议论文集[C];2008年
3 蒋全胜;贾民平;胡建中;许飞云;;一种基于流形学习的故障模式识别方法[A];第九届全国振动理论及应用学术会议论文集[C];2007年
4 蒋全胜;贾民平;胡建中;许飞云;;一种基于流形学习的故障模式识别方法[A];第九届全国振动理论及应用学术会议论文摘要集[C];2007年
5 何慧;陈博;郭军;;基于流形学习的半监督文本情感分类算法[A];第五届全国信息检索学术会议论文集[C];2009年
6 傅向华;王志强;赵良辉;杜文峰;;基于拉普拉斯流形正则化的半监督图像检索[A];第四届和谐人机环境联合学术会议论文集[C];2008年
7 宋欣;王娟;张斌;叶世伟;;流形学习算法分析及在人脸数据库上的应用[A];2008年全国开放式分布与并行计算机学术会议论文集(上册)[C];2008年
8 刘立;余正涛;王蒙;毛存礼;郭剑毅;;结合词相关特征与流行学习的中文问句分类[A];第六届全国信息检索学术会议论文集[C];2010年
9 董冀媛;穆志纯;欧阳定恒;;基于最大线性片划分的局部切空间排列算法及在多姿态人耳识别中的应用[A];第二十九届中国控制会议论文集[C];2010年
10 曾九孙;郜传厚;罗世华;李启会;;基于增量LPP的在线过程监控方法及其应用[A];中国自动化学会控制理论专业委员会C卷[C];2011年
中国博士学位论文全文数据库 前10条
1 刘晓宁;基于三维模型的人脸识别技术研究[D];西北大学;2006年
2 王雷;基于全局统计与局部几何性质的数据降维算法研究[D];中国科学技术大学;2009年
3 王国强;嵌入邻域判别关系的子空间人脸识别算法研究[D];大连理工大学;2008年
4 金一;人脸识别中的若干算法研究[D];北京交通大学;2009年
5 李学华;基于核与软计算方法的模式分析[D];电子科技大学;2009年
6 杜春华;人脸特征点定位及识别的研究[D];上海交通大学;2008年
7 杨震;文本分类和聚类中若干问题的研究[D];北京邮电大学;2007年
8 于雪莲;基于核方法和流形学习的雷达目标距离像识别研究[D];电子科技大学;2008年
9 舒文杰;RNA二级结构拓扑特征化关键技术及其应用研究[D];国防科学技术大学;2007年
10 田春娜;复杂背景下多视角人脸检测与识别[D];西安电子科技大学;2008年
中国硕士学位论文全文数据库 前10条
1 周晓勇;流形学习算法研究与应用[D];安徽大学;2014年
2 丁娇;基于流形学习算法的植物叶片图像识别方法研究[D];安徽大学;2014年
3 裴书芳;基于流形学习的无线传感器网络入侵检测方法研究[D];河北师范大学;2014年
4 李丽敏;自相交流形学习方法[D];浙江大学;2006年
5 贺惠新;基于流形学习的高维流场数据分类研究[D];哈尔滨工业大学;2008年
6 王添翼;基于卷积网络的三维模型特征提取[D];吉林大学;2006年
7 钟吉英;半监督学习算法在脑—计算机接口中的应用研究[D];电子科技大学;2009年
8 张炯;基于流形学习的纤维丛学习算法研究[D];苏州大学;2008年
9 郑守志;基于流形学习理论的空间信息源研究及应用[D];中国科学院研究生院(计算技术研究所);2006年
10 杨红敏;固有维数估计的研究与应用[D];天津大学;2007年
中国知网广告投放
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978