收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

图驱动的无监督降维和判别子空间学习研究及其应用

杨波  
【摘要】:随着高维数据的急剧涌现,模式识别和机器学习领域面临着“维数灾难”问题的严峻挑战。降维是解决该问题一项必不可少的技术。其中,图驱动的降维方法近来已成为研究热点。对这些方法,图的构建是其核心。同时,判别子空间学习也是降维的一个重要研究方向,因为当给定了类或成对约束等先验知识时,依赖相应先验知识进行判别子空间学习通常能够提高后续分类的性能。基于此,本文研究了图的构建方法且将其用于无监督降维中并提出了一些判别子空间学习算法。本文的重要贡献在于: 1.针对邻域图构建中邻域参数选择的困难,提出了样本依赖的图(Sample-dependent Graph, SG)构建方法。这种构建方法依赖于每个样本和样本对间的相似性来确定样本的近邻而无需预先设定近邻参数。由此,不仅避免了邻域参数选择的高昂代价而且通常能相对有效地拟合数据的本质结构。基于SG的该特性以及图驱动降维算法的流行性,将其与无监督局部保持投影算法相结合,从而提出了样本依赖的局部保持投影算法(SLPP)。在人脸识别等领域中,与基于传统邻域图构建的降维算法相比,SG和SLPP显示了有效性和可行性。 2.在图驱动的无监督降维算法中,由于没有明确判别(Discrimination)信息,在图的构建中形成了一种所谓的伪装(Disguised)判别性。这种伪装判别性与真实类别的相容性(Consistency)则成了决定算法性能的关键。以无监督判别投影(UDP)为基础,研究了图驱动的无监督降维的伪装判别本质,相应算法对局部参数敏感的一个潜在根由以及所谓的伪装判别性与真实类别信息间不相容问题对图构建和预测性能的影响。所提出的理论能够对无监督学习中图的构建提供一定的指导并在人脸识别实验中得到证明。 3.从散度矩阵的构建角度,建立了结构驱动的判别分析框架(Structurally Motivated framework for DA, SM)。该框架不仅涵盖了许多流行的判别分析算法,根据它们在散度矩阵中所涉及的结构粒度对其进行分类识别,而且能够为新算法的设计提供指导。通过对该框架所涉及的从类粒度到聚类粒度再到局部粒度结构谱的洞察发现,聚类粒度结构仍未被充分用于现有判别分析算法中。为此,发展了三个基于该粒度的判别分析算法SWDA、SBDA和SWBDA,将提出算法用于人脸识别等任务,验证了它们的有效性。 4.支持向量机作为分类器的强大能力是众所周知的,然而在大间隔判别分析中它仅被用作特征抽取的“黑箱”,所抽取的特征却要用其它的分类算法如神经网络进行分类。显然,支持向量机的能力没有被充分利用。基于此,提出了一个由支持向量机诱导的嵌入式判别子空间学习算法。该算法将分类和降维统一于同一框架,由此实现了支持向量机分类和降维的相互促进。在标准数据集上验证了该算法的性能。 5.提出了基于支持向量机和线性判别分析的判别降维算法。作为迭代学习算法,该算法在进行子空间学习过程中,不仅考虑了类间间隔信息,而且将类内信息引入其中。与大间隔判别分析相比,所学得的投影矩阵能够更有效地利用数据的内在信息来提高后续分类算法的性能。将其用于高维数据降维后分类中获得了较好的性能。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 何一鸣;;无监督的互联网事件抽取框架[J];计算机工程与设计;2011年03期
2 曹丽;陈才扣;;核无监督鉴别投影及人脸识别[J];计算机工程与设计;2009年15期
3 殷柏涛;一种改进的无监督竞争学习算法[J];声学与电子工程;1995年02期
4 郭小卫;官小平;;一种多尺度无监督遥感图像分割方法[J];遥感信息;2006年06期
5 杨斌;刘卫国;;一种基于聚类的无监督异常检测方法[J];计算机工程与应用;2008年01期
6 孙怿;欧智坚;胡炜;;利用无监督自适应的兴奋解说检测和体育比赛精彩片断提取[J];计算机应用与软件;2008年11期
7 曹苏群;王骏;王士同;;正交约束的无监督统计不相关最佳鉴别平面[J];计算机工程与科学;2010年05期
8 黄璞;陈才扣;;增强的无监督人脸鉴别技术[J];计算机工程与应用;2010年18期
9 吴姗;倪志伟;罗贺;郑盈盈;;一种基于密度的无监督联系发现方法[J];中国管理科学;2008年S1期
10 朱琳;王宇杰;;信息瓶颈方法在无监督图像聚类中的研究[J];微计算机信息;2008年24期
11 刘凯;乌日力嘎;斯钦图;姜文斌;刘群;;基于双语约束的蒙古语无监督依存分析[J];中文信息学报;2011年04期
12 张文文;王挺;;不规范文本的无监督观点句抽取[J];计算机与数字工程;2013年01期
13 徐嘉明;张卫强;刘加;夏善红;;基于无监督迁移分量分析的语种识别[J];清华大学学报(自然科学版);2013年06期
14 关健,刘大昕;基于主成分分析的无监督异常检测[J];计算机研究与发展;2004年09期
15 李巍;吴聪;;基于聚类优化的无监督入侵检测在高校网络中的应用[J];科技通报;2013年06期
16 易囯晗;周义成;杨凤云;;视频监控中无监督异常事件检测[J];工业控制计算机;2014年01期
17 刘琼;周慧灿;王耀南;;基于亮度分级和方向密度的无监督文本定位[J];计算机应用;2008年06期
18 刘开第;庞彦军;周少玲;栗文国;;一种无监督数据驱动的学习算法[J];控制与决策;2009年03期
19 王晓辉;陈昌爱;;基于混合属性处理的无监督异常检测[J];福建电脑;2012年05期
20 张阿品;徐保国;;无监督连接划分聚类算法及其在入侵检测中的应用[J];计算机工程与设计;2006年03期
中国重要会议论文全文数据库 前10条
1 吴姗;倪志伟;罗贺;郑盈盈;;一种基于密度的无监督联系发现方法[A];第十届中国管理科学学术年会论文集[C];2008年
2 郭瑛媚;史晓东;陈毅东;高燕;;基于词的话题分布相似度的无监督日文旅游意见词翻译[A];机器翻译研究进展——第七届全国机器翻译研讨会论文集[C];2011年
3 徐嘉明;张卫强;刘加;夏善红;;基于无监督迁移分量分析的语种识别[A];第十二届全国人机语音通讯学术会议(NCMMSC'2013)论文集[C];2013年
4 洪宇;张剑峰;杨跃辉;姚建民;朱巧明;;基于文法特征的无监督能愿词挖掘方法研究[A];第六届全国信息检索学术会议论文集[C];2010年
5 杨睿;山本博史;菊井玄一郎;匂坂芳典;;针对统计机器翻译的无监督中文文本切分[A];第二届全国学生计算语言学研讨会论文集[C];2004年
6 张爱华;荆继武;向继;秦钰;;基于规则化词分布特征的无监督特征选取算法[A];全国网络与信息安全技术研讨会论文集(上册)[C];2007年
7 王章辉;赵宇海;王国仁;李源;;一种基于投影聚类的无监督表型区分算法[A];NDBC2010第27届中国数据库学术会议论文集(B辑)[C];2010年
8 黄金虎;大卫;;无监督下的词切分和词分类的试验(英文)[A];第一届学生计算语言学研讨会论文集[C];2002年
9 马韬;陈杰;陈文颉;张博;;光纤陀螺信号降噪的无监督自适应滤波方法[A];第二十九届中国控制会议论文集[C];2010年
10 潘霖;张雪英;吉根林;;一种基于Bootstrapping的中文领域术语获取算法[A];中国通信学会第六届学术年会论文集(上)[C];2009年
中国博士学位论文全文数据库 前2条
1 杨波;图驱动的无监督降维和判别子空间学习研究及其应用[D];南京航空航天大学;2010年
2 魏松;人机对话系统中若干关键问题研究[D];北京邮电大学;2007年
中国硕士学位论文全文数据库 前10条
1 林乐平;基于无监督的入侵检测[D];西安电子科技大学;2005年
2 孙勇亮;开放领域的中文实体无监督关系抽取[D];华东师范大学;2014年
3 孙全力;一种无监督的模式识别方法及其在油气识别中的应用[D];成都理工大学;2003年
4 丛万玉;基于无监督的无线传感器网络入侵检测技术研究[D];吉林大学;2009年
5 王晶;无监督的中文实体关系抽取研究[D];华东师范大学;2012年
6 黄少群;基于谱回归的无监督特征选择算法研究[D];厦门大学;2014年
7 张志良;面向服务聚类的无监督异常检测技术研究[D];中南大学;2009年
8 闻世保;无监督极化SAR图像分类研究[D];西安电子科技大学;2014年
9 连惠城;多尺度随机模型与SAR图像无监督分割[D];西北工业大学;2004年
10 敖道敢;无监督特征学习结合神经网络应用于图像识别[D];华南理工大学;2014年
中国重要报纸全文数据库 前4条
1 记者 雷辉 通讯员 张其明;督促推动立法转变政府职能[N];南方日报;2013年
2 王石川;蒙尘的象牙塔,权力无监督就会有腐败[N];法制日报;2013年
3 山东 教师 王传涛;无人查与不敢查 皆因权力无监督[N];法制日报;2013年
4 魏然 尔众;我市开展客运市场集中整治[N];菏泽日报;2006年
中国知网广告投放
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978