收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

流形学习与半监督学习在特征抽取中的应用研究

史骏  
【摘要】:人脸识别已成为机器学习、模式识别和机器视觉等研究领域的热点问题,在商业、公安系统等领域中更有着广泛的应用。特征抽取一直是人脸识别研究的一个基本问题,如何从高维数据中找到一个有意义的更低维表示是特征抽取的关键所在。近年来的研究表明,旨在保留原始数据中的内在局部邻域信息的流形学习方法适于处理人脸这类非线性结构数据,同时一些利用大量无类别标签样本和少量有类别标签样本来提升学习性能的半监督学习引起了广泛关注。但是这些算法在实际应用中仍然存在诸多不足。本文在深入研究流形学习和半监督学习的基础上提出了一些改进算法,并在一些通用人脸图像数据库中验证了算法的有效性,同时设计并实现了人脸识别原型系统,将现有的图像处理算法即经典的人脸识别算法应用于实际中。 本文主要工作包括以下五个方面: 1、核监督鉴别投影分析(Kernel Supervised Discriminant Projection Analysis) 核方法(Kernel Method)通过非线性映射使得原始空间中非线性可分的数据在特征空间中尽可能地线性可分,然而它没有完全考虑数据集的局部性质同时其所带来的计算复杂性仍然是一个问题。无监督鉴别投影(Unsupervised Discriminant Projection, UDP)这一流形学习算法有效地利用了数据集的局部和非局部性质,但是本质上没有利用样本数据的类别信息。为了解决核方法和无监督鉴别投影(UDP)存在的问题,提出了一种核监督鉴别投影分析方法。该方法首先将训练样本通过一个核函数非线性映射到高维特征空间,在该特征空间中考虑了数据的局部和非局部性质以及类别信息。因此,该方法不仅保留了数据的局部邻域信息,而且能够抽取更有利于分类的非线性鉴别特征。在Yale人脸数据库上的实验验证了该算法的有效性。 2、基于局部和非局部均值的无监督鉴别分析(Unsupervised Discriminant Analysis Based on the Local and Non-local Mean) 考虑到无监督鉴别投影(UDP)很容易受到离群点的影响,同时无监督鉴别投影(UDP)的计算时间较长。提出了一种基于局部和非局部均值的无监督鉴别分析特征抽取方法,该方法利用局部和非局部均值来构造局部和非局部散度,从而在某种程度上克服了离群点所带来的鉴别困难。此外,与无监督鉴别投影相比,该方法的计算时间也有提高。在Yale、ORL(?)口AR人脸数据库上的实验验证了算法的有效性。 3、基于局部均值的广义散度差无监督鉴别分析(Local Mean Based Generalized Scatter Difference Unsupervised Discriminant Analysis) 无监督鉴别投影(UDP)考虑了数据集的局部和非局部特征,但是在人脸识别应用中不可避免地会出现“高维小样本问题”。由于最大散度差鉴别准则是对Fisher鉴别准则的改进,从理论上消除了“高维小样本问题”。因此提出了一种基于局部均值的广义散度差无监督鉴别分析方法,该方法利用局部和非局部均值构造局部和非局部散度,再利用样本的非局部均值散度与C倍的局部均值散度之差作为鉴别函数准则,不仅保留了样本分布的局部信息,而且从本质上克服了“高维小样本问题”。在Yale和FERET人脸数据库上的实验结果验证了该算法的有效性。 4、基于马氏距离的半监督鉴别分析(Mahalanobis Distance-based Semi-supervised Discriminant Analysis) 针对人脸识别应用中人脸样本的类别信息不足以及人脸样本特征间存在相关性的问题,提出了一种基于马氏距离的半监督鉴别分析。该方法在图嵌入框架下利用马氏距离对数据集中带有类别信息的样本进行边界Fisher分析(Marginal Fisher Analysis, MFA),不仅保持了类内的紧密性和类间的分离性,而且能够抽取出有利于分类的鉴别特征,同时将不带类别信息的样本用于描述数据集的几何结构,保留了样本间的局部邻域信息。与传统的特征抽取方法相比,该方法有较好的识别性能,在ORL、Yale(?)口AR人脸数据库上的实验验证了该方法的有效性。 5、局部相关性的半监督鉴别分析(Local Correlation Semi-supervised Discriminant Analysis) 线性鉴别分析(Linear Discriminant Analysis, LDA)是一类有监督的线性特征抽取算法,由于利用了数据集中的类别信息,因此有较好的分类效果。边界Fisher分析(MFA)是基于流形学习的有监督特征抽取算法,通过构造类内近邻图和类间近邻图,以达到同类样本尽可能地内聚,不同类样本分离。但是随着数据集中带类别信息样本的数量减少,LDA和MFA的性能将会降低,同时传统的欧式距离难以描述样本间的相似性。因此提出了一种局部相关性的半监督鉴别分析,该方法根据样本间的相似性构造类内相似性图和类间相似性图,然后建立新的鉴别准则用以分离每一样本点邻域内K1个相似性最小的同类样本和K2个相似性最大的不同类样本,同时拓展到半监督学习中。ORL和AR人脸数据库上的实验验证了本算法的有效性。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 李妍妍;李媛媛;叶世伟;;基于流形正则化的支持向量回归及应用[J];计算机应用;2007年08期
2 李永忠;王汝山;张念贵;王玉雷;;基于半监督模糊聚类的入侵检测技术[J];江苏科技大学学报(自然科学版);2010年04期
3 傅向华,冯博琴,马兆丰,何明;可在线增量自学习的聚焦爬行方法[J];西安交通大学学报;2004年06期
4 丁磊,钱云涛;不同程度的监督机制在自动文本分类中的应用[J];计算机应用与软件;2004年06期
5 张晨光;李玉鑑;;基于半监督学习的眉毛图像分割方法[J];计算机工程与应用;2009年21期
6 刘叶青;刘三阳;谷明涛;;一种多项式光滑的半监督支持向量机分类算法[J];计算机科学;2009年07期
7 杨绪兵;潘志松;陈松灿;;半监督型广义特征值最接近支持向量机[J];模式识别与人工智能;2009年03期
8 鲁珂,赵继东,叶娅兰,曾家智;一种用于图像检索的新型半监督学习算法[J];电子科技大学学报;2005年05期
9 罗进;周学君;;半监督学习中非标记数据的利用[J];湖北大学学报(自然科学版);2008年01期
10 曹慧;刘玉峰;;未标记样本在半监督学习中的应用方法研究[J];广西轻工业;2008年12期
11 王汝山;李永忠;张念贵;王玉雷;;半监督学习在入侵检测系统中的应用[J];广西师范大学学报(自然科学版);2009年03期
12 梁吉业;高嘉伟;常瑜;;半监督学习研究进展[J];山西大学学报(自然科学版);2009年04期
13 张念贵;李永忠;王汝山;;半监督聚类算法及其在入侵检测中的应用[J];科学技术与工程;2010年01期
14 赵莹;张健沛;杨静;王冠军;;一种改进的分枝定界半监督支持向量机学习算法[J];电子学报;2010年02期
15 李欢;;半监督学习及其在数据挖掘中的应用[J];电脑知识与技术;2010年27期
16 常志勇;刘叶青;谷明涛;;用于在线数据分类的半监督最接近支持向量机[J];计算机工程与应用;2010年29期
17 杨伟;方涛;许刚;;基于朴素贝叶斯的半监督学习遥感影像分类[J];计算机工程;2010年20期
18 梁军;陈龙;周卫琪;陶文倩;姚明;胥正川;;基于马尔科夫随机场和鲁棒误差函数的半监督分类研究[J];山东大学学报(理学版);2010年11期
19 王永;程灿;戴明军;孙永;;一种半监督支持向量机优化方法[J];工矿自动化;2010年12期
20 刘蓉;李红艳;;半监督学习研究与应用[J];软件导刊;2010年08期
中国重要会议论文全文数据库 前10条
1 谷方明;刘大有;王新颖;;基于半监督学习的加权支持向量域数据描述方法[A];NDBC2010第27届中国数据库学术会议论文集(B辑)[C];2010年
2 杨源;马云龙;林鸿飞;;基于权重标准化SimRank与半监督学习的产品属性归类[A];中国计算语言学研究前沿进展(2009-2011)[C];2011年
3 朱松豪;梁志伟;;用半监督学习方法实现图像检索[A];第二十九届中国控制会议论文集[C];2010年
4 邱慧宁;黄剑;陈羽;赖剑煌;;基于UDP的半监督学习及其在人脸识别的应用[A];第十四届全国图象图形学学术会议论文集[C];2008年
5 毕锦烟;李巍华;;基于半监督模糊核聚类的齿轮箱早期故障检测方法[A];第九届全国振动理论及应用学术会议论文摘要集[C];2007年
6 柳斌;李之棠;涂浩;;一种基于半监督学习的应用层流量分类方法[A];2008年全国开放式分布与并行计算机学术会议论文集(下册)[C];2008年
7 张召;业宁;业巧林;;基于配对约束的核半监督非线性降维算法[A];第五届全国信息检索学术会议论文集[C];2009年
8 王倩影;冯国灿;汤鑫;;δ-距离及其在半监督增强中的应用[A];第十五届全国图象图形学学术会议论文集[C];2010年
9 冯瑞;宋春林;;一种基于局部学习的复杂系统建模方法[A];2007中国控制与决策学术年会论文集[C];2007年
10 何慧;陈博;郭军;;基于流形学习的半监督文本情感分类算法[A];第五届全国信息检索学术会议论文集[C];2009年
中国博士学位论文全文数据库 前10条
1 孔怡青;半监督学习及其应用研究[D];江南大学;2009年
2 王娇;多视图的半监督学习研究[D];北京交通大学;2010年
3 兰远东;基于图的半监督学习理论、算法及应用研究[D];华南理工大学;2012年
4 徐雪;样本的几何信息在半监督学习中的应用研究[D];中国科学技术大学;2010年
5 朱岩;面向文本数据的半监督学习研究[D];北京交通大学;2012年
6 桂杰;基于图的半监督学习和维数约简方法及其应用研究[D];中国科学技术大学;2010年
7 潘俊;基于图的半监督学习及其应用研究[D];浙江大学;2011年
8 余国先;高维数据上的半监督学习研究[D];华南理工大学;2013年
9 赵志凯;半监督学习及其在煤矿瓦斯安全信息处理中的应用研究[D];中国矿业大学;2012年
10 任广波;基于半监督学习的遥感影像分类技术研究[D];中国海洋大学;2010年
中国硕士学位论文全文数据库 前10条
1 陈新勇;基于核策略的半监督学习方法研究[D];河北大学;2010年
2 黄明明;半监督学习方法研究及在警用平台中的应用[D];大连理工大学;2010年
3 冯元佶;基于图的半监督学习的改进研究[D];湘潭大学;2010年
4 余养强;半监督学习若干问题的研究[D];福建师范大学;2010年
5 刘伟涛;半监督学习方法及应用研究[D];山东大学;2011年
6 杨伟;半监督学习方法研究[D];国防科学技术大学;2011年
7 魏征丽;基于图半监督学习算法的研究及应用[D];西安电子科技大学;2012年
8 刘孝良;基于半监督学习的随机森林算法研究与应用[D];中国海洋大学;2013年
9 惠成峰;基于半监督学习的电子商务推荐方法[D];南京大学;2013年
10 王竞燕;基于半监督学习的桥梁结构健康分类模型的研究与应用[D];北京工商大学;2012年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978