收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

统计学习理论中基于核的算法研究

冯云龙  
【摘要】:在信息时代的今天,统计学习理论在诸如自然科学,工程以及金融等各个领域发挥着愈来愈重要的作用。作为一个研究领域,它为机器学习算法提供理论支持。广义地说,统计学习的目的是从样本中学习函数结构或者数据的内在结构。通过引入核方法,数据被映射到高维的特征空间中,进而可以应用各种方法来研究其内在的联系。本论文中,我们主要在统计学习理论的框架下,讨论几种不同的基于核的统计学习理论算法。 首先,我们研究了在样本具有依赖关系情形下的q-范数正则化最小二乘回归算法。针对样本序列呈现弱相互依赖关系并且满足α-混合条件以及惩罚项为q-范数正则化子的情形,我们对于最小二乘正则化回归算法给出了比较精细的误差分析。这里我们考虑的q的取值范围为(0,2]。通过运用覆盖数来衡量空间复杂度,我们以a-混合条件,逼近误差的假设以及再生核希尔伯特空间的方式给出了学习理论的阶。 其次,我们讨论了系数正则化的回归算法。我们研究了在依赖于样本的假设空间里,lq-正则化最小二乘回归算法的统计学习表现,此处1≤q≤2。一般来说,依赖于样本的假设空间中的算法往往表现出更多的灵活性。通过运用Steping Stone的研究技巧,我们给出了一个统一的误差分析方法。其中,为了提高采样误差的阶,我们引入了经验覆盖数来衡量假设空间的复杂度。同以往结果相比,我们得到了更好的研究结果。具体来说主要体现在以下几个方面:一,在适定的条件下我们得到了明显较为快速的学习理论阶。更具体地说,我们所得到的范化误差的收链阶是O(m-θ)类型的收敛阶,其中θ可以充分接近于1,这在统计学习理论中被认为是最优的;二,我们的结果对于q=1时的情形同样成立;三,同以往结果相比,我们是在更弱的条件下得到上述更强的结论。 最后,我们考虑了基于核的成对排序算法。对于成对排序问题,我们首先分别比较了几种不同的研究模型。在本文中,我们所采用的是一种基于选择的两阶段排序模型。但是相比较于以往的基于选择的两阶段排序模型而言,我们所采用的模型又是有所不同的。这种不同主要体现在所采用的采样方式的不同。在排序过程的第一个阶段,我们首先通过把排序问题转化为分类问题来学习-个选择函数。在这一阶段,通过由排序问题到分类问题的转化,我们还可以推导出一些常见的学习结果如范化能力等。对于排序过程的第二个阶段,为了得到一个记分函数,我们设计了一个相应的优化算法。


知网文化
【相似文献】
中国期刊全文数据库 前20条
1 王艳君;CAI与现代教育手段的改革[J];科技情报开发与经济;2004年01期
2 祝风,刘立华,郑晓光;CAI理论基础的演变和CAI课件设计[J];吉林师范大学学报(自然科学版);2005年03期
3 杨昕卉;;建构主义学习理论在物理教学中的应用[J];中小学教师培训;2005年04期
4 魏惠丽;;信息技术与英语课程整合的研究[J];今日科苑;2009年06期
5 张晓贵;建构主义学习理论与数学教育[J];台州学院学报;2002年03期
6 莫永华,石刚,彭月英;以人类分层传播模式整合学习理论[J];广西师范学院学报(自然科学版);2005年03期
7 车博;;浅议人本主义学习理论及其对物理教学的启示[J];物理通报;2010年12期
8 高兰香;;大学物理主题式教学研究[J];物理通报;2011年06期
9 王伟光;运用“建构主义学习理论”进行生物教学的尝试[J];生物学通报;1999年06期
10 王雅琼;学习理论与数学学习[J];青海师范大学学报(自然科学版);2004年03期
11 陈洪;蔡佳;张玉成;;多分类贪婪算法的一致性[J];湖北大学学报(自然科学版);2005年04期
12 詹艳;;营销中的“认识论”和“行为论”[J];科技广场;2006年12期
13 张长江;;用建构主义学习理论指导大学英语教学初探[J];科技信息(学术研究);2007年06期
14 张海;徐宗本;;学习算法的稳定性与泛化:一种新的稳定性框架[J];数学学报;2009年03期
15 屈霞;邹凌;杨长春;韩学超;;学习理论在独立学院课程设计中的整合应用[J];实验室研究与探索;2010年11期
16 冷英,莫雷;拉卡托斯的科学纲领方法论对学习理论研究的启示[J];自然辩证法研究;2003年03期
17 董雪梅,邹斌,李落清;联合算法稳定下的排一推广误差界[J];工程数学学报;2005年06期
18 郑毓信;学习理论的现代发展及其教学涵义[J];数学教育学报;2004年01期
19 秦岩;张惠锋;;基于社会心理学的协作学习理论研究[J];中国科技信息;2004年24期
20 任华;孙林岩;王孙安;;基于认知学习理论的工程训练教学[J];实验技术与管理;2006年09期
中国重要会议论文全文数据库 前10条
1 乔栋贤;;学习理论及学习过程中的现象对化学学习的启示[A];中国化学会第三届关注中国西部地区中学化学教学发展论坛论文集[C];2011年
2 杨静萍;;教师角色的转变与学习理论的学习[A];第四届全国中学化学教学研讨会论文集(一)[C];2004年
3 武杰;;特殊教育实践对几种学习理论的检验及其分析[A];第九届全国心理学学术会议文摘选集[C];2001年
4 燕国材;;先秦儒家的学习理论[A];中国心理学会第三次会员代表大会及建会60周年学术会议(全国第四届心理学学术会议)文摘选集(上)[C];1981年
5 刘恒;;Focus on the Language Learner and Multimedia Assisted Language Teaching[A];都市型高等农业教育教学改革论文专辑[C];2007年
6 莫永华;寇冬泉;;基于认知心理学的人类分层传播模式[A];中国教育技术协会2004年年会论文集[C];2004年
7 刘志华;;学习理论与教学设计理论关系的探讨[A];山西省行为科学学会学术会议论文选集(1999-2003年度)[C];2003年
8 焦杨;;从先秦儒家的学习理论体系看荀子的学习理论[A];儒学与二十一世纪文化建设:首善文化的价值阐释与世界传播[C];2007年
9 武淑梅;;浅析国有土地权属争议处理有关政策[A];河南省铁道学会2007年学术活动月优秀论文选集[C];2007年
10 武淑梅;;浅析国有土地权属争议处理有关政策[A];河南省铁道学会2007年学术活动月优秀论文集[C];2007年
中国博士学位论文全文数据库 前10条
1 宋春雷;学习理论在鲁棒控制中的应用研究[D];北京大学;2000年
2 柴娇;我国中小学体育课堂教学设计的理论与实践研究[D];北京体育大学;2006年
3 肖铨武;基于核的正则化学习算法[D];中国科学技术大学;2009年
4 曾庆洪;范围联盟和规模联盟非对称绩效实证研究[D];华南理工大学;2009年
5 叶桂波;黎曼流形上的学习理论—在线分类和多核算法[D];复旦大学;2007年
6 周祥军;高阶parzen Windows及随机采样[D];中国科学技术大学;2009年
7 潘志伟;统计学习算法:多分类及非独立同分布抽样下的回归[D];中国科学技术大学;2009年
8 白晨;文献数据库系统用户检索决策中的学习行为研究[D];南京理工大学;2010年
9 杨霞;基于区域学习理论的生产性服务业企业竞争优势构建研究[D];浙江大学;2008年
10 郑太年;学校学习中知识意义的缺失与回复[D];华东师范大学;2004年
中国硕士学位论文全文数据库 前10条
1 钟珊;建构主义学习理论在高中英语写作教学中的运用[D];华中师范大学;2004年
2 吴波;高一物理多媒体课件的开发探究[D];贵州师范大学;2005年
3 朱世根;学习理论在教学网页设计中的应用研究[D];江西师范大学;2005年
4 何卫红;基于主题地图的语文教育信息资源组织方法研究[D];湖南师范大学;2005年
5 李志平;教育学视角下的竞赛数学学与教问题研究[D];湖南师范大学;2006年
6 姚锐;关于技术与学习理论互动关系的研究[D];广西师范大学;2007年
7 莫永华;以人类分层传播模式探讨学习理论中的客观主义与建构主义的整合[D];西南大学;2008年
8 曾雪梅;大连理工大学四级后口语课程设计[D];大连理工大学;2006年
9 赵英侠;基于探究式学习的物理仿真实验室的设计[D];湖南大学;2007年
10 曹蕻;基于情境认知与学习理论的大学英语教学模式研究[D];山东农业大学;2011年
中国重要报纸全文数据库 前10条
1 ;《学习理论文库》出版33位专家学者自选集[N];人民日报;2007年
2 史胜林 夏洪涛;8670部队激发基层学习理论主动性[N];人民武警;2006年
3 本报评论员;让新的学习理论成为响亮追求[N];中国文化报;2003年
4 本报记者 张震;认真学习理论 提高执政能力[N];贵阳日报;2007年
5 记者 陈永辉;学习理论 改进作风 加强组织 完善制度 增强能力[N];人民法院报;2005年
6 李羚;学习理论 传播思想[N];厂长经理日报;2001年
7 ;集中展示新时期理论建设的辉煌成就[N];人民日报;2007年
8 记者 赖晓莉;学习理论 探讨规律 务实创新推进政协工作[N];成都日报;2006年
9 教育部邓小平理论和“三个代表”重要思想研究中心执笔:张剑 郭宇光;一幅哲学社会科学繁荣发展的壮美画卷[N];人民日报;2007年
10 宋冰冰 李岩;荟萃理论成果 再塑出版品牌[N];中国新闻出版报;2007年
中国知网广告投放
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978