收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

算法“黑箱”与算法责任机制研究

浮婷  
【摘要】:自2010年前后兴起的新一轮人工智能热潮,以互联网大数据、强大的计算硬件设施和人工智能算法为关键性的发展要素。本文关注人工智能算法在普及应用中带来的问题。算法具有通过自动化决策和解释大数据而影响生产生活以及社会系统的强大能力,这与其缺少透明度、弱于监管的现状形成了鲜明对比。今天,越来越多的经济社会决策正在由人让渡给算法,而算法的实际运行规则对于大部分人来说是不可见的。针对这一实践问题,本文用算法“黑箱”的概念,来描述日趋深入社会生产生活各领域的算法不透明现象,文中认为,应对人工智能算法技术发展所带来的各种风险问题,需要打开算法开发与应用过程中的“黑箱”,推动算法开发与运营企业负责任的决策与行为,引入利益相关者的广泛参与,促进企业履行算法责任的行为。这是当前算法技术加速普及应用的时代背景下,具有非常重要现实意义的一个研究方向。针对算法“黑箱”和算法责任问题,本文涉及到的主要研究内容如下:1.界定并明确了不同类别的算法“黑箱”。算法“黑箱”体现在三个彼此相关的层面:一是深度学习等算法本身存在的不可控的黑箱问题,即“技术黑箱”;二是算法编写开发需要较高的专业技能,对于非专业人员来说很难以理解和判断,即“解释黑箱”。三是开发和应用算法的企业在面向利益相关者的运营层面存在黑箱,即“组织黑箱”。三个层面的算法“黑箱”互有叠加,交织在一起。在这三类算法“黑箱”中,“解释黑箱”居于承上启下的枢纽位置。解决算法“黑箱”的复杂实践难题,不能单单从技术方法上入手,需要找准“解释黑箱”的突破口。2.识别并分析了算法主要利益相关者。从影响力、正当性、紧迫性三个维度,确定开发者、应用者、用户、监管者这四类利益相关者,他们在与算法相关的企业活动中都处于较高水平,是算法价值链中涉及到主要利益相关者。文中从基本责任、面临问题、改进方式、资源优势等方面,对开发者、应用者、用户和监管者之间的关系进行了对照分析和归因,探讨了在算法价值链中的不同环节上主要利益相关者的资源优势发挥机制。文中发现,对不同利益相关者而言,采取不同手段和形式,增进他们在算法活动中的参与度,是应对算法技术所带来的算法黑箱及相关的风险挑战的重要一环。3.针对算法风险及算法“黑箱”问题,提出了算法责任基本内涵。通过对算法发展所产生的广泛影响的梳理,界定了算法技术普及应用所带来的技术、经济、社会、道德等普遍风险,并结合算法“黑箱”问题,进一步界定算法歧视、算法共谋、算法操控等三类具体风险。针对这些风险因素,引入了负责任研究与创新理论,借鉴其中的“预见-反思-包容-回应”四维行动框架,并充分考虑不同利益相关者参与的需求和期望,从而确保在算法研发与应用过程的各个重要环节上,都建立有担责机制。本文的创新之处主要体现在以下两个方面:1.多研究视角结合分析算法责任问题。目前关于算法“黑箱”问题与算法责任的研究,多数从单一技术视角出发,或单一伦理视角出发,认为算法“黑箱”通过改进和完善算法,或通过强调算法决策过程中的伦理观念,可以得到解决。而本文则将算法责任的研究重点,聚焦于算法价值链的核心利益相关者,特别是算法应用平台企业的责任意愿、行为和绩效上,明确从企业视角和思路关注并尝试解决算法“黑箱”问题。文中借鉴和综合了多种理论方法,对算法责任实践问题进行了跨学科和多角度的分析,提出了以负责任研究与创新为基础的算法责任理论框架。这在目前关于关注算法责任问题的研究中,具有一定的创新性。2.建立算法责任的概念模型并进行了实证分析。目前,关于算法责任问题的研究,多从伦理学、哲学、法学等宏观视角出发,它们在为算法责任提供理论和制度实践的有益指导的同时,并不能完全覆盖基于企业和其他利益相关者互动实践所产生的各种中观和微观的具体实践活动。在很多情况下,宏观政策规制和价值引导,需要依赖于中观和微观的企业实践,需要通过一个个市场主体的相互作用来真正发挥作用。本文的研究既融合了科技伦理的宏观视角,关注算法广泛应用背景的宏观风险,又结合了管理学的理论与方法,构建了算法责任的概念模型,再通过调研问卷方法,开展了实证研究,将较难通过实践检验的科技伦理问题和企业社会责任问题结合在一起,揭示了负责任研究与创新通过利益相关者参与而作用于算法责任的效应。


知网文化
【相似文献】
中国期刊全文数据库 前16条
1 杨灿;;算法推荐新闻对用户的影响及对策[J];新媒体研究;2020年10期
2 陆凯;苏苗罕;丁闻语;;美国算法治理政策与实施进路[J];环球法律评论;2020年03期
3 许可;朱悦;;算法解释权:科技与法律的双重视角[J];苏州大学学报(哲学社会科学版);2020年02期
4 迪莉娅;;大数据算法决策的问责与对策研究[J];现代情报;2020年06期
5 陶雪芹;;大数据时代算法歧视的风险防控和法律规制[J];河南牧业经济学院学报;2020年02期
6 张凌寒;;风险防范下算法的监管路径研究[J];审计观察;2019年01期
7 陈兵;;如何加强对算法的治理[J];国家治理;2020年27期
8 梁志文;;论算法排他权:破除算法偏见的路径选择[J];政治与法律;2020年08期
9 解正山;;算法决策规制——以算法“解释权”为中心[J];现代法学;2020年01期
10 傅惠;王叶飞;陈赛飞;;面向宏观基本图的多模式交通路网分区算法[J];工业工程;2020年01期
11 魏远山;;算法解释请求权及其权利范畴研究[J];甘肃政法学院学报;2020年01期
12 刘斌;;算法新闻的公共性建构研究——基于行动者网络理论的视角[J];人民论坛·学术前沿;2020年01期
13 全燕;;关键词批评视野中的算法文化及其阈限性[J];学习与实践;2020年02期
14 张铭皓;;掌控还是被掌控——大数据时代有关算法分发的忧患与反思[J];新媒体研究;2020年04期
15 袁帆;严三九;;模糊的算法伦理水平——基于传媒业269名算法工程师的实证研究[J];新闻大学;2020年05期
16 苏宇;;算法规制的谱系[J];中国法学;2020年03期
中国重要会议论文全文数据库 前10条
1 徐一;杨静;任志刚;杨迅幸;;基于学习的烟花算法[A];2018中国自动化大会(CAC2018)论文集[C];2018年
2 姚雪;;基于算法多样化培养学生思维习惯和创新精神[A];2019年“区域优质教育资源的整合研究”研讨会论文集[C];2019年
3 熊薇薇;吴怀宇;;一种改进的角点检测算法[A];中国计量协会冶金分会2009年年会论文集[C];2009年
4 陶丽;张自力;丁晓明;;一种适用于动态重构的联盟形成算法[A];2008年计算机应用技术交流会论文集[C];2008年
5 张兰平;;谈小学一年级算法多样化的优化[A];中华教育理论与实践科研论文成果选编(下)[C];2007年
6 杨红斌;;计划量算法的优化[A];第四届全国医院药剂科建设与管理学术研讨会论文集[C];2012年
7 林克旺;;基于分层网络实现高效的自稳定的选举算法[A];计算机技术与应用进展——全国第17届计算机科学与技术应用(CACIS)学术会议论文集(下册)[C];2006年
8 徐英钟;高震;李波;;基于禁忌搜索的蚁群算法求解旅行商问题[A];第四届中国智能计算大会论文集[C];2010年
9 叶衍;楼荣生;何永保;;自然联结的优化算法[A];第十二届全国数据库学术会议论文集[C];1994年
10 赵唯;;晶粒度评级的改进算法[A];中国图象图形科学技术新进展——第九届全国图象图形科技大会论文集[C];1998年
中国博士学位论文全文数据库 前10条
1 浮婷;算法“黑箱”与算法责任机制研究[D];中国社会科学院研究生院;2020年
2 王冰;人工蜂群算法的改进及相关应用的研究[D];北京理工大学;2015年
3 王艳娇;人工蜂群算法的研究与应用[D];哈尔滨工程大学;2013年
4 李美安;普适分布式互斥算法及应用[D];电子科技大学;2007年
5 王小根;粒子群优化算法的改进及其在图像中的应用研究[D];江南大学;2009年
6 刘婷;改进人工蜂群算法及其在多用户检测中的应用[D];天津大学;2013年
7 邱剑锋;人工蜂群算法的改进方法与收敛性理论的研究[D];安徽大学;2014年
8 肖建元;保几何结构算法在等离子体物理中的应用[D];中国科学技术大学;2017年
9 盛歆漪;粒子群优化算法及其应用研究[D];江南大学;2015年
10 张冬丽;人工蜂群算法的改进及相关应用研究[D];燕山大学;2014年
中国硕士学位论文全文数据库 前10条
1 贾红;烟花爆炸优化算法及其改进研究[D];华中科技大学;2010年
2 王书勤;车辆路径问题的蚁群算法研究[D];重庆大学;2008年
3 徐一春;浅析大数据算法歧视的法律规制[D];苏州大学;2019年
4 章滔;价格算法合谋的反垄断法规制研究[D];华东师范大学;2020年
5 邹游;快速傅里叶变换裁剪算法[D];华南理工大学;2017年
6 何子旷;蝙蝠算法的改进与应用[D];广东工业大学;2016年
7 丁亚英;基于局部搜索和二进制的改进人工蜂群算法[D];南京师范大学;2016年
8 韩宏业;基于人工蜂群算法的软硬件划分算法研究[D];天津大学;2014年
9 孟凡明;基于共享因子的人工蜂群算法的研究与应用[D];兰州交通大学;2016年
10 胡庆生;烟花算法及其应用[D];陕西师范大学;2016年
中国重要报纸全文数据库 前10条
1 陈航辉;切勿陷入算法迷信[N];解放军报;2019年
2 西南政法大学行政法学院 邬蕾;算法与法秩序的重塑[N];中国社会科学报;2019年
3 曾子林 邹力;谨防智能化作战的算法误区[N];解放军报;2019年
4 吴学安;要注意算法中存在的法律隐患[N];中国审计报;2019年
5 中国信息通信研究院产业与规划研究所 李曼 谢智刚;算法升级加快数字经济发展步伐[N];人民邮电;2018年
6 重庆市第四中级人民法院 艾庆平;赛博世界的算法规制[N];人民法院报;2020年
7 实习生 高行健;新算法助力人类“解梦”[N];科技日报;2020年
8 郑磊;当算法操控人类[N];21世纪经济报道;2020年
9 吴明曦 马伯乐;以智驭能 算法制胜[N];解放军报;2020年
10 赵熙熙;科学家开发出纠错新算法[N];中国科学报;2017年
中国知网广告投放
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978