彩票双色球怎么选号码是多少
当前位置:建材学院  >  人工智能的六大伦理原则
协会动态

企业推荐

建材学院

人工智能的六大伦理原则

2019-6-2 21:43:02 关键字: 来源:

Tim O’Brien 企业思想家 昨天

AI.webp.jpg

导语


我们的原则是要采取问责制,当出现了不好的结果,不能让机器或者人工智能系统当替罪羊,人必须是承担责任的。


转载|财经杂志

文|Tim O’Brien

题图|全景网


2018年,微软发表了《未来计算》(The Future Computed)一书,其中提出了人工智能开发的六大原则:公平、可靠和安全、隐私和保障、包容、透明、责任


首先是公平性。公平性是指对人而言,不同区域的人、不同等级的所有人在AI面前是平等的,不应该有人被歧视。


人工智能数据的设计均始于训练数据的选择,这?#24378;?#33021;产生不公的第一个?#26041;凇?#35757;练数据应该足?#28304;?#34920;我们生存的多样化的世界,至少是人工智能将运行的那一部分世界。以面部识别、情绪检测的人工智能系统为例,如果只对成年人脸部图像进行训练,这个系统可能就无法准确识别儿童的特征或表情。


确保数据的“代表性?#34987;?#19981;够,种族主义和?#21592;?#27495;视?#37096;?#33021;?#37027;?#28151;入社会数据。假设我们设计一个帮助雇主筛选求职者的人工智能系统,如果用公共就业数据进行筛选,系统很可能会“学习”到大多数软件开发人员为?#34892;裕?#22312;选择软件开发人员职位的人选?#20445;?#35813;系统就很可能偏向?#34892;裕?#23613;管实施该系统的公司想要通过招聘提高员工的多样性。


如果人们假定技术系统比人更少出错、更加精准、更具权威,?#37096;?#33021;造成不公。许多情况下,人工智能系统输出的结果是一个概率预测,比如“申请人贷款违约概率约为70%?#20445;?#36825;个结果可能非常准确,但如果贷款管理人员将“70%的违约风险”简单解释为“不良信用风险?#20445;?#25298;绝向所有人提供贷款,那么就有三成的人虽然信用状况良好,贷款申请也被拒绝,导致不公。因此,我们需要对人进?#20449;嘌担?#20351;其理解人工智能结果的含义和影响,弥补人工智能决策中的不足。


第二?#24378;?#38752;?#38498;?#23433;全性它指的是人工智能使用起?#35789;前?#20840;的、可靠的,不作恶的。


目前全美热议的一个话题是自动驾驶车辆的问题。之前有新闻报道,一辆行驶中的特斯拉系统出现了问题,车辆仍然以每小时70英里的速度在高速行驶,但是驾驶系统已经死机,司机无法重启自动驾驶系统。


想象一下,如果你要发?#23478;?#20010;新药,它的监管、测?#38498;?#20020;床试验会受到非常严格的监管流程。但是,为什么自动驾驶车辆的系统安全性完全是松监管甚至是无监管的?#31354;?#23601;是一种对自动化的偏见,指的是我们过度相信自动化。这是一个很奇怪的矛盾:一方面人类过度地信赖机器,但是另一方面其实这与人类的利益是冲突的。


另一个案例发生在旧金山,一个已经?#20173;?#20102;的特斯拉车主直接进到车里打开了自动驾驶系统,睡在车里,然后这辆车就自动开走了。这个特斯拉的车主觉得,“我喝醉了,我没有能力继续开?#25285;?#20294;是我可以相信特斯拉的自动驾驶系统帮我驾驶,那我是不是就不违法了?”但事实上这也属于违法的行为。


可靠性、安全性是人工智能非常需要关注的一个领域。自动驾驶车只是其中一个例子,它涉及到的领域也绝不仅限于自动驾驶。


第三是隐私和保障,人工智能因为涉及到数据,所以总是会引起个人隐私和数据安全方面的问题。


美国一个非常流行的健身的App叫Strava,比如你骑自行?#25285;?#39569;行的数据会上传到平台上,在社交媒体平台上有很多人就可以看到你的健身数据。问题随之而来,有很多美国军事基地的在役军人也在锻炼时用这个应用,他们锻炼的轨迹数据全部上传了,整个军事基地的地图数据在平台上就都有了。美国军事基地的位置是高度保密的信息,但是军方从来没想到一款健身的App就轻松地把数据泄露出去了。


第四是人工智能必须考虑到包容性的道德原则,要考虑到世界上各种功能障碍的人群。


举个领英的例子,他们有一项服务?#23567;?#39046;英经济图谱搜索”。领英、谷歌和美国一些大学联合做过一个研究,研究通过领英实现职业提升的用户中是否存在?#21592;?#24046;异?#31354;?#20010;研究主要聚焦了全美排名前20 MBA的一些毕业生,他们在毕业之后会在领英描述?#32422;?#30340;职业生涯,他们主要是?#21592;?#36825;些数据。研究的结论是,至少在全美排名前20的MBA的毕业生中,存在自我推荐上的?#21592;?#24046;异。如果你是一个?#34892;?#30340;MBA毕业生,通常你在毛遂自荐的力度上要超过女性。


如果你是一个公司负责招聘的人,登录领英的系统,就会有一些关键字域要选,其中有一页是自我总结。在这一页上,?#34892;?#23545;?#32422;?#30340;总结?#25512;?#20272;通常都会高过女性,女性在这方面对于自我的评价是偏低的。所以,作为一个招聘者,在招聘人员的时候其实要获得不同的数据信号,要将这种数据信号的权重降下来,才不会干扰?#26434;?#32856;者的正常评估。


但是,这又涉及到一个程度的问题,这个数据信号不能调得过低,也不能调得过高,要有一个正确的?#21462;?#25968;据能够为人类提供很多的?#24202;?#21147;,但是数据?#26087;?#20063;包含一些偏见。那我们如?#26410;?#20154;工智能、伦理的角度来更好地把握这样一个偏见的程度,?#35789;?#29616;这种包容性,这就是我们说的人工智能包容性的内涵。


在这四项价值观之下还有两项重要的原则?#21644;?#26126;度和问责制,它们是所有其他原则的基础。


第五是透明?#21462;?#22312;过去十年,人工智能领域?#29615;?#29467;进最重要的一个技术就是深度学习,深度学习是机器学习中的一种模型,我们认为至少在现阶段,深度学习模型的准确度是所有机器学习模型中最高的,但在这里存在一个它是否透明的问题。透明度和准确?#20219;?#27861;兼得,你只能在二者权衡取舍,如果你要更高的准确度,你就要牺牲一定的透明?#21462;?/span>


在李世石和AlphaGo的围棋赛中就有这样的例子,AlphaGo打出的很多?#21046;?#20107;实上是人工智能专家和围棋职业选?#25351;?#26412;无法理解的。如果你是一个人类棋手,你绝对不会下出这样一?#21046;濉?#25152;以到底人工智能的逻辑是什么,它的思维是什么,人类目前不清楚。


所以我们现在面临的问题是,深度学习的模型很准确,但是它存在不透明的问题。如果这些模型、人工智能系统不透明,就有潜在的不安全问题。


为什么透明度这么重要?举个例子,20世纪90年代在卡?#31361;?#26757;隆大学,有一位学者在做有关肺炎方面的研究,其中一个团队做基于规则的分析,帮助决定患者是否需要住院。基于规则的分析准确率不高,但由于基于规则的分析都是人类能够理解的一些规则,因此透明?#38498;謾?#20182;们“学习”到哮喘患者死于肺炎的概?#23454;?#20110;一般人群。


然而,这个结果显然违背常识,如果一个人?#28982;?#26377;哮喘,?#19981;?#26377;肺炎,那么死亡率应该是更高的。这个研究“学习”所得出的结果,其原因在于,一个哮喘病人由于常常会处于危险之中,一旦出现症状,他们的警惕性更高、接受的?#20132;?#25514;施会更好,因此能更快得到更好的医疗。这就是人的因素,如果你知道你有哮喘,你就会迅速采取应急措施。


人的主观因素并没有作为客观的数据放在训练模型的数据图中,如果人类能?#28860;?#36825;个规则,就可以对其进?#20449;?#26029;和校正。但如果它不是基于规则的模型,不知?#28010;?#26159;通过这样的规则来判断,是一个不透明的算法,它得出了这个结论,人类按照这个结论就会建议哮喘患者不要住院进行治疗,这显然是不安全的。


所以,当人工智能应用于一些关键领域,比如医疗领域、刑事执法领域的时候,我们一定要非常小心。比如某人向银行申请贷款,银行拒绝批准贷款,这个时候作为?#31361;?#23601;要问为什么,银行不能说我是基于人工智能,它必须给出一个理由。


第六是问责。人工智能系统采取了某个行动,做了某个决策,就必须为?#32422;?#24102;来的结果负责。人工智能的问责制是一个非常有争议的话题,我们还是回到自动驾驶车上进行?#33268;邸?#30830;?#25285;?#23427;还涉及到一个法律或者立法的问题。在美国已经出现多例因为自动驾驶系统导致的车祸。如果是机器代替人来进行决策、采取行动出现了不好的结果,到底是谁来负责?我们的原则是要采取问责制,当出现了不好的结果,不能让机器或者人工智能系统当替罪羊,人必须是承担责任的。


但现在的问题是我们不清楚基于全世界的法律基础而言,到底哪个国家具备能力处理类似案件的能力。(美国)很多案件的裁决是基于“判例法”进?#20449;?#23450;的,但是对于这样一些案例,我们没有先例可以作为法庭裁决的法律基础。


其?#25285;?#19981;光是自动驾驶,还有其他很多领域,比如刑事案件问题,还有涉及军事领域的问题。现在有很多的武器已经自动化或者是人工智能化了,如果是一个自动化的武器杀伤了人类,这样的案件应该如何裁定?


这就要牵涉到法律中的法人主体的问题,人工智能系统或全自动化系统是否能作为法人主体存在?它会带来一系列的法律的问题:首先,人工智能系统是否可以判定为是一个法律的主体?如果你判定它是一个法律的主体,那就意味着人工智能系统有?#32422;?#30340;权力,也有?#32422;?#30340;责任。如果它有权力和责任,就意味着它要对?#32422;?#30340;行为负责,但是这个逻辑?#35789;?#21542;成立?如果它作为一个法律主体存在,那么它要承担相应的责任,也享有接受法律援助的权利。因此,我们认为法律主体一定要是人类。


作者为微软人工智能项目总经理,编辑:韩舒淋,原载2019年5月27日《财经》杂志


(本文首刊于2019年5月27日出版的《财经》杂志)

本文仅供交流使用,不做任何商业用途,如有侵权请联系我们删除。谢谢!

彩票双色球怎么选号码是多少
竞彩足球比分直播结果 青海福彩快3走势图 2009年股票指数 青海11选5开奖电子走势图 七星矩阵规律 真钱炸金花一木 彩票专业分析选号器app ag捕鱼王ios手机版 浙江快乐12热号 18选7定位走势