提高人工智能道德水平的9个步伐

点击上方“蓝色字体”，选择 “设为星标”

要害讯息，D1时间送达！ [转载出处：www.ii77.com]

跟着人工智能的应用越来越遍及，越来越多的IT向导者起头存眷人工智能的道德寄义。事实上，由SnapLogic公司赞助，由Vanson Bourne公司进行的2019年查询申报发现，在接管查询的1000名美国和英国IT决议者中， 94%的受访者认为人们应该加倍存眷人工智能斥地中的企业责任和道德规范。

人们为此感应担忧是有来由的。一些有名的科技公司已经卷入相关丑闻，因为他们建立的人工智能系统没有按预期行事。例如，在2015年，好多用户埋怨谷歌公司的图像识别软件将黑人标记为“大猩猩”，固然这家科技巨头承诺要解决这个问题，但在三年之后，谷歌公司供应的独一解决方案就是作废人工智能识别大猩猩的能力。而微软公司的基于人工智能的Twitterbot-tay上在使用了几个小时后，就酿成了种族主义者，这让微软公司不得不作废了这个买卖。

此外据悉，旧金山日前成为美国第一个禁止市场机构使用面部识别软件的首要城市，其部门原因是该手艺存在潜在的私见。几个规模较小的城市已经经由或正在考虑雷同的禁令。

固然有关人工智能失误的报道习以为常，但很多人担心，在没有公家常识的情形下，更遍及、更阴险的人工智能犯罪或者发生在幕后。客户或者永远不会知道他们是否因为道德上可疑的人工智能算法而被拒绝贷款或面临欺诈嫌疑。

纽约大学的AI Now研究所和美国南部浸礼会派如许的组织都在呼吁斥地人工智能的公司让其手艺变得加倍透亮，并赞成遵守响应的道德原则。作为回应，包罗谷歌公司和微软公司在内的一些企业已经发布了有关人工智能使用的内部指南。

然而，很多人认为这还远远不敷。相反，他们进展当局机构介入并公布律例。在Vanson Bourne公司的研究中，87%的贸易IT向导者透露应该对人工智能斥地进行监管。

IT向导者具有这种愿望的部门原因是，在缺乏相关司法的情形下，企业没有法子知道他们是否做了充沛的工作来确保其斥地的人工智能是合乎道德的。监管司法或者使他们有能力向客户包管人工智能的应用，因为能够透露他们遵守了所有相关司法。若是没有这些司法，获得和连结客户信任或者会加倍难题。

但即使没有监管司法，企业也能够并且应该接纳办法确保他们使用人工智能是道德的。以下供应了企业能够改善其在人工智能方面的道德立场接纳的9项办法：

1.遵守律例

组织至少需要确保其人工智能应用法式相符数据隐私律例。大多数人工智能软件(尤其是机械进修)都依靠于大量的数据来进行把持，企业有责任确保他们对这些数据的处理相符相关司法。在美国，组织或者需要遵守健康保险便携性和责任法案(HIPAA)、儿童在线隐私珍爱法案(COPPA)或其他联邦或州司法。

若是组织在欧洲拥有客户或员工，他们还必需遵守欧盟的通用数据珍爱律例(GDPR)。除其他事项外，这项周全的立法要求组织尽或者以最短的时间存储数据，并为小我供应查察和删除其小我数据的方式。就人工智能而言，最主要的是，GDPR律例还指出，“小我不该仅仅依据主动处理(例如算法)做出决意，并且具有司法约束力或对其发生重大影响。”

2. 遵守数据科学最佳实践

除了遵守当局部门的划定外，组织还应该供应数据科学最佳实践。Forrester公司在其名为“人工智能的伦理：若何避免有害的私见和漠视” 申报中建议，“为了防止模型中的算法私见，组织需要对峙数据挖掘的根基原则，确保组织..数据代表其规划使用模型的人群。”

还有一些人建议，数据科学家需要频频测试和验证他们的模型，并连结跟踪数据沿袭的方式。固然很少有企业高管认识机械进修的复杂性，但他们有义务确保他们的数据科学家遵守行业最佳实践。

3.平安设计

几十年来，科幻作家一向在警告人工智能或者具有世界末日的危险。现在人工智能变得越来越遍及，主要的是不要轻忽人工智能危险人类的或者性，因为它不只是在书籍和片子中显现的事物。主动驾驶汽车和基于人工智能的兵器系统等相关应用显然会影响人类的平安，设计师应确保这些系统尽或者平安。固然其他机械进修系统或者不会直接影响人类的人身平安，但它们或者会对他们的隐私和在线平安发生重大影响。

4.使人工智能手艺加倍透亮

企业在人工智能道德方面能够接纳的最主要步伐之一是确保他们完全懂得使用的任何人工智能系统的运作。人工智能供给商Kyndi公司首席执行官Ryan Welsh在一次采访中指出，“要施展人工智能的悉数潜力，信任至关主要。而信任来自人们的懂得，而且可以证实系统结论和究竟背后的推理。人工智能弗成能是一个黑盒，因为它经常显现。要想让人工智能蓬勃成长，就必需加倍透亮。”

AI Now研究所透露，“为了实现有意义的问责制，我们需要更好地舆解和跟踪人工智能系统的构成部门及其所依靠的完整供给链：这意味着要考虑..数据、测试数据、模型的起原和使用、产物生命周期中的应用法式接口(API)和其他根蒂举措组件。”

5.清理数据

机械进修系统的行业与它们所依靠的数据一般好。对于很多组织而言，数据质量仍然是一个首要问题。在最坏的情形下，糟糕的数据或者导致组织做出禁绝确甚至道德上受到损害的决议。

另一方面，拥有正确、最新的数据会增加人工智能应用法式发生积极经济好处的或者性。Information Builders数据治理卓越中心的国际主管James Cotton在一次采访中透露，“当剖析应用于治理精巧的数据时，其回报要大得多。能够清楚地认识组织拥有什么，来自何处以及若何使用它会带来更大的回报。“

6.搜检模型是否存在误差迹象

数据科学家不光需要确保他们的数据是清洁的，并且他们还需要确保他们的数据和数据模型不包含任何误差。这个问题或者会以几种分歧的体式无意中进入到机械进修模型中。

首先，组织或者有不完整的练习数据。例如，若是企业只使用欧洲面孔练习其面部识别系统，那么当系统难以识别非洲或亚洲面孔时，人们不该对此感应诧异。

其次，很多数据集包罗汗青误差。例如，一些职业(例如护理或工程)在传统上一向是由性别主导的。若是组织凭据这些汗青数据练习基于人工智能的人力资源系统选择面试候选人，或者会不测地显现私见，甚至或者触犯反漠视律例。

7.监控查询究竟和反馈

而数据科学家平日透露，没稀有据模型是完美的。他们所能盼望最好的情形就是跟着时间的推移而改善。这意味着人类需要监控系统来寻找潜在的道德问题。很多已发布人工智能指南的组织透露，所有人工智能手艺都需要对人类负责。但一些人却透露，只是问责是不敷的;人类监管者需要积极跟踪人工智能的行为和与人类的互动，并在需要时作出调整，以确保人工智能手艺不会跨越任何道德界线。

8.确保能够撤除人工智能所做的任何决意

在相关的解说中，组织需要可以撤除人工智能所做出的任何决意。Forrester公司建议，组织斥地的人工智能系统从基本上需如果健全的、可评估的、包涵、可逆的，这意味需要设计可更改的人工智能系统，并且或者还需要为信贷决议等事项设立人工智能上诉..。

AI Now研究所进一步指出，““手艺工作者的组织和抵制已经成为一种责任和道德决议的力量。手艺公司需要珍爱工人的组织能力、诘扬信息的能力，并在他们从事的项目上做出道德选择。这应包罗明确的政策，以适应和珍爱有责任心的否决者，确保工作人员有权知道他们在做什么，并有能力在没有报复或责罚的情形下抛却此类工作。”

9.成立人工智能道德咨询..

包罗谷歌公司在内的多家科技公司已成立人工智能道德咨询..，以匡助指导他们使用人工智能。固然让一群局外人监视组织的人工智能工作或者有助于竖立公家信任，但也或者拔苗助长。一些组织因录用人工智能道德..成员而受到指摘，有些人对此透露否决。

固然成立人工智能道德..或者存在一些问题，但在缺乏监管律例或行业尺度的情形下，它们或者是组织说服公家的最佳机会，即经由没有既得好处的人员监视人工智能的成长。

（起原：企业网D1net）

若是您在企业IT、收集、通信行业的某一范畴工作，并进展分享概念，迎接给企业网D1Net投稿 投稿邮箱：editor@d1net.com

点击蓝色字体存眷

您还能够搜刮公家号“D1net”选择存眷D1net旗下的各范畴（云较量，数据中心，大数据，CIO， 企业通信 ，企业应用软件，收集数通，信息平安，办事器，存储，AI人工智能，物联网聪明城市等）的子公家号。