欢迎光临
我们一直在努力
您的位置:首页>人工智能 >

认识研究人员努力确保人工智能是一种良好的力量

纽约大学的AI Now学院拥有玻璃内墙,裸露的管道和一群穿着像Urban Outfitters模特的年轻研究人员,很容易被误认为是纽约无数科技初创公司的办公室。对于许多小公司(以及相当多的小公司)而言,目标很简单:利用计算领域的新进展,尤其是人工智能(AI),将行业从社交网络中分解为医学研究。

但对于2017年共同创立AI Now的Meredith Whittaker和Kate Crawford来说,正是这种破坏本身正在受到审查。他们是许多专家中的两位,他们致力于确保随着企业,企业家和政府推出新的AI应用程序,他们以符合道德标准的方式这样做。

“这些工具现在影响着我们日常生活中的许多部分,从医疗保健,刑事司法,教育到招聘,这种工具同时发生,”克劳福德说。“这对人们将如何受到影响提出了非常严重的影响。”

人工智能有很多成功案例,在医疗保健,教育和城市规划等领域取得了积极成果。但也有意想不到的陷阱。人工智能软件被滥用作为虚假宣传活动的一部分,被指责使种族和社会经济偏见长期存在,并被批评为超越隐私范围。

为了确保未来人工智能的发展符合人类的最佳利益,AI Now的研究人员将挑战分为四类:权利和自由;劳动和自动化;偏见和包容;以及安全和关键基础设施。权利和自由涉及AI侵犯人们公民自由的可能性,例如公共场所的面部识别技术。劳动力和自动化包括工人如何受到自动化管理和招聘系统的影响。偏见和包容性与人工智能系统可能加剧对边缘化群体的历史歧视有关。最后,安全和关键基础设施着眼于将AI纳入能源网等重要系统所带来的风险。

这些问题中的每一个都得到了政府领导人的更多关注。6月下旬,惠特克和其他人工智能专家在众议院科学,空间和技术委员会面前就人工智能的社会和伦理影响作证,而艾当现政策研究主任拉希达理查森则在参议院通信技术小组委员会上发言。,创新和互联网。科技工作者也在采取行动。2018年,一些谷歌员工,部分由惠特克(在今年夏天早些时候在搜索巨头工作)领导组织了与Maven项目相对立的项目Maven,这是五角大楼为军用无人机设计AI图像识别软件的合同。同年,万豪工人举行罢工以抗议人工智能系统的实施,这可能使他们的工作自动化,以及其他不满。甚至一些技术高管也加入了要求政府加强对该行业监管的呼吁。

AI Now远不是近年来成立的唯一一个研究人工智能道德问题的研究机构。在斯坦福大学,以人为本的人工智能研究所将道德和社会影响纳入其人工智能开发思想的核心,而密歇根大学新的伦理,社会和计算中心(ESC)则致力于解决技术的潜力复制和加剧不平等和歧视。哈佛大学伯克曼克莱因互联网与社会中心人工智能中的道德和治理挑战部分集中在一起。2019年,该组织与麻省理工学院媒体实验室共同主办了一个“大会”计划,该实验室汇集了政策制定者和技术专家,共同开展人工智能道德项目,如检测人工智能系统的偏见,以及追踪与监测相关的人工智能的道德风险。研究。

但在许多方面,人工智能领域仍然有限。研究人员表示,由于商业秘密保护和计算机欺诈和滥用法案(CFAA)等法律,他们无法调查许多系统。根据法院的解释,该法律将网站或平台的服务条款定为犯罪行为,这是研究人员试图审核在线人工智能系统以获取不公平偏见的必要步骤。

这可能很快就会改变。2016年,美国公民自由联盟(ACLU)向美国司法部提起诉讼,其中原告 - 一群记者和计算机科学学者 - 声称CFAA的保护是违宪的。“这是一个前沿案件, “代表原告的ACLU律师Esha Bhandari说道。“这是关于在21世纪在线进行反歧视测试的权利。”

无论Bhandari的案例结果如何,人工智能伦理学的研究人员都倾向于认为需要做更多的工作来确保AI为我们的利益而努力。在与时代交谈的专家中,所有人都同意监管有助于解决问题。正如加利福尼亚大学圣地亚哥分校的传播学,科学研究和关键性别研究教授Lilly Irani所说:“我们不能建立一个人们受到伤害,伤害和伤害的系统,我们依靠它们来尖叫。 ”

道德AI的前进道路并不简单。密歇根大学数字媒体教授兼ESC主任(以及2016年针对司法部的诉讼中的原告)Christian Sandvig担心人工智能领域真正的变革要求可能会在他称之为道德的过程中脱轨“洗涤”,其中创造更多道德AI的努力看起来很好,但实际上并没有取得多大成就。桑德维格说:“道德洗涤”似乎通过大量应用“道德”这个词来形成转型变革,就好像它是油漆一样。

惠特克承认人工智能伦理运动有可能被选中。但作为一个曾在硅谷内外争夺问责制的人,惠特克表示她已经看到近年来科技界开始发生深刻变革。惠特克解释说:“整个行业都有成千上万的工人认识到他们工作的利害关系。”“我们不想参与制造有害的事物。我们不想在构建只受益于少数事物的事物上同谋,并从众多事物中获取越来越多。“

现在判断这种新意识是否会促成真正的系统性变革可能还为时尚早。但是,面对学术,监管和内部审查,至少可以肯定地说,该行业不会再回到青春期,可能会随时待命的“快速行动”。

“这是一次重大转变,不容低估,”惠特克说。“猫是开箱即用的,它不会再回来了。”

免责声明:本网站图片,文字之类版权申明,因为网站可以由注册用户自行上传图片或文字,本网站无法鉴别所上传图片或文字的知识版权,如果侵犯,请及时通知我们,本网站将在第一时间及时删除。