欢迎光临
我们一直在努力
您的位置:首页>无人机 >

Google云AI从Cloud Vision API中删除了性别标签 以避免产生偏见

该公司今天对VentureBeat表示,Google Cloud AI正在取消使用Cloud Vision API将图像中的人标记为“男人”或“女人”的功能。标签用于对图像进行分类和训练机器学习模型,但是Google删除了性别标签,因为它违反了Google的AI原则,以避免创建有偏见的系统。

“鉴于无法通过外貌来推断出性别,我们决定删除这些标签,以符合Google的人工智能原则,尤其是原则2:避免造成或加强不公平的偏见。今天之后,Cloud Vision API将返回一个非性别标签,例如“ person”。” Google发言人在一封电子邮件中告诉VentureBeat。

VentureBeat与Microsoft的Azure和亚马逊的AWS联系,询问他们是否打算从其云AI服务中删除性别标签。收到回复后,我们将用更多信息更新此故事。

Google Cloud Vision API为客户提供计算机视觉以检测物体和面部。谷歌此前曾在2018年禁止在人工智能工具中使用基于性别的代词。

当今市场上的许多面部分析和面部识别系统可以预测性别,但是在识别不符合性别规范的人,变性者和有色女性方面存在挑战。

一个研究去年秋天由科罗拉多大学波尔得分校的研究人员发现,AI从亚马逊,Clarifai,微软和其他人维护的准确率95%顺性别男女以上,但误转男性是女性的时间38%。没有性别认同的人在100%的时间内被误认。

主要作者摩根·克劳斯·舒尔曼(Morgan Klaus Scheuerman)告诉VentureBeat,他认为Google试图将自己与竞争对手区分开。分析发现,谷歌不提供性别分类服务,但允许使用“男人”和“女人”标签。像Microsoft这样的公司的系统可以给诸如女服务员,空中小姐或军事女郎之类的人贴标签。

“我们基本上讨论了(在去年秋天的工作中)在所有系统中做出的决定固有地是政治性的。在您对人类事物进行分类的情况下,它会变得更多。我认为我们应该更多地评估其政治概念。因此,我很高兴Google认真对待这一点。”他在接受电话采访时对VentureBeat表示。

近年来,像Joy Boulamwini这样的研究人员在进行系统审核时发现,主要的面部识别服务提供商往往在白人男性上表现最佳,而在有色女性上则表现较差。

所有人缺乏高性能是在州立立法机构(如旧金山和美国参议院)的立法者提议禁止或暂停使用面部识别系统的主要原因。

免责声明:本网站图片,文字之类版权申明,因为网站可以由注册用户自行上传图片或文字,本网站无法鉴别所上传图片或文字的知识版权,如果侵犯,请及时通知我们,本网站将在第一时间及时删除。