欢迎光临
我们一直在努力
您的位置:首页>资讯 >

人类辅助人工智能 通往值得信赖和公正的人工智能之路

尽管美国联邦药物管理局 (FDA) 提供紧急授权和倡导,但该国仍在继续努力说服人们接种当前局势 疫苗是安全和明智的,但其他越来越多的人愿意全力以赴开始将他们的生活托付给没有标准或组织监督的人工智能 (AI)。目前,美国联邦贸易委员会 (FTC) 仅针对人工智能存在“指南”。

我将通过一个示例向您说明,即使是具有影响力的 AI 应用程序仍然需要人工助手来确保做出可信、可解释和公正的决策。

使用 AI 实现制造自动化和改进我们的工作流程,例如提供强大的 CMMS(计算机化维护管理系统)是 AI 的绝佳应用。CMMS 是一种保持系统运行和优化维护操作的主动方法。或者,如果企业和机构不投资于智能维护方法,而是选择仅在系统出现故障后采取行动,最终会影响运营和客户服务。特别是,如果维修所需的组件不容易获得。

CMMS 系统利用传感器和其他物联网 (IoT) 设备并利用云服务。他们可以跟踪设备资产、感知设备性能是否下降、维护维修时间的历史记录并帮助我们确定是投资更换或升级系统还是投资更多维修的时间。人工智能可用于查看大量数据并帮助做出可以节省资金、预测风险因素和制定风险缓解计划的推理。

到目前为止,在这个例子中,这个 CMMS 应用程序中使用的 AI 似乎不会对个人产生不利影响。但是,让我们考虑这样一种情况:在反复出现故障的设备上进行维修的次数与执行该维修的人员之间出现关系。

这是否表明维修人员需要更多培训,还是仅仅意味着设备故障太多,应该更换?这是人工智能需要向人类寻求帮助并且人类需要聪明地解释数据含义的时候。

每当 AI 对人类的生计做出决定或用于评估个人的能力时,我们都需要按下红色的大 STOP 按钮,了解 AI 是如何做出决定的,以及这意味着什么。已经有很多公司使用人工智能来评估员工的工作绩效,从而导致员工随后被解雇或差评的例子。使用人工智能的贷款机构遇到的算法不公平地将代表性不足的个人群体排除在贷款资格之外。

这种对计算机生成决策的盲目信仰让我想起了高中,当时他们给我们进行了职业评估测试,让我们与未来的职业相匹配。

我在班上名列前茅,也是我最好的朋友,一名男生在数学和科学方面的得分略低于我。我们都希望我们的职业评估结果相似。我错了!

他的评估表明他可以成为一名工程师、科学家或政治家。我的评估结果,说我可以当厨师,或者卖化妆品。

真实情况:我做饭很臭。我从来不会做饭,现在仍然不会。此外,任何人吃我做的饭都是残忍和不公正的。

当我向辅导员抱怨时,他提醒我结果必须正确,因为这是“计算机生成”的结果,因此必须准确。谢天谢地,我一直是个反叛者,我忽略了这个评估,继续成为一名工程师。

人工智能具有如此巨大的潜力,但在被视为可信赖且无偏见的人类决策的独立替代品之前,它还有很长的路要走。

在最近的 IEEE/IEEE-HKN 网络研讨会上,摩根大通人工智能研究负责人 Manuela M. Veloso 博士讨论了人类辅助人工智能作为寻求帮助创建更强大、值得信赖的人工智能的桥梁。在人工智能探索数据并寻求人类帮助的同时,将人类纳入循环是一种新范式,许多人已经跳过了这一范式,以加快人工智能的使用。如果我们要继续开发强大的人工智能应用程序,是时候接受人类辅助人工智能的必要性了。我们需要揭开人工智能作为构建模块的神秘面纱,并让人工智能声明它需要人类合作伙伴的帮助。

最后,我们需要警惕地质疑 AI 的决定,并帮助立法者制定标准,以防止对计算机生成的输出的盲目信任,这可能会对将有抱负的工程师变成可怕的厨师造成灾难性的影响。

免责声明:本网站图片,文字之类版权申明,因为网站可以由注册用户自行上传图片或文字,本网站无法鉴别所上传图片或文字的知识版权,如果侵犯,请及时通知我们,本网站将在第一时间及时删除。