欢迎光临
我们一直在努力
您的位置:首页>科技前沿 >

防止人工智能做出不道德决定的新数学公式

英国和瑞士的研究人员发现了一种数学方法,可以帮助监管机构和企业监管人工智能系统做出不道德的、可能非常昂贵且具有破坏性的选择。

来自华威大学、伦敦帝国理工学院和洛桑EPFL的合作者以及战略公司Sciteb Ltd认为,在一个决策越来越没有人为干预的环境中,有一个非常强烈的动机,知道在什么情况下人工智能系统可能会采取一个不道德的战略,并发现和减少这种风险,或完全消除,如果可能的话。

人工智能(AI)越来越多地应用于商业环境中。例如,考虑使用人工智能来设定要销售给特定客户的保险产品的价格。为不同的人设定不同的价格是有正当理由的,但做出某些最终损害公司利益的决定可能会更有利可图。

人工智能有大量的潜在策略可供选择,但有些策略是不道德的,如果监管机构征收巨额罚款或客户抵制你,或两者兼而有之,它们不仅会招致道德成本,还会招致巨大的潜在惩罚。

这就是为什么这些数学家和统计学家走到一起:通过创造一个新的“不道德的优化原则”来帮助企业和监管者,这将提供一个简单的公式来估计人工智能决策的影响。

免责声明:本网站图片,文字之类版权申明,因为网站可以由注册用户自行上传图片或文字,本网站无法鉴别所上传图片或文字的知识版权,如果侵犯,请及时通知我们,本网站将在第一时间及时删除。