当前位置：中博教育 > CMA > 公告政策 > CMA研究：人类仍是防止算法偏见的关键？

CMA研究：人类仍是防止算法偏见的关键？

文章来源：CMA官微

发布时间：2020-03-27 11:42

阅读：2075次

更好的数据可以提高人工智能发现相关关系的能力，但无法确保公正性

2019年4月12日，佛罗里达州奥兰多诺娜湖社区新建的亚马逊机器人订单履约中心首次开放公众参观，一个机器人准备搬起装有产品的大货盒。该仓库于2018年8月26日投入运营，占地面积约85.5万平方英尺，雇用1500多名全职员工在数百个机器人的配合下从事分拣、打包和装运工作。这些机器人可以搬运重达750磅的货物，移动速度达每秒5英尺。

回归基本：佛罗里达州工作中的亚马逊机器人

谈及偏见和人工智能，人们普遍认为算法的作用无异于那些输入的数字。然而，对算法偏见的关注完全集中在数据上，这意味着我们忽略了问题的两个方面：现有算法的严重局限和人类问题解决者的作用，而后者更加重要。

算法或许功能强大，但多数仅限于相关关系的挖掘，而对其本身一无所知。我在研究中发现，有关就业、教育和贷款的海量数据所包含的虚假相关性多过有意义的因果关系。认为这些算法可以解决我们不明白的问题，这种想法十分荒谬。

如果没有人类问题解决者的洞察力来推动问题的解决，“更好的数字”将形同虚设，我们的算法也会止步于反映人类的偏见。

亚马逊公司尝试设计一个更公平的招聘算法，但遭遇了失败，这凸显了人们对“更好的数字”的误解。经过亚马逊招聘和晋升数据的训练，人工智能技术选择不雇用女性员工。亚马逊团队采取了应对措施，对公司的数据“去偏见”，并制定“合乎道德的人工智能”新标准。

他们去除了已知的性别标记，如求职者简历中的“女性的”字眼和旧时女子学院就读记录。尽管有了这些改变，数据的优势统计关系依然存在：男性的雇用率和晋升率均高于女性。

即使没有明显的性别标记，亚马逊人工智能系统还是发现了隐藏的信息——它察觉到与女性相关的微妙关联，将那些求职者拒之门外。

一些优秀人才加入到了亚马逊招聘人工智能研发队伍。同样地，这些高智商的人才出发点并无恶意，开发出的机器视觉系统却排斥了黑色面孔。为什么他们的结果严重偏离目标呢？

亚马逊的算法是经过训练来寻找公司内部与员工成功相关的因素。其最终目的是使招聘更加公平，这固然好，但他们无知地认为，只对相关关系敏感的算法可以不受性别在过往招聘史上的强大作用影响。

长期以来，科技公司的女员工从未在入职第一年获得提拔。基于公司向男性倾斜的招聘史训练出来的人工智能技术被用于招聘和提拔，亚马逊开发的人工智能系统正如公司一直表现的那样带着性别偏见。即使再多的数据清理工作也不能阻止算法学习雇主在历史上对男性求职者的偏袒。亚马逊的人工智能技术对给定的问题给出了解决方案——确定哪些员工最有可能获得提拔——但这不是亚马逊需要解决的问题。

为了寻找在工作上取得成功的决定因素，人们进行了几十年的研究。在深入学习了相关研究后，我开始了有关机器学习应用于招聘的研究工作，之后专注于创建揭示已知特性的人工智能系统。

我们先对每一个因素进行单独测试，再放到整体系统中测试，观察它跨种族和性别的适用性。这是一项费力又有挫败感的工作，但结果很成功。它不是一个计算机科学项目，而是人类解决问题的训练：探索、提出更合理的问题、从失败的解决方案中吸取经验。人工智能技术是一项强大的工具，但也仅仅是工具。

新人工智能霸主也跟我们一样会犯错

问题不是出在带有偏见的数据上，而是在于我们的错误观念，认为只要有足够的数据，我们现有的算法就可以代替人类解决问题。解决有关人工智能和公正性问题有赖于一个基本理念，即如果你不知道如何解决问题，那么人工智能将无法替你解决。没有一家公司克服了招聘过程和工作场所的偏见，而事实上，我们的新人工智能霸主也跟我们一样会犯错。

机器学习领域正在发生一些变革。人工智能系统有能力提出问题，并自主寻找答案，因此越来越多的研究人员和业内人士呼吁重新关注因果推理。诸如战胜世界最好的围棋选手和游戏玩家的算法强化学习正是朝着这个方向迈进了一步。

在实验室里，我们将大规模的机器学习和计量经济学相结合，产生了可以自行运行庞大实验的系统。还有一些人研究婴儿的好奇心给算法带来的启发。这将是人工智能领域的巨大飞跃，即使不能保证公正性，也至少会基于推理而非巧合来做出工作或贷款推荐。

现在我们必须认识到，首先要训练人类问题解决者如何提出合理的问题。我们必须对科研再投资，尽所能理解因果因素，使我们的算法不至于复制隐性偏见。

如果你已经知道如何解决问题，人工智能可以从根本上让你的解决方案更经济。不过，如果你认为我们现有的算法能发现你发现不了的解决方案，那么问题就很严重了。

CMA考下来多少钱？一键算出来

2022年CMA最新资料包领取

请大家认真填写以下信息，获取2025年CMA学习资料包，会以网盘链接的形式给到大家，点击免费领取后请尽快保存。