美容人工智能算法充满偏见——这位计算机科学家想要改变这一点

图片来源:Joy Buolamwini提供

最好的美丽故事往往会消失数不清的仅基于一个人的肤色、宗教、性别表达、残疾或社会经济地位。在这里，我们要把麦克风传给一些业界最雄心勃勃、最有才华的声音，让他们用自己的话说，分享他们如何诞生的非凡故事，以及他们如何用美丽来让世界变得更美好。下一个:快乐Buolamwini他是计算机科学家，也是算法正义联盟(AJL)。

从很小的时候起，我就对寻找使用计算机帮助人们的方法感兴趣。从小到大，我父亲是一名药物化学教授医药科学他曾经带我去他的实验室喂癌细胞。他还会向我展示他是如何用电脑研发抗癌药物的。

我从小就喜欢探索真理，无论是艺术还是科学，这要感谢我的母亲是一位艺术家。一开始我不确定我是否能够将我所做的艺术部分与算法审计相融合，但我抓住机会问自己，作为一个代码诗人会是什么样子，一个将两个世界融合在一起的人，为了做诗人所做的事情，即揭示我们日常互动中令人不安的真相或隐藏的洞察力?

我也一直有一点企业家精神。在高中的时候，我开了一家小的网页设计公司，这让我赚了一些钱，这样我就可以买篮球、田径和越野的器材了。然后在大学里，我和别人合伙成立了一家护发科技公司，专门分析头发类型，给人们提供个人产品建议。

在那之后，我非常幸运地获得了富布赖特奖学金，去了赞比亚，我创办了一个组织，教女孩们如何编程。当我进入研究生院的时候，我有了足够的经验和信心来成立算法正义联盟，这是一个结合艺术，学术研究以及倡导，为那些被人工智能伤害的人而战，我喜欢称他们为“前编码”。

当我还是麻省理工学院的研究生时，我在做一个艺术装置，这个装置的一部分是用软件来追踪我的脸的位置，但它在我的脸上并没有很好地工作，直到我戴上一个白色的面具。这导致我在2017年对面部和分析技术进行了研究，该技术可以尝试猜测一张脸的性别。戴上白色面具让机器看到的经历让我开始问，这些机器有那么中立吗?

我开始研究人工智能系统是否会根据所分析的人脸类型表现不同，我的研究发现，事实上，它们确实会表现不同。通过观察一些大型科技公司的人工智能系统，我发现在猜测性别方面，系统在男性面部上的表现比女性面部更好，而且在浅肤色面部上的表现比深肤色面部更好。这让我想到，如果结果反过来，这些电脑还会出现在市场上吗?正是这种戴着白色面具编码的经历，以及有机会展示当时商业销售的人工智能产品中一些最大的准确性差异，让我进一步研究了编码偏见的问题，这确实是启动算法正义联盟的种子。

图片来源:玉兰油

在美容人工智能中，如果我们在考虑分析面部或让机器处理面部——你会看到各种各样的过滤器被用来提亮你的皮肤或削细鼻子，作为一种声称能增强美的方式——这是基于欧洲中心的美的标准，并将有色人种女性边缘化。通过我的研究，我意识到我可以从我的生活经历中获得这个重要的观点，我的生活经历是不被人看到的，被解除编码的。这不仅仅是影响我的事情，而且是我们整个社会的事情，因为我们的人工智能系统越来越多地进入各个领域。

在美容领域还需要考虑的是人工智能在就业中的应用——决定谁被雇用，谁被解雇，谁得到晋升。美容行业雇佣了很多人，可以理解的是，公司都想尝试采用最新的技术，但我们真的需要考虑人工智能作为看门人的方式，让谁也能参与到行业中来。

我们在算法正义联盟所做的一项主要工作是问我们如何走向一个更公平、更负责任的人工智能世界?其中一部分是提高意识，因为你无法解决一个你甚至不知道的问题，很多人都没有意识到编码偏见。这就是为什么我很高兴能和玉兰油合作解读偏见反对美容算法偏见的运动。思考谁在编码以及我们如何编码是做出改变的一个重要部分。该品牌主动派遣1000名女孩参加Black girls CODE夏令营，帮助她们追求STEM职业，这有助于确保创造塑造社会的技术的人实际上反映了社会。这种偏见继续表明，当我们不在房间里时，会发生什么。

当我刚开始我的研究时，我经历了令人沮丧的评论，但我没有让这些阻止我追求我认为极其重要的东西。作为一名女性和深色皮肤给了我一种活生生的经历，这种经历导致了当时更多主流同行没有追求或优先考虑的有影响力的研究。因此，我在白色面具下编码的经历实际上推动了这项研究。

当你在一个你的视角不集中的领域，你真的需要找到一个支持你的团体。我有一个非常强大的支持系统和优秀的导师，有一个非常坚实的基础，所以我认为从一开始，这对我很有帮助。这向我展示了拥有这种社区的重要性，尤其是作为一名有色人种的年轻女性和有色人种的女孩。我鼓励那些有想法，想要进入这个领域，但又害怕受到阻碍的人继续前进。我们仍然需要你。