美AI算法是充满偏见——这计算机科学家想要改变这种状况

图片来源:由Buolamwini喜乐

通常,最好的美丽故事数不清的,仅仅根据一个人的肤色、宗教、性别表达、残疾,或社会经济地位。在这里,我们通过麦克风一些最雄心勃勃,才华横溢的声音,所以他们可以分享,用他们自己的话说,他们是如何的非凡故事——以及他们如何使用改变世界的美丽。下一个:快乐Buolamwini,计算机科学家和创始人算法正义联盟(AJL)。

从很小的时候,我看着很感兴趣的方式使用计算机来帮助人们。成长的过程中,我的爸爸,他是一个药物化学教授医药科学,带我去他的实验室给癌细胞。他也会告诉我的方式使用计算机开发抗癌药物。

我长大对寻找真理,艺术和科学,感谢我的母亲是一个艺术家。起初我不确定如果我能够融合两种算法的艺术的一部分,我所做的审计、但我有机会问自己,那会是什么样子的诗人的代码,把两个世界的人为了做诗人,照亮令人不快的事实或隐藏的见解在日常互动?

我一直有点创业精神,。在高中,我有一个小网站设计公司,让我赚点钱篮球,所以我可以支付设备轨道,和交叉,然后在大学的时候,我与护发科技公司,分析头发类型和个人产品推荐给人们。

之后,我很幸运的获得富布赖特奖学金去赞比亚,我开始教女孩如何代码的一个组织。我读研究生的时候,我有经验和信心开始算法正义联盟,一个组织相结合的艺术,学术研究,和倡导为了争取AI伤害的人,那些我喜欢称之为“ex-coded。”

当我在一个艺术装置作为一个麻省理工学院的研究生,安装的一部分是为了追踪我的脸与软件的位置,但它没有工作,在我的脸上,直到我穿上白色的面具。这导致了我的研究在2017年面部和分析技术,可以试着猜一脸的性别。这种经历的白色面具,看到一台机器是真正让我开始问,这些机器所以中性吗?

我开始考虑如果AI系统执行不同的类型取决于被分析的脸,和我的研究发现事实上,他们做的。从看人工智能系统的主要科技公司,我发现系统上执行更好的男性比女性的脸的脸时猜测性别,和他们比深色皮肤浅色皮肤的脸脸上表现的更好。这让我想到,如果这些结果被逆转,将这些电脑在市场呢?是编码的经验在一个白色的面具,然后有机会展示一些最大的精度差异在商业销售的人工智能产品,导致我,来进一步研究编码偏差的问题,这是启动算法正义联盟的种子。

图片来源:玉兰油

在美艾,如果我们考虑分析或脸处理的机器——你会看到这类型的过滤器使用可能会减轻你的皮肤或苗条你的鼻子的声称提高美——这是基于以欧洲为中心的标准美和女性边缘化的颜色。通过我的研究,我意识到我有一个重要的视角将从我的生活经验不被看见,被ex-coded。它不仅影响我,但它是在我们的更大的社会,因为我们有AI系统越来越多地进入所有地区。

别的考虑在美就业空间的使用AI -决定谁被雇佣之前,谁就被开除,谁得到了升迁。美容行业雇佣了很多人,可以理解的是,公司希望尽量采用最新的技术,但是我们真的需要考虑人工智能的方式作为看门人的人甚至会参加行业内。

一块主要的算法正义联盟我们所做的是问我们怎么往一个更加公平的世界里,和负责任的人工智能吗?它是提高意识的一部分,因为你不能解决一个问题,你甚至不知道,很多人没有意识到编码的偏见。这就是为什么我很高兴合作伙伴与玉兰油解码偏差美算法运动打击的偏见。思考谁是编码和我们如何编码就是这样改变的重要组成部分。品牌的计划派遣1000名女孩黑人女孩代码营地帮助他们追求干的事业有助于确保人创造的技术,塑造社会实际上反映了社会。偏差继续显示当我们不是在房间里。

当我开始我的研究,我经历了令人沮丧的评论,但我不让,阻止我追求的东西我觉得是非常重要的。作为一个女人,黝黑的皮肤有给了我一个生活经验,导致有效的研究,更多的主流同行不追求或优先。所以,我的经验与编码白色面具实际上就是使这一研究。

当你在一个领域,你的观点并不集中,你真的需要找到一个社区的支持。我有一个非常强有力的支持系统和伟大的导师和一个非常坚实的基础,所以我认为从一开始,这是对我非常有帮助。显示我有这种社区的重要性,尤其是在一个年轻女人的颜色和颜色的女孩。我鼓励那些想法和想进入这个空间,但害怕他们会面临阻力,推动。我们仍然需要你。