亚马逊Prime和种族主义算法

亚马逊在4月底披露,它将波士顿、亚特兰大、芝加哥、达拉斯、纽约市和华盛顿特区的少数族裔社区排除在它的优质免费同日送货服务之外,同时将服务扩展到白人社区,这可能会使少数族裔感到震惊。他们可能认为这是同一种种族主义模式的一部分,使许多少数民族社区的基础设施和住房破败不堪,公共交通差,很少或根本得不到健康食品,很少有地方购买商品。

但对于亚马逊,以及可能是科技界的其他人来说,这一决定与种族主义无关,与事实无关。亚马逊辩称,当它排除了这些社区时,它并没有采取偏见的行动。相反,算法和这些算法的基础数据表明亚马逊无法从中获利。而且,考虑到亚马逊是盈利驱动的,该公司将他们排除在外。亚马逊说,种族与此无关。

谁是对的?这个问题的答案是:算法会不会是种族主义的?是的,他们可以。我会解释的。

首先,让我们看看亚马逊的Prime免费同日送货服务在哪里可用,在哪里不可用。彭博社(Bloomberg)的一项分析发现,在六个主要城市,“服务区在不同程度上主要排除了黑色邮政编码”。彭博社的结论是,“在亚特兰大、芝加哥、达拉斯和华盛顿,仍在努力克服几代人的种族隔离和经济不平等的城市中,黑人公民与白人居民一样,生活在亚马逊同日送货的社区中的可能性约为一半。”在纽约市,它发现,当天送货主要是在少数族裔布朗克斯,“在一些皇后区的黑人社区中”没有。

在波士顿,情况更糟。布隆伯格发现,除了罗克斯伯里主要是黑人社区的三个邮政编码外,整个城市都可以使用这项服务。

(注:报告发布后,亚马逊决定将服务扩展到三个Roxbury ZIP代码,以及Bronx。)

亚马逊全球通讯副总裁克雷格·伯曼(Craig Berman)对彭博社说,最初的决定与种族无关,与算法无关。他不愿透露算法的具体内容,只是说其中包括一个地区的主要成员集中和靠近仓库,以及提供给该地区的合作伙伴的可用性。至于种族是一个因素,他说:“人口在其中不起任何作用。”

这听起来很明确:在亚马逊看来,种族与黑人社区被排除在外无关,因为在决策过程中没有使用种族人口数据。但再深挖一点,你就会看到种族与它有一切关系。加州大学伯克利分校哈斯商学院(University of California,Berkeley’s Haas Institute for a Fair and Inclusive Society)教授乔文·斯科特·刘易斯(Jovan Scott Lewis)指出,亚马逊不会提供同日交割的社区是那些遭受了数十年重创的社区,这些银行拒绝向非洲裔美国人提供抵押贷款,即使他们在经济上有资格获得抵押贷款,因为他们是黑人,生活在少数占主导地位的地区。

他在接受《今日美国》的采访时说:“亚马逊算法是在对以前的裁员工作进行继承制图的基础上运行的,这种算法造成了一些地方的歧视,其后果是歧视继续被复制。

亚特兰大莫雷豪斯学院(Morehouse College)工商管理系主任基思·霍林斯沃斯(Keith Hollingsworth)对该报表示,在这种情况下,有意的种族主义可能起不到作用,但“这并不意味着系统性种族主义不会影响结果。

至于少数族裔社区,很少有公司向他们送货,而且离仓库很远,这不会让人感到惊讶。这也是几十年来种族主义的结果——企业和零售商往往不会在少数族裔社区经营,因此没有必要让仓库靠近他们,也没有必要让送货公司为他们提供服务。

那么亚马逊算法是种族主义者吗?是的,虽然不是故意的。它产生了种族主义的结果,因为它所依据的数据是几十年来广泛的种族主义的结果。正如刘易斯所指出的,这意味着亚马逊帮助歧视继续存在下去。

亚马逊的决定对贫穷的少数民族社区的打击特别大,因为这些社区的人们以合理的价格购买有用的商品要困难得多,因为商店少,公共交通比其他社区差得多。讽刺的是,富裕社区的人比贫困和少数民族社区的人更容易找到低成本、高质量的商品,因为富裕社区离更多的商店更近,公共交通也更好。因此,亚马逊当天的送货服务可能对亚马逊不会提供的人最有帮助。

在科技公司工作的少数族裔缺乏证据确凿,这就影响了像这样的决策。少数族裔可能会注意到亚马逊当天服务被排除在外的种族成分,并试图做些什么。

还有一个更大的问题。科技行业喜欢把自己描绘成数据驱动和进步,依靠对事实的清晰的分析,带领我们走向一个更美好的未来,同时消除盲点和偏见。但正如交付问题所表明的那样,行业选择其数据和算法的方式可能意味着支持不公平的现状。这正是发生在这里的事情。亚马逊应该受到赞扬,因为它将服务扩展到罗克斯伯里和布朗克斯。但它也应该通过将其扩展到其他少数民族社区来跟进。现在是公司和整个科技行业做正确事情的时候了。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时候联系我们修改或删除,多谢