哈佛商业评论

20世纪80年代末，法律教授伊恩·艾瑞斯（Ian Ayres）和彼得·席格曼（Peter Siegelman）想知道黑人和女性购买同一款新车所花的钱，是否同白人男性一样。他们找到38个人——其中包括白人和黑人，男性和女性，随后教这些参与者用同样的说辞和经销商讨价还价，确定最终价格。他们发现了很多令人不安的差距：在153家经销商中，黑人和女性顾客要付出比白人男性更多的钱，才能买到同一款车，而黑人女性付的钱最多，比白人男性平均高出近900美元。虽然这些发现对多数人来说并不意外，特别是对黑人和女性而言，但还是强有力地说明了市场对不同人群的歧视程度。

让我们快进十几年，来到互联网商务刚刚兴起的年代。当时的创业者正在试验用网络销售各种各样的商品，包括汽车。经济学家斯科特·莫顿（Scott Morton）、弗洛里安·蔡特梅耶尔（Florian Zettelmeyer）和豪尔赫·席尔瓦-里索（Jorge Silva-Risso）通过分析这种汽车销售新方式，发现网络销售能够消除种族和性别歧视。他们还发现，在线下汽车销售中，种族和性别歧视已经根深蒂固。

的确，在eBay、亚马逊和普利斯林（Priceline）等第一代美国电商中，卖家很难对顾客有歧视行为。买卖双方在交易过程中，对对方了解相对较少。用户在不透露身份信息的情况下，就可以与卖家讨价还价，直到双方达成最终价格。《纽约客》刊登的某著名漫画这样形容：“在网络中，没人知道你是一只狗。”

然而现在情况不一样了：平台及其用户都知道，网络世界中的你是黑人还是白人，男性还是女性，人类还是犬类。人们最近还明白，互联网是歧视的源头之一，而非终结者：随着身份的暴露，弱势群体在网络中面临和现实生活中同样的挑战，而由于网络缺乏监管，还有突出种族和性别差异的照片被上传到网上，再加上有歧视倾向的人可以在不直面被歧视者的情况下恣意妄为，有时网络中的歧视比现实生活中更严重。

发生了什么事，我们又该怎么办呢？

网络歧视的出现

电子商务刚起步时，人们要对网络购物足够信任，才会选择网购。比如某个佛罗里达州的eBay卖家可能会贴出一张诺兰·莱恩（Nolan Ryan ）于1974赛季效力于加利福尼亚天使队（California Angels）的Topps棒球球星卡，同时附有产品情况说明。某马萨诸塞州的球星卡收集者可能在没看到卡片的情况下，只根据说明就拍下这件商品。完好无损的卡片价值可达60美元，但边角有折痕的旧卡片也许只值几美元。怎么防止卖家用旧卡片冒充新卡片呢？基本无解：经济学家金哲（Ginger Jin）和安德鲁·加藤（Andrew Kato）的研究发现，21世纪最初几年的eBay店主对体育收藏卡质量的描述，往往都不准确。

早期电商的问题在于，市场中的卖家通常知道一些买家不知道的事情，比如棒球卡是否完好无损，产品包装是否可靠、用心。这些问题出现在所有市场中，但在网络平台上尤为严重，原因有两个。首先，如果你不能将产品拿在手上的话，就很难解决这种信息不对称的问题。其次，网络卖家，顾名思义，是电商行业中的新兴群体，而该行业本身也刚出现几年而已，还没有成为像苏富比（Sotheby's）拍卖行和西尔斯百货（Sears）这种能够保证买家不会受到欺骗的成熟品牌。

随着互联网商务的发展，买家评论等反馈形式变成了电商建立声誉的手段。但若你能够从买家和卖家身份中，提取到那么多将来可能用处极大的信息，为什么要止步于收集反馈呢？举例来讲，杰弗森·杜瓦特（Jefferson Duarte）、史蒂芬·西格尔（Stephan Siegel）和兰斯·扬（Lance Young）2012年在针对P2P（peer-to-peer lending）的研究中，请受试者先察看潜在借贷者的照片，之后评价这些人的可信度。结果显示，“看上去值得信赖”的人申请贷款更容易得到批准。令人意外的是，这些人偿还贷款的几率也更高。也就是说，如果通过精细化分类得到的信息能帮助市场参与者预判某次交易的前景，那么提供这种数据就是有意义的。

在提供自由职业、拼车和遛狗等服务的网站上，很多卖家现在能够根据买家的外貌或仅仅一个名字，就决定是否与之交易。不同的平台获取这类信息的数量也不同。有的网站在很大程度上保护了用户的隐私，其他网站则重新启用线下市场早被禁止的措施。同样，在手工艺品电商Etsy和设计师在线沟通平台CustomMade等很多网站上，潜在买家不仅可以看到产品，还能看见卖家的名字和照片。虽然人们对可能进行交易的合作伙伴有具体了解后会更放心，但越来越多的证据表明，这也助长了歧视。

房屋短期租赁网站Airbnb的例子，就很好地说明了网络市场的歧视现象，以及设计造成歧视现象的严重程度。比如某潜在租客搜索房源时，看到的是房子及房东的描述和图片。房东能看见潜在租客的名字，而且在很多情况下，还能看到他们的照片，之后房东可以选择接受还是拒绝这些租客。

本文作者之一卢卡与本杰明·埃德尔曼（Benjamin Edelman）和丹尼尔·斯沃斯基（Daniel Svirsky）合作，调查了Airbnb的种族歧视情况。他们针对美国市场，编造了20份用户画像，并将租赁申请发送给大约6400个房东。这些画像和申请完全一样，除了一个细节不同——用户的名字。一半名字（根据出生记录推断）在白人中比较常见，一半名字在黑人中比较常见。

名字听上去像是黑人的租客申请被接受的几率，比名字听上去像是白人的租客低16%。这种歧视普遍存在，不论你租的是廉价房还是豪宅，多元化社区还是单一种族社区，房东本人居住的屋子还是房东只租不住的单元房。多数拒绝了名字听上去像是黑人租客的房东，从来没有招待过黑人客人。这说明有些房东有很强的种族歧视。（为回应本研究，并应对用户和监管者愈发激烈的齐声指责，Airbnb委任一个特别工作组，为减少歧视出谋划策。这个工作组在2016年9月提出了一系列改革措施，我们将在下文就其中一些政策展开讨论。）

目前记录在案的网络种族歧视现象，出现在多个领域，从劳动力市场到信用卡申请再到房屋供给等。网络歧视的产生源于两个特点：一是凸显种族特征的标志，比如照片（最明显的例子），还有一些像名字这样不显眼的标志；二是市场参与者中的一方有权决定是否与另一方进行交易。我们会在接下来的文章中说明，这两大特点都是平台设计师做出的选择。

互联网商务另一个可能助长歧视的特点是：算法和大数据的使用。这听上去与我们的直觉相悖，但谷歌提供的搜索结果、亚马逊推送的书籍以及Netflix推荐的电影都说明了机器正在取代判断力有缺陷的人类；它们能够更精准地判断客户需求。人们容易认为，人类的判断被取代后，偏见也将消失。但事实并非如此。

实际上，由算法带来的网络歧视可能是人类须避免的。计算机科学教授拉塔尼娅·斯维尼（Latanya Sweeney）所做研究给我们很大启发。斯维尼想了解种族在谷歌广告中扮演的角色，于是她搜索了非裔美国人常用的名字，比如德肖恩和她自己的名字拉塔尼娅，并记录下和搜索结果同时出现的广告。接下来她开始搜索白人常用的名字，如杰弗里。她在搜索常见的黑人名字时，更有可能看到提供调查逮捕记录服务的广告。

当然，谷歌并非故意向搜索非裔美国人名字的用户，展示逮捕记录的广告。出现这种情况是因为算法基于过往搜索记录“认定”，相比搜索“杰弗里”的人，搜索“德肖恩”的人更有可能点击与逮捕信息相关的广告（而点击率高，谷歌收入也会水涨船高）。也就是说，这个选择是谷歌的算法设计师（可能无意中）做出的。