5.8 偏差与嵌入

嵌入不仅能从文本中学习词义，遗憾的是，它们也会复制潜藏在文本中的隐性偏差和刻板印象。上一节说明嵌入能近似建模关系相似度：$king-man+woman$ 最接近 queen，意味着 man:woman::king:queen。但同样的嵌入类比也会表现性别刻板印象。例如，Bolukbasi et al.（2016）发现，在新闻文本上训练的 word2vec 嵌入中，$computer\ programmer-man+woman$ 最接近的职业是 homemaker；嵌入还暗示 father:doctor::mother:nurse。

这可能导致 Crawford（2017）和 Blodgett et al.（2020）所说的分配性伤害（allocational harm）：系统不公平地向不同群体分配工作、信贷等资源。例如，在寻找潜在程序员或医生时使用嵌入的算法，可能错误地降低含女性姓名文档的权重。

嵌入不仅反映输入统计，还会放大偏差：性别化词语在嵌入空间中比在输入文本统计中更为性别化（Zhao et al., 2017；Ethayarajh et al., 2019b；Jia et al., 2020），所呈现的偏差甚至比真实劳动力就业统计更夸张（Garg et al., 2018）。

嵌入还会编码人类推理中的隐性联想。内隐联想测验（Implicit Association Test；Greenwald et al., 1998）通过测量人们给不同类别的词贴标签时的反应时间差，考察概念（如“花”或“昆虫”）与属性（如“愉悦”或“不愉悦”）之间的联想。研究表明，美国受试者更容易把非裔美国人姓名与不愉悦词联系起来，把男性姓名与数学、女性姓名与艺术联系起来，并把老年人姓名与不愉悦词联系起来（Greenwald et al., 1998；Nosek et al., 2002a, 2002b）。

Caliskan et al.（2017）用 GloVe 向量和余弦相似度取代人类反应时间，复现了所有这些隐性联想。例如，Leroy、Shaniqua 等非裔美国人姓名与不愉悦词的 GloVe 余弦更高，而 Brad、Greg、Courtney 等欧裔美国人姓名与愉悦词的余弦更高。这是表征性伤害（representational harm；Crawford, 2017；Blodgett et al., 2020）的例子，即系统贬低甚至忽视某些社会群体。任何使用词语情感的嵌入算法都可能由此加剧对非裔美国人的偏见。

近期研究尝试移除此类偏差，例如变换嵌入空间以消除性别刻板印象、同时保留定义性别（Bolukbasi et al., 2016；Zhao et al., 2017），或改变训练流程（Zhao et al., 2018b）。然而，这些去偏差（debiasing）方法虽能减少偏差，却不能将其消除（Gonen and Goldberg, 2019）；这仍是开放问题。

历史嵌入也被用来度量过去的偏差。Garg et al.（2018）使用历史文本嵌入，测量职业嵌入与不同族裔或性别姓名嵌入之间的关联。例如，比较 20 世纪各时期女性与男性姓名相对于 librarian、carpenter 等职业词的余弦相似度；结果与相应职业中女性或族裔群体的历史实际比例相关。

历史嵌入还复现了早期族裔刻板印象调查：1933 年受试者把 industrious、superstitious 等形容词与华人族裔联系起来的倾向，与在 20 世纪 30 年代文本上训练的嵌入中华人姓氏和这些形容词的余弦相关。研究还记录了历史性别偏差：smart、wise、thoughtful、resourceful 等能力相关形容词与男性词的余弦高于女性词，并表明这种偏差自 1960 年以来一直缓慢下降。后续章节将继续讨论偏差在自然语言处理中的作用。