13.7 偏见与伦理问题
机器翻译会引发前几章讨论过的许多伦理问题。例如，从匈牙利语（代词 ő 不区分性别）或西班牙语（经常省略代词）翻译成英语（代词必不可少且带有语法性别）时，若对人的指称未指定性别，MT 系统往往默认使用男性（Schiebinger 2014; Prates et al. 2019）。系统还常按照 5.8 节所述的文化刻板印象分配性别。图 13.12 引自 Prates et al.（2019）：匈牙利语中性别中立的“ő 是护士”被译为 she，而“ő 是 CEO”被译为 he。研究发现，这些刻板印象不能完全由美国劳动力统计中的性别偏差解释，因为 MT 系统放大了偏见：代词映射到男女两种性别的概率，比依据实际就业统计作出的映射更极端。
| 匈牙利语（性别中立）源文 | 英语 MT 输出 |
| ő egy ápoló | she is a nurse |
| ő egy tudós | he is a scientist |
| ő egy mérnök | he is an engineer |
| ő egy pék | he is a baker |
| ő egy tanár | she is a teacher |
| ő egy esküvőszervező | she is a wedding organizer |
| ő egy vezérigazgató | he is a CEO |
图 13.12 从匈牙利语等性别中立语言译成英语时，当前 MT 系统把传统男性主导职业中的人解释为男性，把传统女性主导职业中的人解释为女性（Prates et al., 2019）。
类似地，WinoMT 挑战集（Stanovsky et al., 2019）表明，要求 MT 系统翻译描述非刻板性别角色的句子时，其表现更差，例如“The doctor asked the nurse to help her in the operation”。
MT 中许多伦理问题仍需研究。一个开放问题是开发指标，让系统知道自己不知道什么。MT 系统可能用于人工译者无法到场或有所延误的紧急情形，例如医疗领域中帮助语言不通的医患交流，或法律领域中协助法官、律师与证人、被告沟通。为了“不造成伤害”，系统需要为候选译文赋予置信度，以便在可能给出有害错误译文时选择拒答。