5.1 词汇语义学

先介绍词义的一些基本原则。该如何表示一个词的含义？第 3 章的 n 元语法模型和经典 NLP 应用只把词表示为字母字符串或词表中的索引。这与哲学中的一种传统并无太大区别：用小型大写字母拼写某个词来表示其意义，例如把 dog 的意义写作 DOG，把 cat 的意义写作 CAT，有时也使用撇号（DOG′）。

仅靠大写来表示词义显然不能令人满意。语义学家 Barbara Partee 有一个笑话（Carlson, 1977）：

问：生命（life）的意义是什么？
答：LIFE。

我们当然可以做得更好。词义模型应能告诉我们：有些词意义相近（cat 与 dog），有些是反义词（cold 与 hot），有些带正面内涵（happy），另一些带负面内涵（sad）。它还应表示 buy、sell 和 pay 对同一个购买事件所提供的不同视角：如果我从你手里买了某物，你很可能把它卖给了我，而我大概也付了钱。更一般地说，词义模型应帮助我们作出推断，解决问答、对话等与意义有关的任务。

本节借鉴研究词义的语言学领域——词汇语义学（lexical semantics）——概述这些要求；附录 I 和第 22 章将进一步扩展。

词元与词义¶

先看看词典如何定义一个词（这里选择 mouse，并简化自在线词典 WordNet）：

mouse（名词）

1. 多种小型啮齿动物中的任一种……

2. 用手操作、控制光标的设备……

这里的 mouse 是词元（lemma），也称引用形式（citation form）。mice 的词元同样是 mouse；词典不会为 mice 这样的屈折形式单独列定义。同理，sing、sang、sung 的词元都是 sing。许多语言用不定式作动词词元，例如西班牙语 dormir（“睡觉”）是 duermes（“你睡觉”）的词元。sung、carpets、sing、duermes 等具体形式称为词形（wordforms）。

每个词元可以有多个含义：mouse 可指啮齿动物，也可指光标控制设备。mouse 意义的每个方面称为一个词义（word sense）。词元可能具有多义性（polysemy），这会增加解释难度：搜索 mouse info 的人是在找宠物信息，还是在找计算机配件？第 9 章和附录 I 将讨论多义性，并介绍词义消歧（word sense disambiguation），即判断特定语境中使用了某个词的哪一种词义。

同义关系¶

词义的重要组成部分之一，是词义之间的关系。如果一个词的某个词义与另一个词的某个词义相同或近乎相同，就称这两个词义互为同义词（synonyms），例如：

couch / sofa　vomit / throw up　filbert / hazelnut　car / automobile

从词而非词义的角度，更形式化的定义是：如果两个词可在任何句子中互相替换而不改变句子的真值条件（truth conditions），即不改变使该句为真的情形，那么二者同义。

car / automobile 或 water / $H_2O$ 的替换虽然保持真值，意义却仍非完全相同。事实上，很可能没有两个词的意义绝对相同。语义学的基本原则之一——对比原则（principle of contrast；Girard, 1718；Bréal, 1897；Clark, 1987）——认为语言形式的差异总与某种意义差异相关。例如，$H_2O$ 用于科学语境，在徒步指南中并不合适，那里 water 更自然；这种体裁差异本身就是词义的一部分。因此，实践中的“同义”通常指近似或大致同义。

词相似度¶

一个词或许没有很多同义词，却通常有许多相似词。cat 不是 dog 的同义词，但二者显然相似。从同义关系转向相似关系时，可以从讨论词义之间的关系转为讨论词之间的关系。直接处理词，无须预先选定特定的词义表示，从而简化任务。

词相似度（word similarity）对更大型的语义任务非常有用。两个词的相似程度有助于计算两个短语或句子的意义相似度，而这是问答、释义和摘要等任务的重要组成部分。获得词相似度值的一种方法，是请人判断两个词有多相似。许多数据集来自此类实验，例如 SimLex-999（Hill et al., 2015）用 0 到 10 的分数表示相似度：

这些例子从近义词 vanish/disappear 一直延伸到几乎毫无共同点的 hole/agreement。

词相关度¶

两个词的意义还可能以相似之外的方式相联系。这类联系称为词相关度（word relatedness；Budanitsky and Hirst, 2006），在心理学中也传统地称为词联想（word association）。

例如 coffee 与 cup 并不相似：coffee 是植物或饮料，cup 是具有特定形状的人工制品，二者几乎没有共同特征。但它们显然相关，因为共同参与了日常事件——用杯子喝咖啡。同样，scalpel 和 surgeon 并不相似，却通过事件相关：外科医生往往使用手术刀。

一种常见的相关关系，是词属于同一个语义场（semantic field）。语义场是一组覆盖特定语义领域、彼此具有结构化关系的词。例如，词可以同属医院语义场（surgeon、scalpel、nurse、anesthetic、hospital）、餐馆语义场（waiter、menu、plate、food、chef）或住宅语义场（door、roof、kitchen、family、bed）。语义场也与主题模型（topic models）有关，例如潜在狄利克雷分配（Latent Dirichlet Allocation, LDA）对大量文本进行无监督学习，从中归纳彼此关联的词集。语义场和主题模型都是发现文档主题结构的有用工具。

附录 I 将介绍词义之间更多关系，如上位关系或 IS-A 关系、反义关系以及部分—整体关系。

内涵¶

词还具有情感意义或内涵（connotation）。这里用该术语表示词义中与作者或读者的情绪、情感、观点或评价相关的部分。例如，wonderful 带正面内涵，dreary 带负面内涵。即使其他方面意义相似的词，内涵也可能不同：比较 fake、knockoff、forgery 与 copy、replica、reproduction，或比较带正面内涵的 innocent 与带负面内涵的 naive。

有些词表达正面评价（great、love），另一些表达负面评价（terrible、hate）。正面或负面的评价语言称为情感（sentiment）。词语情感在情感分析、立场检测，以及将 NLP 用于政治语言和消费者评论等重要任务中发挥作用。

情感意义的早期研究（Osgood et al., 1957）发现，词在三个重要维度上存在差异：

• 效价（valence）：刺激带来的愉悦程度；

• 唤醒度（arousal）：刺激引发情绪的强度；

• 支配度（dominance）：刺激施加控制的程度。

happy、satisfied 的效价高，unhappy、annoyed 的效价低；excited 的唤醒度高，calm 的唤醒度低；controlling 的支配度高，awed、influenced 的支配度低。因此，每个词可用三个数表示：

Osgood et al.（1957）注意到，用这三个数表示词义，相当于把每个词表示为三维空间中的一个点，即三个维度分别对应三种量表评分的向量。词义可以表示为空间中的点——例如 heartbreak 意义的一部分可表示为 $[2.5,5.7,3.6]$——这一革命性想法，是下面要介绍的向量语义模型的最早形式。