统计成分句法分析
Damon Runyon 的短篇小说人物什么都愿意下注。正如 Runyon 在 The Idyll of Miss Sarah Brown 中谈到 Sky Masterson 时所说，他们愿意对“任何命题”下注：从连续拿到两张 A，到有人能从二垒把花生扔到本垒。这里对语言处理有一个启示：只要知识足够，我们几乎可以估计任何事物的概率。第 19 章介绍了成分结构及其句法分析任务；本附录说明怎样建立句法知识的概率模型以及高效的概率句法分析器。
概率句法分析的一项用途是解决消歧问题。回忆第 19 章：协调歧义和附着歧义等现象使句子平均而言往往具有句法歧义。CKY 句法分析算法能高效表示这些歧义，却不能解决它们。该章介绍了一种用于消歧的神经算法；这里介绍另一种方案——概率句法分析器：计算每种解释的概率并选择概率最大的解释。最常用的概率成分语法形式是概率上下文无关文法（probabilistic context-free grammar, PCFG），即为每条规则附加概率的上下文无关文法。下一节介绍 PCFG，说明怎样用树库语法训练它，以及怎样用第 19 章 CKY 算法的概率版本对其进行分析。
随后，我们将介绍改进基本概率模型（在树库语法上训练的 PCFG）的多种办法，例如修改非终结符集合，使其更具体或更一般；或者加入更复杂的条件因素，如次范畴化和依存关系。词汇化程度很高的语法形式——词汇功能语法（LFG；Bresnan, 1982）、中心语驱动的短语结构语法（HPSG；Pollard and Sag, 1994）、树邻接语法（TAG；Joshi, 1985）和组合范畴语法（CCG）——给概率句法分析器带来了更多问题。相关章节还会在 CCG 句法分析的背景下介绍超标注任务，以及基于 A* 算法的启发式搜索方法。