E.7 小结
本附录概述了概率句法分析的基础,重点讨论概率上下文无关文法。
概率文法在试图捕捉复杂语法信息的同时,为句子或词串赋予概率。
概率上下文无关文法(PCFG)为每条上下文无关规则标注选用该规则的概率。PCFG 把每条规则视为条件独立,因此一棵分析树的概率等于其中各规则概率的乘积。
概率 CKY(Cocke–Kasami–Younger)算法是 CKY 句法分析算法的概率版本。
PCFG 概率既可以在已经句法标注的语料库中直接计数学习,也可以通过分析未标注语料来学习。句子具有歧义时,inside–outside 算法可用于处理潜在分析树。
原始 PCFG 的规则独立性假设不佳,而且对词汇依存关系不敏感。
一种改进办法是人工或自动地拆分与合并非终结符。
另一种办法是使用概率词汇化 CFG:给每条规则增加词汇中心语,使规则概率能够以该词汇中心语或邻近中心语为条件。
词汇化 PCFG 的句法分析器(如 Collins 分析器)建立在概率 CKY 的扩展之上。