5.6 嵌入可视化

“只要维度大约是二，我就能很好地观察许多维度。”——已故经济学家 Martin Shubik

嵌入可视化有助于理解、应用和改进这些词义模型。但要怎样可视化一个 100 维向量？

最简单的方法，是按词表中所有向量与词 $w$ 的余弦排序，列出与 $w$ 最相似的词。例如，使用一组 GloVe 嵌入，与 frog 最近的 7 个词是 frogs、toad、litoria、leptodactylidae、rana、lizard 和 eleutherodactylus（Pennington et al., 2014）。

另一种方法是用聚类算法，以层次结构展示嵌入空间中哪些词彼此相似。左图使用名词嵌入向量的层次聚类进行可视化（Rohde et al., 2006）。

最常见的方法可能是把词的 100 个维度投影到二维。图 5.1 和图 5.10 都展示了这种可视化，所用投影方法称为 t-SNE（van der Maaten and Hinton, 2008）。