矢量语义(vector semantics)

掘金的LaTex公式解析很奇怪，很多公式都解析错误，建议查看原文矢量语义(vector semantics)

斯坦福经典NLP教材Speech and Language Processing-Vector Semantics学习笔记。

我们该如何表示一个单词的意思呢？你可能会想到其中的一种，用一个向量来表示一个单词！没错，这个章节就是讲单词的表示。

文档和向量

如果用向量来表示一个文档，该怎么表示呢？

假设现在有四个文档，我们统计各个单词在文档中出现的次数，可以得到一张表格：

-	As You Like It	Twelfth Night	Julius Caesar	Henry V
battle	1	0	7	13
good	114	80	62	89
fool	36	58	1	4
wit	20	15	2	3

当然实际上文档的单词数量远不止这几个。

上面表中，有4个单词，所以每一个文档可以表示成一个由单词频率组成的向量：

As You Like It ------> [ 1,114,36,20]
 Twelfth Night ------> [ 0, 80,58,15]
 Julius Caesar ------> [ 7, 62, 1, 2]
       Henry V ------> [13, 89, 4, 3]
复制代码

如果单词有很多个，假设是N，那么每个文档就可以表示成一个N维的向量。可见，这样的向量表示是稀疏的(sparse)。

单词和向量

除了文档可以表示成一个向量，单词也可以。

和文档类似，我们可以统计出一张表格，但是不同的是，我们不是统计单词的个数，而是统计两个单词出现在一起的频数。看一张表格你就知道了：

-	aardvark	...	computer	data	pinch	result	sugar
apricot	0	...	0	0	1	0	1
pineapple	0	...	0	0	1	0	1
digital	0	...	2	1	0	1	0
information	0	...	1	6	0	4	0
...

这个表格是一个 $V\times V$ 的表格，每个数字表示当前列的单词出现在当前行单词后面的次数，这就构成了上下文，所以这个表格其实就是一个上下文矩阵，其中V就是总的词典的大小，也就是单词的数量。

我们取出每一行，就可以得到一个单词的向量表示，例如：

digital ------> [ 0,..., 2, 1, 0, 1, 0]
复制代码

同样的，这样的表示也是稀疏的。

Cosine计算相似度

现在我们已经有文档或者单词的向量表示了，那么该如何计算它们之间的相似度呢？一个很常见的方法就是余弦相似度(Cosine similarity)。

学过高中数学就知道，两个向量的**点积(dot-product)或者内积(inner product)**可以由以下公式计算：

\text{dot-produtc}(\overrightarrow{v},\overrightarrow{w}) = \sum_{i=1}^Nv_iw_i=v_1w_1+v_2w_2+\dots+v_Nw_N

而**向量的模(vector length)**为：

\vert\overrightarrow{v}\vert = \sqrt{\sum_{i=1}^Nv_i^2}

又:

\overrightarrow{a}\cdot\overrightarrow{b} = \vert{\overrightarrow{a}}\vert \vert{\overrightarrow{b}}\vert \cos\theta

即：

\cos\theta = \frac{\overrightarrow{a}\cdot\overrightarrow{b}}{\vert{\overrightarrow{a}}\vert \vert{\overrightarrow{b}}\vert}

所以，我们可以计算 $\overrightarrow{v}$ 和 $\overrightarrow{w}$ 的余弦值：

\cos(\overrightarrow{v},\overrightarrow{w}) = \frac{\overrightarrow{v}\cdot\overrightarrow{w}}{\vert{\overrightarrow{v}}\vert \vert{\overrightarrow{w}}\vert} = \frac{\sum_{i=1}^Nv_iw_i}{\sqrt{\sum_{i=1}^Nv_i^2}\sqrt{\sum_{i=1}^Nw_i^2}}

所以，两个向量的余弦值越大，它们越相似。

TF-IDF

接下来就要介绍TF-IDF了，首先解释一下这个词：

TF-IDF = Term Frequency - Inverse Document Frequency
复制代码

理解了名称，你就理解了一半！

那么什么是term-frequency呢？term-frequency就是单词在文档中出现的次数。

\text{tf}_{t,d} = 1+\log_{10}{\text{count}(t,d)} \quad\text{if }\text{count}(t,d) > 0 \quad\text{else } 0

那么什么是IDF呢？首先我们弄清楚DF(document frequency)。

$\text{df}_t$ 表示出现过这个单词的文档(document)的个数！

那么，IDF就是：

其中，N就是一个集合(collection)中的documents数量。

为了避免数值过大，通常会取对数：

\text{idf}_t = \log_{10}(\frac{N}{\text{df}_t})

至此，我们可以计算这个单词 $t$ 的tf-idf权值：

w_{t,d} = \text{tf}_{t,d}\times\text{idf}_t

此时，我们的第一个表格，就变成了：

-	As You Like It	Twelfth Night	Julius Caesar	Henry V
battle	0.074	0	0.22	0.28
good	0	0	0	0
fool	0.019	0.021	0.0036	0.0083
wit	0.049	0.044	0.018	0.022

到目前为止，上面的所有向量表示都是稀疏的，接下来要介绍一种**稠密的(dense)**的向量表示——word2vec！

Word2Vec

这个大家应该很熟悉了，应该算是NLP领域的标配了。

我之前写过一篇word2vec的笔记自己动手实现word2vec(skip-gram模型)，但是其实还是很粗糙。Tensorflow也有一个教程Vector Representations of Words，但是如果你没有一点基础的话，也还是有些概念难以理解。所以相对完整地理解word2vec，你需要结合多方面的资料。这个笔记在介绍斯坦福教材的同时，也会引入其他文章，做一些比较和思考，希望这个笔记能够给你带来相对全面的理解。

word embedding

首先我们解释一下词嵌入(word embedding)的概念。本小节之前的所有向量表示都是稀疏的，通常都是一个高维的向量，向量里面的元素大部分都是0。那么embedding有什么不一样的呢？

Embedding同样也是用一个向量来表示一个词，但是它是使用一个较低的维度，稠密地表示。

如果使用之前的稀疏表示，你可能会这样表示hello这个词语：

\text{hello} \longrightarrow \quad\underbrace{[0, 0, 0, 1, 2, 0,\dots, 0]}_{N个数}

那么，使用嵌入表示之后会是什么样子呢：

\text{hello} \longrightarrow \quad\underbrace{[0.012,0.025,0.001,0.078,0.056,0.077,\dots,0.022]}_{n个数，一般是100到500左右}

其中的差异一眼就看出来了。所以很明显，word embedding有好处：

不会造成维度爆炸，因为维度是我们自己设置的，通常比较小
向量是稠密的，不需要稀疏向量所采用的各种优化算法来提升计算效率

词嵌入理解了，那么什么是word2vec呢？其实就是把单词表示成固定维度的稠密的向量！说起来简单，但是也有很多小技巧的。

数据模型

假设我们有一个很大的文本语料，我们需要用这个语料来训练出单词的向量表示。那么该怎么训练呢？

当然你可能会想到基于计数的方式，就像前面几个小节一样，我们不说这个。

word2vec有两种常用的数据准备方式：

CBOW，用前后词(context words)预测目标词(target word)
skip-gram，用目标词(target word)预测前后词(context word)

使用tensorflow里面的例子：

the quick brown fox jumped over the lazy dog
复制代码

举个例子，假设我们的**窗口大小(window size)**是2，目标词选择fox。

如果是skip-gram模型，我们会这样准备数据：

(fox, quick)
(fox, brown)
(fox, jumped)
(fox, over)
复制代码

也就是一个目标词，我们可以构造出window_size个训练数据对。

如果是CBOW模型，我们会这样准备数据：

([quick brown jumped over], fox)
复制代码

看出其中的差异了吧？

总之，skip-gram和CBOW就是两个相反的数据模型。Learning Word Embedding有两张图可以分别表示两种模型的输入方式：

skip-gram模型

CBOW模型

数据模型应该清楚了。

与之前不同的是，word2vec并不关心相邻单词之前一起出现的频数，而是仅仅关心，这个单词是不是属于另一个单词的上下文(context)!也就是说，word2vec不关系根据这个词预测出的下一个词语是什么，而是只关心这两个词语之间是不是有上下文关系。

于是，word2vec需要的仅仅是一个二分类器：“这个单词是另一个单词的上下文单词吗？”

所以，要训练一个word2vec模型，我们其实是在训练一个二分类器。而二分类器，你肯定很容易就想到了Logistic Regression！关于逻辑回归，可以看我的另一篇笔记Logistic Regression。

实际情况，skip-gram用的比较多，因为有一个说法，CBOW模型在小的数据集上面表现不错，在大的数据集里，skip-gram表现更好。

神经语言模型

这里需要说明进一步说明一下。Tensorflow里面有关于**神经概率语言模型(nerual probability language model)**的描述。

传统的神经概率语言模型的训练通常是用**最大似然(maximum likelihood)**法则来最大化下一个词的softmax概率，基于前面的词，也就是：

P(w_t\vert h) = \text{softmax}(\text{score}(w_t,h)) = \frac{\exp{\text{score}(w_t,h)}}{\sum_{\text{w' in V}}\exp{\text{score}(w',h)}}

其中， $\text{score}(w_t,h)$ 其实就是 $w_t$ 和 $h$ 的点积(dot-production)。

那么这样训练模型的目标就是，最大化对数似然概率(log likelihood)：

J_{\text{ML}} = \log{P(w_t\vert h)} = \text{score}(w_t,h) - \log(\sum_{\text{w' in V}}\exp{\text{score}(w',h)})

那么这样会有什么问题吗？计算量太大了，因为在每一个训练步里，需要对词典里的每一个词，使用softmax计算出一个概率值！这个模型如下图所示：

正如前面所说，我们的word2vec并不需要一个完整的概率模型，我们只需要训练一个二分类器，从k个噪声单词(noise words)里面判别出正确的目标词(target words)。这k个噪声单词是随机选择出来的，这个技术叫做负采样(negative sampling)，因为选出来的一批词都是不是正确的target word。这个模型如下图所示：