单词one-hot 编码 理解

每个单词与一个唯一的整数索引相关联, 然后将这个整数索引 i 转换为长度为N的二进制向量(N是词表大小),这个向量只有第 i 个元 素是 1,其余元素都为 0。

用 python 实现单词级的 one-hot 编码

重要理解

samples = ['The cat sat on the mat.', 'The dog ate my homework.']
results = np.zeros(shape=(len(samples),max_length,max(token_index.values()) + 1))
results[i, j, index] = 1.

samples 按单词划分后是 2 行 max_length 列的,也就对应的是results的i行 j列。

第三维中 , 词表大小为 max(token_index.values()) + 1)且 第index 位置 1

用 Keras 实现单词级的 one-hot 编码

上面的分词与构建单词索引的过程 函数化

在这里插入图片描述

在这里插入图片描述

猜你喜欢

转载自blog.csdn.net/dihe874981/article/details/84888305