1.视频网站:mooc慕课https://mooc.study.163.com/university/deeplearning_ai#/c
2.详细笔记网站(中文):http://www.ai-start.com/dl2017/
3.github课件+作业+答案:https://github.com/stormstone/deeplearning.ai
第二周 自然语言处理与词嵌入 NLP and Word Embeddings
- 2.1 词汇表征 Word representation
- 2.2 使用词嵌入 Using word embeddings
- 2.3 词嵌入的特性 Properties of word embeddings
- 2.4 嵌入矩阵 Embedding matrix
- 2.5 学习词嵌入 Learning word embeddings
- 2.6 Word2Vec
- 2.7 负采样 Negative sampling
- 2.8 GloVe 词向量 GloVe word vectors
- 2.9 情绪分类 Sentiment Classification
- 2.10 词嵌入除偏 Debiasing Word Embeddings
自然语言处理与深度学习是特别重要的组合。使用词向量表示和嵌入层,可以训练在各种行业中表现出色的循环神经网络。应用程序示例包括情绪分析、物体识别和机器翻译。
2.1 词汇表征 Word representation
2020-10-29 吴恩达DL学习-C5 序列模型-W2 自然语言处理与词嵌入(2.1 词汇表征-为什么要学习或者使用词嵌入 )
2.2 使用词嵌入 Using word embeddings
2020-10-30 吴恩达DL学习-C5 序列模型-W2 自然语言处理与词嵌入(2.2 使用词嵌入–词嵌入的迁移学习)
2.3 词嵌入的特性 Properties of word embeddings
2020-11-2 吴恩达DL学习-C5 序列模型-W2 自然语言处理与词嵌入(2.3 词嵌入的特性-类比推理/余弦相似度)
2.4 嵌入矩阵 Embedding matrix
2020-11-3 吴恩达DL学习-C5 序列模型-W2 自然语言处理与词嵌入(2.4 嵌入矩阵-嵌入矩阵E乘以one-hot向量O=嵌入向量e)
2.5 学习词嵌入 Learning word embeddings
2020-11-4 吴恩达DL学习-C5 序列模型-W2 自然语言处理与词嵌入(2.5 学习词嵌入-语言模型问题,输入一些上下文,例如目标词的前4个词然后预测出目标词)
2.6 Word2Vec
2020-11-5 吴恩达DL学习-C5 序列模型-W2 自然语言处理与词嵌入(2.6 Word2Vec-Skip-Gram模型,缺点-分级softmax的计算成本非常昂贵)
2.7 负采样 Negative sampling
2020-11-9 吴恩达DL学习-C5 序列模型-W2 自然语言处理与词嵌入(2.7 负采样-1个正采样和K个负采样生成训练集,解决softmax计算量大问题)
![](/qrcode.jpg)
2.8 GloVe 词向量 GloVe word vectors
2020-11-10 吴恩达DL学习-C5 序列模型-W2 自然语言处理与词嵌入(2.8 GloVe 词向量-定义c和t为任意两个位置相近的单词,将他们之间的差距进行最小化处理)
2.9 情绪分类 Sentiment Classification
2020-11-11 吴恩达DL学习-C5 序列模型-W2 自然语言处理与词嵌入(2.9 情绪分类-使用RNN模型,考虑词序)
2.10 词嵌入除偏 Debiasing Word Embeddings
2020-11-12 吴恩达DL学习-C5 序列模型-W2 自然语言处理与词嵌入(2.10 词嵌入除偏)
课后编程1
2021-1-9 吴恩达-C5 序列模型-w2 自然语言处理与词嵌(课后编程1-Operations on word vectors 词向量运算-含UnicodeDecodeError解决)