课程向:深度学习与人类语言处理 ——李宏毅,2020 (P18)

经典伟大的语言模型,从传统的语言模型 到 ELMO、BERT、GPT
分类: 其他 发布时间: 09-26 11:25 阅读次数: 0

课程向:深度学习与人类语言处理 ——李宏毅,2020 (P19)

预训练模型的定义、发展到微调
分类: 其他 发布时间: 09-26 11:25 阅读次数: 0

课程向:深度学习与人类语言处理 ——李宏毅,2020 (P20)

预训练模型有关概念与技术:BERT、XLNet、MASS/BART、UniLM、 ELECTRA
分类: 其他 发布时间: 09-26 11:25 阅读次数: 0

课程向:深度学习与人类语言处理 ——李宏毅,2020 (P21)

指代消解问题的定义、端到端训练的模块和简化运算以及前沿研究等
分类: 其他 发布时间: 09-26 11:25 阅读次数: 0

课程向:深度学习与人类语言处理 ——李宏毅,2020 (P22)

条件生成领域,将从三个方面进行讲解 :Generation 怎么产生一个有结构的东西,Attention 产生结构的辅助,Tips for Generation 一些生成任务的技巧
分类: 其他 发布时间: 09-26 11:25 阅读次数: 0

课程向:深度学习与人类语言处理 ——李宏毅,2020 (P23)

非自回归模型 的序列生成,将讲述有关问题、实现方法、和模型结构
分类: 其他 发布时间: 09-26 11:25 阅读次数: 0

课程向:深度学习与人类语言处理 ——李宏毅,2020 (P24-1)

Text Style Transfer 文字风格转换的实现与模型架构,以及在使用无监督学习方法做文字风格转换时会遇到的问题,解决方法等。
分类: 其他 发布时间: 09-26 11:25 阅读次数: 0

空气质量指数月统计历史数据爬取

不到20行代码爬取 空气质量指数月统计历史数据爬取
分类: 其他 发布时间: 09-26 11:25 阅读次数: 0

课程向:深度学习与人类语言处理 ——李宏毅,2020 (P24-2)

无监督的 Summarization 摘要 、Translation 翻译 和 ASR 语音辨识 的实现与方法
分类: 其他 发布时间: 09-26 11:25 阅读次数: 0

课程向:深度学习与人类语言处理 ——李宏毅,2020 (P25)

多语种BERT的神奇之处,零样本学习的跨语言学习能力以及有关猜想和实验。
分类: 其他 发布时间: 09-26 11:25 阅读次数: 0

课程向:深度学习与人类语言处理 ——李宏毅,2020 (P26)

本篇 Constituency Parsing 成分句法分析将讲解任务的基本概念、训练目标以及常用的两种解法,和深度学习在这些解法中的使用。
分类: 其他 发布时间: 09-26 11:25 阅读次数: 0

课程向:深度学习与人类语言处理 ——李宏毅,2020 (P27)

本篇,依存句法分析:找出句子中词的依赖关系。我们将学到依存句法分析的基本概念:关系、依存句法树和抽象化的训练任务,以及与成分句法分析类似的方法等。
分类: 其他 发布时间: 09-26 11:25 阅读次数: 0

课程向:深度学习与人类语言处理 ——李宏毅,2020 (P28-1)

过去自监督学习在语音中的应用,主要分为两大类:CPC和APC,两类是根据不同的损失函数划分的
分类: 其他 发布时间: 09-26 11:25 阅读次数: 0

课程向:深度学习与人类语言处理 ——李宏毅,2020 (P17) -2

从本篇其将进入与文字有关的任务,也就是大家所熟知的NLP任务,请注意本篇类似科普类,不涉及任何技术模型等,可以用来归纳总结,而且李宏毅老师的分类清晰有序,还是很值得参考的。在本篇中,我们将讲述**NLP任务概述**,虽然NLP应用非常广泛、模型变化多端,但是总归起来来说,不脱以下几个变化:文字->类别、文字->文字
分类: 其他 发布时间: 09-26 11:25 阅读次数: 0

课程向:深度学习与人类语言处理 ——李宏毅,2020 (P28-2)

BERT在语音上的应用,主要有三大类:wav2vec、SLU BERT、Mockingjay,以及语音BERT的前沿研究热点。
分类: 其他 发布时间: 09-26 11:25 阅读次数: 0

课程向:深度学习与人类语言处理 ——李宏毅,2020 (P29)

语音方面前沿的AALBERT的有关内容
分类: 其他 发布时间: 09-26 11:25 阅读次数: 0

课程向:深度学习与人类语言处理 ——李宏毅,2020 (P30)

Question Answering QA问题的学习,本篇将介绍QA中Question 答案和 Source 来源的种种,下一篇将是有关问题的部分。
分类: 其他 发布时间: 09-26 11:25 阅读次数: 0

课程向:深度学习与人类语言处理 ——李宏毅,2020 (P31)

P30中介绍QA中Question 答案和 Source 来源的种种。而在本篇P31中将学习Question问题的部分,将会从三大经典问题讲起,以及它们可能的解法。
分类: 其他 发布时间: 09-26 11:25 阅读次数: 0

课程向:深度学习与人类语言处理 ——李宏毅,2020 (P32)

我们将学习来自“暗黑大陆的模型”——GPT-3,将学习到GPT-3的目标、实验结果、瑕疵和有趣的BUG
分类: 其他 发布时间: 09-26 11:25 阅读次数: 0

课程向:深度学习与人类语言处理 ——李宏毅,2020 (P33)

聊天机器人中的对话控制的挑战、设定、解决方法和下一步的研究重点等。
分类: 其他 发布时间: 09-26 11:25 阅读次数: 0