lecture from 微软

介绍典型的自动问答系统，包括基于知识库的自动问答（KB-QA）、基于文本的问答（Text-QA）和基于FAQ的问答（Community-QA）等。此外，还会对本次大赛问答任务中涉及到的技术做简要说明。

基于自己学校的网站打造机器人，问题回复和信息抽取，做人机交互。包含很多功能和模块。

任务，方法，涉及到的问答方法作介绍并基于真实实例

系统基于给定的数据库，回答人类提出的问题。

问题类型：答案是实体，答案是定义，答案是yes/no，答案是意见，比较类问题

早期qa system是专业特定领域的，后来计算能力的飞跃，允许问答系统到开发领域

三大类：

基于知识的问答系统KBQA

系统的数据库是结构化的，但是知识库是一些实体之间的关系，实体之间的关系是以抽象的标签的形式存在的

关键是两点：一是能不能把问题中实际到的实体检测出，另一是问题中提到的实体的关系检测出来

应用：微软的必应bing，可以直接直接结构化的查寻，优点：直接拿到答案，节省用户去结果网页中进行信息再定位

从学校主页上挖掘主语+谓词+宾语（结构化的三元组），可以回答这样的问题：清华大学校长是谁，先做实体的识别，知识库中知识是以实体和关系来存储。实体识别：清华大学，上下文究竟提到的是关于实体的哪个关系的识别：校长关系，答案检索：<清华大学，校长，邱勇>

那么可是如何做基于给定问题的实体识别和关系识别：

从基本的方法开始，从一些百科类网站来获取实体名称，用上述的知识对输入的问题来标注，来标注问题中究竟提到了哪些关系。其他问题：同一实体有很多不同说法名称，一些细致的地方就要做一些扩展

关系识别：

一类是可以创造基于问题模板的关系识别方法（谁是什么什么创始人—>创始人。人工撰写拓展问题模板或者搜索日志中抽取。要问题模板很全才能完全覆盖）。

一类是创造基于关系关键字的方法，创办人–从其他地方抓取关键字都表示了创办人的意思。提示：如果有很多满足当前关系的实体对，可以去海量去文本中挖掘句子，这个句子的条件是同时包含了满足这个关系的某一个实体对。若两个实体出现在一个句子中，这两个实体间又在知识库中存在某关系，那这个句子的其他部分就在对知识库里的这个关系做陈述。通过类似方式来抓取一些知识库中关键多对应的不同的关键字来用于检测问的问题是提到知识库中的哪个关系

基于文档的问答系统DBQA

很多知识是无法经过人类整理编辑录入知识库的，哪怕是google的freebase也是不全面的。需要利用其他一些非结构化的知识，可以基于文档中的句子来进行搜索

应用：问题对应的搜索返回网页中包含的句子和段落很好的回答问的问题，直接就返回了结果

预选赛中的一个任务：给出了训练数据开发数据测试数据，训练数据给出了三元组，问题是同样的问题，七句话来自同一个篇章。第一列是答案标签，第六行是1：是答案，其他不是答案：是0。任务是：给你一个篇章再给一个问题，选出篇章中的一句来保证这是当前问题的答案。根据答案标签来训练问题答案句匹配模型，但是实际测试时只会给当前的篇章和问题，没有答案标签，要排序，排出最相关的一句话。

再比如校园机动车公告网页，第四句话是非常相关的，作为答案输出。对文档内容做处理。

提示：1、数数，重复的字词很多，就有问题答案关系

2、词向量。每个句子都可以转化成词向量，表示当前词的语言。然后看词向量上的距离

3、深度学习工具，做模型上的训练，使问题和正确答案相关性非常强，以实现答案抽取

基于社交型（问题答案对）问答形态FAQ search

像百度知道，奖励机制，点赞来提取出高质量的问题和答案对，用历史答案来回复现在的高相似度的问题。

应用：微软小冰，进入公众号后，索引整理该公众号的历史文章，用户会问文章中含有的问题（一般是多引擎协同工作），直接用历史文章中的答案对来回答

核心的目的是计算一个输入问题和历史问题的相似度，这就需要一个问题和问题的匹配模型。那么采用如何的训练数据来得到这样一个匹配模型。像百度知道这样来抽取训练数据，页面中会有一堆其他类似问题，即重新定向到历史问题。有这样的问题和相似问题的数据之后就可以训练一个模型，给一个分数来表明两个问题的相似度。

计算相似度是一个语义理解的问题，这是nlp中的最核心问题。概念：有一些方式根据相似数据做模型，如一个词缀对齐。

第二类是同义词和近似词表，另外海量的翻译数据，对翻译数据进行对其之后，一个现象：如果源语言端的两个词或者短语对应的反义词是相同的，则这两个源语言是近似的。同义词的信息抽取

第三类是有了相似问题的海量数据之后，可以用深度学习或者是神经网络模型来做一个模型。概要性解释：把每一个问题转化成一个n维或者是1000维向量，每一个维度都是实值，人觉得是一千个数字，但是机器觉得1000维数字来对问题来编码来保证语意相同的两个句子在向量空间距离上是非常近的。给工具包，看说明

一些工具包
中文分词
词向量
句子向量
语言理解

最后的是去年的评测比赛提供的两个的基准的问答系统的实例。虽然系统非常简单，但可以以此为基础进行扩展

如何建立面向任务的自然语言理解模型

人工智能助理（AI Bot）的一个重要部分是自然语言理解模型。本课程将介绍面向任务的自然语言理解模型，以及如何利用微软认知服务的自然语言理解智能服务（LUIS）快速开发应用合适的模型

什么是面向任务的自然语言理解模型

三大特点：通过自然语言交互、完成特定的任务、具备一定知识和推理的能力

举例：

通过自然语言交互：首先制定会议对应一个功能，team包含一组人，时间地点。慢慢拆解每个句子部分

转入到meeting的功能：四个会议的要素

myteam：office graph

相对时间：根据测算

地点：

对于面向任务的自然语言bot，他们的模型是两大步

第一步：叫做intent，就是理解用户需要我们做什么。倒过来想，能帮用户做什么。

第二步叫entity，在那句话中给了我们哪些参数。或者说需要哪些参数

两部分解决方法

基于规则：像正则表达式，去纂写规则。当手头上并没有用户数据（冷启动）。成长困难，用户负责性变多，管理这些规则是很难的，尤其是协作、管理数据、标定数据。

基于数据：应用机器学习算法，用数据来学习对应的模型，更可持续

机器学习算法用于自然理解模型中可用于两部分

大专栏编程之美lectureg" alt=""/>

intent：文本分类问题。线性模型、逻辑回归、cnn、lstm

entity：从一句话中找到相应段落。然后给它一个语义标签。可以变成一个序列标注问题。条件随机场，dl中crf的算法

但是我们今天讲的是基于数据的解决方案

LUIS

介绍下：这是个平台化的机器学习解决方案，简答易上手

通过内建减少feature上花费的时间，高阶语言的表示。两个常用特征：entity的列表和正则表达式

基本工具：解析时间、标注器、很多领域的工具

suggestion：通过主动学习

demo

先登录，跳转到my apps，点new apps。dashboard，放了常见信息。

点开intent，增加新的:查考分

输入一些utterance：如计算机系的录取分数线是多少，然后save。所以同时想到要在entity那里加一个“院系”。然后回到utterance，把计算机系这几个字框住，然后标注为院系，save。就形成了一句标注的语句。

previous entity中有些时间年龄之类的內建。通过这种方式不停的去加训练数据。

再来看list feature，提供列表。给一个值之后有更多类似值推荐。

点train application就开始训练。然后就可以测试了。

下一步就是发布，endpoint key选luistest，然后点publish，拿到一个url。通过get拿到结果

add flag勾上，timezone可以解决相对时间passing的问题，在postman中测试

再看看一个正常的bot（可以直接import dataset）

batch testing里面增加数据集

dashbroad里面的suggested utterance：
通过发布的链接进来的所有的句子都会通过一个模块，推荐到这。选择一个模型，如capacity，然后相对应的句子加入到utterance单元中去

通常这样做会得到一个更好的模型

经验总结

1、兵无常势
针对具体的任务选择规则还是数据
或者是两者的结合

2、循序渐进

3、三思而行

框架中具体的细节决定成败：模型方面、数据方面、如何交互、如何提示，简单易用和足够聪明

1.介绍微软Bot Framework 的配置以及如何用Bot Framework SDK开发对话聊天机器人。2.介绍如何使用Bot Framework中的QnA Maker开发问答聊天机器人。3.介绍如何使用Bot Framework讲自己开发的聊天机器人发布到多个聊天工具中。4.用实际案例帮助大家熟悉Bot Framework的使用以及在开发过程中需要注意的问题。

Bot Framework开发框架，帮助开发者快速有效开发