【论文阅读】Slot-Gated Modeling for Joint Slot Filling and Intent Prediction

版权声明：本文为博主原创文章，未经博主允许不得转载。 https://blog.csdn.net/u014568072/article/details/84327399

论文部分

Abstract

根据slot和intent之间的关系，提出了一种slot gate来学习intent和slot向量之间的关系，通过全局优化来获得更好地语义信息。

Introduction

由于slot通常高度依赖于intent，因此本工作重点介绍如何通过引入slot gate来建模slot和intent向量之间的显式关系：

• slot gated模型效果比基于注意力的模型具有更好的性能；
• 对两个SLU数据集的实验表明了所提出的slot gate的推广和有效性；
• gating表示有助于我们学习 slot-intent 之间的关系。

Proposed Approach

2.1 基于注意力机制的RNN模型

双向长短期记忆（BLSTM）模型将单词序列 $x=(x_1, x_2, ..., x_T)$作为输入，然后生成前向隐藏状态和反向隐藏状态，第 $i$个时间点的隐藏状态

2.2

实验部分

1. 代码下载：SlotGated-SLU

2. 环境要求：
   python3.5 + tensorflow1.4

3. 环境配置：

   • 安装虚拟环境：
     安装虚拟环境
     pip install virtualenv
     在当前目录下，创建虚拟环境目录，并指定python解释器。
     virtualenv -p /usr/bin/python3.5 tensorflow-py3.5
     激活虚拟环境
     source tensorflow-py3.5/bin/activate
     激活之后可以看到：
     

   • tensorflow下载安装：可以使用清华大学提供的镜像，选择相应的计算单元、操作系统、python版本、tensorflow版本进行下载安装，会自动生成安装命令。
     清华大学tensorflow镜像
     我使用的安装命令：
     pip install -i https://pypi.tuna.tsinghua.edu.cn/simple/ https://mirrors.tuna.tsinghua.edu.cn/tensorflow/linux/cpu/tensorflow-1.4.0-cp35-cp35m-linux_x86_64.whl

   • 安装完毕之后就可以根据readme里的Usage来运行程序了。