一文了解图神经网络()

导读:图神经网络,科技网络热词!!!


研究背景

传统的深度学习方法被应用在提取欧氏空间数据的特征方面取得了巨大的成功,但许多实际应用场景中的数据是从非欧式空间生成的,传统的深度学习方法在处理非欧式空间数据上的表现却仍难以使人满意。例如,在电子商务中,一个基于图(Graph)的学习系统能够利用用户和产品之间的交互来做出非常准确的推荐,但图的复杂性使得现有的深度学习算法在处理时面临着巨大的挑战。这是因为图是不规则的,每个图都有一个大小可变的无序节点,图中的每个节点都有不同数量的相邻节点,导致一些重要的操作(例如卷积)在图像上很容易计算,但不再适合直接用于图。此外,现有深度学习算法的一个核心假设是数据样本之间彼此独立。然而,对于图来说,情况并非如此,图中的每个数据样本(节点)都会有边与图中其他实数据样本(节点)相关,这些信息可用于捕获实例之间的相互依赖关系。

 基本概念

1. 什么是图

     图一般可由一个有序的二元组表示G=(V,E),其中V称为顶集,E称为边集,顶集的元素被称为顶点(或节点),边集的元素被称为边。节点的度为与其直接相邻的节点个数。如图1所示,按照节点之间的相互影响关系,图可分为以下三类:有向图、无向图、权重图。

图1 图的三种分类

图可以用来表示物体与物体之间的关系,例如:化学分子、通信网络、社交网络等。区别于传统机器学习中[特征,标签]的数据格式,用图来表示的数据称为图数据,它除了包含各节点的特征以外还包含各节点之间的交互关系。

2. 图神经网络

    一般来说,针对一个分类或者拟合任务,能将图数据作为输入的神经网络称为图神经网络。在图神经网络中,根据具体任务的不同需要,既可以将整个图作为一个数据样本,也可以将图中的每一个节点作为一个数据样本。例如:图2中,将整个分子式作为一个样本,训练一个图神经网络分类器,预测未知分子式的样本标签;在图3中将图中每个节点作为一个样本,根据已知节点的标签和各节点之间的相互关系,训练图神经网络预测未知节点的标签。

图2 图层面的模型

图3 节点层面的模型

实现方法

      图神经网络的建模思想来源于卷积神经网络,其共同点是在特征提取的过程中不仅考虑自身的特征同时考虑其邻域的特征并进行聚合,从而实现高效的特征提取。一般来说,图神经网络的建模方法有两种:基于空域图卷积的方法和基于谱域图卷积的方法。

1. 空域图卷积

图4 空域图卷积

      空域图卷积的核心思想是在特征提取过程中聚合领域的信息,而根据聚合方法的不同,衍生出不同种类的图神经网络。在NN4G(Neural Networks for Graph)中,各节点将与其相邻节点的特征经过矩阵变换后直接加到自身特征上,从而得到下一层的图网络。NN4G中每个节点只考虑了与其直接相邻(距离为1)的节点,而在DCNN(Diffusion-Convolution Neural Network)中,每个节点同时考虑与其距离为1、2、...K的节点。NN4G和DCNN中,每个节点对其相邻的节点都是同等考虑的(即在聚合过程中赋予相同的权重),MoNET(Mixture Model Networks)中,两个节点之间的权重由这两个节点的度决定,这样就能更加充分的利用图结构的信息。在GAT(Graph Attention Networks)中,引入了注意力机制,两个节点之间的权重由这两个节点的特征产生。GIN(Graph Isomorphism Network)统一了上述基于空域图卷积的图神经网络,其表示空域图卷积的核心思想是每个节点的特征与其相邻节点特征的聚合,并提出了设计图神经网络需要遵循的几个准则。

1)自身节点特征的权重需要与相邻节点的特征的权重不同,从而区别自身与其邻域;

2)在聚合过程中需要对所有领域节点的特征进行求和,而不是求最大值或者求平均;

3)聚合后需要用一个多层感知器做特征提取而不是用一个单层的全连接网络。

2. 谱域图卷积

    图卷积神经网络GCN(Graph Convolution Network)通过对节点的特征和所设计的图滤波器分别做傅里叶变化,两者相乘之后,再做傅里叶反变换,实现卷积神经网络中的卷积操作,这为图神经网络的有效性提供了很强的理论支持。尽管这个理论证明过程十分复杂,GCN的形式却非常简洁,只需要再对每个节点做矩阵变化之后乘上一个固定的图滤波器(该滤波器只与图的结构有关),就能实现图卷积操作。

图5 谱域图卷积

总结

      图神经网络(GNN)的适用范围非常广泛,既可以处理具有显式关联结构的数据,如药物分子、电路网络等,也可以处理具有隐式关联结构的数据,如图像、文本等。近年来,GNN被用于解决各行各业的问题,如生物化学领域中的分子指纹识别、药物分子设计、疾病分类等,交通领域中对交通需求的预测、对道路速度的预测,计算机图像处理领域中的目标检测、视觉推理等,自然语言处理领域中的实体关系抽取、关系推理等。

相关论文

1. Micheli A. Neural network for graphs: A contextual constructive approach. IEEE Transactions on Neural Networks, 2009, 20(3): 498-511.

2. Atwood J, Towsley D. Diffusion-convolutional neural networks. Advances in neural information processing systems, 2016.

3. Li Y, Yu R, Shahabi C, et al. Diffusion convolutional recurrent neural network: Data-driven traffic forecasting. arXiv preprint arXiv:1707.01926, 2017.

4. Veličković P, Cucurull G, Casanova A, et al. Graph attention networks. arXiv preprint arXiv:1710.10903, 2017.

5. Monti, Federico, et al. "Geometric deep learning on graphs and manifolds using mixture model cnns." Proceedings of the IEEE conference on computer vision and pattern recognition. 2017.

6. Wu Z, Pan S, Chen F, et al. A comprehensive survey on graph neural networks. IEEE transactions on neural networks and learning systems, 2020, 32(1): 4-24.

7. 刘忠雨,李彦霖,周洋,深入浅出图神经网络:GNN原理解析,机械工业出版社,2019

 感谢大家对文章的喜爱,扫码加微

免费获取人工智能学习资料

有【技术解答、学习路线、论文指导、做项目、竞赛等】问题,可联系计算机博士唐宇迪为你解疑答惑

AI学习资料包,内含:

①人工智能课程及项目【含课件源码】

②人工智能必看优质书籍电子书汇总

③国内外知名精华资源

④优质人工智能大纲

⑤人工智能行业报告

⑥人工智能论文合集

感谢大家的喜欢和关注记得(点赞、收藏、转发)

猜你喜欢

转载自blog.csdn.net/Java_college/article/details/124670560