【七日打卡】-2 图神经网络相关论文汇总

351 阅读3分钟

图是一种能够有效且抽象地表达信息和数据中实体之间的关系的数据结构,图结构被广泛地运用在计算机领域中数据存储、检索等领域。社交网络、交易网络等都能够使用图结构表示。近年来深度学习方法在欧几里得数据上有广泛的应用,而图作为非欧几里得数据在深度学习中的应用开始受到更多的关注,新的图神经网络模型不断被提出。图神经网络(Graph Neural Network)的研究主要集中在图中相邻节点信息的传播和聚合上。受到计算机视觉领域卷积网络的启发,针对图数据的卷积网络也不断被提出。本文将简单地汇总图神经网络的经典方法和研究。

2013年,基于图论的图卷积神经网络[1]被提出,图卷积神经网络开始吸引大量学者关注。图卷积网络可以分为两大类:基于谱的和基于空间的。基于谱的图卷积神经网络从图信号处理的角度引入滤波器来定义图卷积,主要方法包括GCN[2]、ChebNet[3]。GCN将传统的卷积算法运用在图结构数据的处理上,关注以某一结点位中心,K阶邻居之内的信息。2019年,SGC[4]被提出,该方法消除了GCN层之间的非线性,将非线性的GCN转变为一个简单的线性模型,减小了模型复杂度,在很多任务上比GCN更加高效。基于空间的图卷积神经网络将图卷积表示为从邻域聚合特征信息,如GraphSAGE[5],它通过学习一个对邻居节点进行聚合表示的函数来产生中心节点的特征表示,能在超大规模图上利用节点属性信息高效产生未知节点特征表示的归纳式学习框架。为了解决图神经网络聚合邻居节点的时候没有考虑到不同的邻居节点重要性不同的问题,GAT[6]引入注意力机制,给节点之间的边给予重要性,帮助模型学习结构信息。

论文列表

[1]Bruna, J., Zaremba, W., Szlam, A. and LeCun, Y., 2013. Spectral networks and locally connected networks on graphs. ICLR, 2013.

[2]Kipf T N, Welling M. Semi-supervised classification with graph convolutional networks[J]. arXiv preprint arXiv:1609.02907, 2016.

[3]Tang S, Li B, Yu H. ChebNet: Efficient and Stable Constructions of Deep Neural Networks with Rectified Power Units using Chebyshev Approximations[R], 2019. arxiv.org/pdf/1911.05….

[4]Wu F, Zhang T, Souza Jr A H de, et al. Simplifying graph convolutional networks[J]. arXiv preprint arXiv:1902.07153, 2019.

[5]Hamilton W, Ying Z, Leskovec J. Inductive representation learning on large graphs[C] //. Advances in neural information processing systems, 2017: 1024–1034.

[6]Veličković P, Cucurull G, Casanova A, et al. Graph attention networks[J]. arXiv preprint arXiv:1710.10903, 2017.