深度图异常检测背景2

210 阅读4分钟

持续创作,加速成长!这是我参与「掘金日新计划 · 6 月更文挑战」的第2天,点击查看活动详情

Hello,非常感谢你的关注~ 我是机器学习与风控,一名末流985的本硕,无顶会、无大厂核心部门实习,拥有多个比赛的竞赛经历,秋招刷了leetcode500题,在秋招提前批中收获字节跳动,腾讯,阿里,美团等大厂offer,最终选择入职字节风控,从事与黑产对抗的工作。我会定期分享我的春招、秋招亲身求职体验;算法岗日常工作;数据挖掘比赛,经典图模型等日常学习等有料也有趣的内容~秋招到了,欢迎各位私信找我内推!

在传统的图表示学习方法中,基于因子分解的方法将矩阵分解以获得节点的
嵌入向量 [16, 17],矩阵可以是邻接矩阵也可以是拉普拉斯矩阵。与此同时,针对大
规模图数据,也出现了大量基于随机游走的技术,例如,DeepWalk 算法 [18] 通过
生成长度为 2k + 1 的多个随机游走,然后通过最大化共现概率的方法获得中心节
点的表示。Node2Vec[19] 与 DeepWalk[18] 相似, 在 Node2Vec 算法中, Node2Vec 实
现了有偏随机游走算法, 通过参数在广度 (BFS) 优先搜索和深度优先 (DFS) 搜索之
间提供一种比较平衡的方案。LINE[20] 认为应该考虑更多的近邻来丰富节点的表
示,LINE 用一阶邻居和二阶邻居刻画了相似关系,通过利用二阶邻居信息来对节
点本身信息的补充,补充一阶邻居的建模信息,去学习网络中节点的更好的嵌入
表示。
上述方法虽然可以学到图中的节点表示,但大部分都是基于线性或浅层神经
网络的表示,而现实世界中节点之间往往存在着非线性关系。由于深度神经网络
模型在提取数据中潜在的复杂模式方面表现出极为优越的性能,因此越来越多的
基于深度神经网络的方法应用于图的表示学习任务。其中,SDNE (Structural Deep
9

2.1 基于表示学习的图异常检测方法

2.2: 图卷积网络示意图
Network Embedding)[21]、DNGR(Deep Neural Networks for Learning Graph Represen-
tations)[22] 是基于深度学习的图表示技术的代表。SDNE 使用深度自动编码器共同
优化一阶和二阶邻近度来学习节点的嵌入表示,DNGR 将随机测量与深度自动编
码器结合学习节点表示。DNGR 和 SDNE 仅考虑与节点对之间的连通性有关的节点
结构信息,忽略了节点可能包含描述节点自身属性的特征信息。
为了同时建模属性和结构信息,图神经网络的概念在 [23] 中首次提出,图神
经网络在深度神经网络模型基础上进一步处理以图的形式表示的数据。图2.2显示
了图卷积网络架构 [2],邻接矩阵以及特征通过卷积层汇聚和聚合的后更新节点表
示,然后将最后一层的向量用于图分析等任务。近年来,随着注意力机制在越来越
多的领域取得成功,图注意力网络 [24–26] 也得到了广泛的关注。与图卷积网络平
等的看待节点邻居不同,图注意力网络通过计算邻居和中心节点的相似性从而得
到邻居相对于节点的重要性分数,最后通过加权的聚合函数获得中心节点的最终
表示。
基于图神经网络的表示学习方法能够有效的同时编码属性和结构信息,取得
了巨大的成功,但是图神经网络对表示学习过程和任务目标一起进行端到端的优
化,这些模型往往需要节点分类等下游有标签的监督信息指导模型训练,此外,下
游任务的监督信号促使模型学习到的表示只适用于当前任务,对于其它任务并不
那么有效。

\