小知识,大挑战!本文正在参与“ 程序员必备小知识 ”创作活动
本文同时参与 「掘力星计划」 ,赢取创作大礼包,挑战创作激励金
Wang P, Fu Y, Xiong H, et al. Adversarial substructured representation learning for mobile user profiling[C]//Proceedings of the 25th ACM SIGKDD International Conference on Knowledge Discovery & Data Mining. 2019: 130-138.
和上一篇文章的基础,利用了一些核心技术,看起来很有启发。
关注的问题是移动用户的表示学习。
背景介绍 移动用户画像是从移动行为数据中提取用户的兴趣和行为模式。虽然已经为移动用户分析做出了一些努力,但可以通过具有用户行为图中子结构意识的表示学习来改进现有方法。具体而言,在本文中,我们研究了使用 POI 签到数据进行移动用户分析的问题。为此,我们首先构建一个图,其中一个顶点是一个 POI 类别,一条边是一个用户在两个 POI 类别之间的转换频率,来表示每个用户。然后,我们将移动用户分析制定为从用户行为图中学习表征的任务。我们后来为该任务开发了一个深度对抗性子结构化学习框架。这个框架有两个相互增强的组件。第一个组件是保留整个图的结构,它被表述为编码-解码范式。特别地,通过最小化原始图和重构图之间的重构损失来保留整个图的结构。第二个组成部分是保留子图的结构,它被制定为基于对抗训练范式的子结构检测器。特别是,这个范式包括一个子结构检测器和一个对抗训练器。我们没有使用不可微的子结构检测算法,而是预先训练一个可微的卷积神经网络作为检测器来逼近这些检测算法。对抗训练器将重构图的检测子结构与原始图的检测子结构进行匹配。此外,我们为优化问题提供了有效的解决方案。此外,我们利用学习到的用户表示进行下一个活动类型预测。最后,我们展示了大量的实验结果来证明所提出方法的改进性能。移动用户配置文件是用户特定移动活动特征的总结。移动用户画像是从移动行为数据中提取用户的兴趣和行为模式。虽然已经为移动用户分析做出了一些努力,但可以通过具有用户行为图中子结构意识的表示学习来改进现有方法。具体而言,在本文中,我们研究了使用 POI 签到数据进行移动用户分析的问题。为此,我们首先构建一个图,其中一个顶点是一个 POI 类别,一条边是一个用户在两个 POI 类别之间的转换频率,来表示每个用户。然后,我们将移动用户分析制定为从用户行为图中学习表征的任务。我们后来为该任务开发了一个深度对抗性子结构化学习框架。这个框架有两个相互增强的组件。第一个组件是保留整个图的结构,它被表述为编码-解码范式。特别地,通过最小化原始图和重构图之间的重构损失来保留整个图的结构。第二个组成部分是保留子图的结构,它被制定为基于对抗训练范式的子结构检测器。特别是,这个范式包括一个子结构检测器和一个对抗训练器。我们没有使用不可微的子结构检测算法,而是预先训练一个可微的卷积神经网络作为检测器来逼近这些检测算法。对抗训练器将重构图的检测子结构与原始图的检测子结构进行匹配。此外,我们为优化问题提供了有效的解决方案。此外,我们利用学习到的用户表示进行下一个活动类型预测。最后,我们提出了广泛的实验结果,以证明所提出方法的改进性能。
1.主要贡献
1.用户活动建模成图
2.发现了子结构的重要性
3.如何把子结构的信息表示出来?自编码器保留全局的结构信息。子结构检测器。对抗的训练器融合子结构正则化项。
4.传统的子结构检测在训练的时候不可分的,训练了卷积神经网络检测。
2. Preserving Entire-Structures
保留图的完整信息。自编码器。
3.Approximating Substructure Detector
要想检测一个图的重要子结构,可以用传统的搜索算法,但是这些算法在深度学习里是不可分的,所以作者学习了一个神经网络来检测图的子结构。
把检测的子结构的label当作标签去训练。。太秀了
4.Integrating Substructure Awareness via Adversarial Training
通过对抗训练融合子结构。
因为最终目的是想学习到一个好的表示,那么获得的z经过重构后得到的X',应该和原来的x具有相同的子结构,也就是判别器不可区分。
5.Solving The Optimization Problem
这篇文章考虑了2个子结构:圈和高频率的顶点。
总结:如果看了这篇论文再看aaai20的论文。就是把互信息用在了这里面,保证学习到的表示保留了子结构。
欢迎交流学习呀~