How to learn self-evolving graph representations in dynamic graph analysis?

本文共计4496个文字，预计阅读时间需要18分钟。

《基于自注意力网络的动态图表示学习》链接：https://arxiv.org/abs/1812.09430摘要：本文提出了一种在动态图上利用自注意力网络的表示学习方法。结论：本文提出的方法通过使用自注意力网络的网络结构，用于在动态图学习上实现有效的表示学习。

4 Dynamic Graph Representation Learning Via Self-Attention Networks

link：arxiv.org/abs/1812.09430

Abstract

提出了在动态图上使用自注意力

Conclusion

本文提出了使用自注意力的网络结构用于在动态图学习节点表示。具体地说，DySAT使用（1）结构邻居和（2）历史节点表示上的自我注意来计算动态节点表示，虽然实验是在没有节点特征的图上进行的，但DySAT可以很容易地推广到特征丰富的图上。另一个有趣的方向是探索框架的连续时间泛化，以包含更细粒度的时间变化。

Figure and table

图1：DySAT的结构，采用了两个自注意力的结构，结构自注意力后接时序自注意力。黑色虚线表示新连接，蓝色虚线表示基于邻居的结构注意力

表1：数据集参数

表2：链接预测的sota（DynGEM在这确实不好 不过毕竟别人的卖点是稳定性）

图2：在不同时间步的表现对照

Introduction

照例提了一下将节点嵌入的方法效果不错，但是动态图有时间信息，前人的工作没有考虑时间信息或者只是用快照+时间正则化的的方法。

注意力机制在序列任务中获得了巨大成功。