苏黎世联邦理工学院最新图神经网络综述,回顾过平滑问题

874次阅读
没有评论

苏黎世联邦理工学院最新图神经网络综述,回顾过平滑问题

图神经网络(GNNs)的节点特征随着网络深度的增加而趋向于变得更加相似。这种现象被称为过度平滑(over-smoothing),我们公设其为合适相似度度量上的指数收敛,从而统一了之前的方法,并提出了新的过度平滑的量化度量方法。此外,我们在不同规模的图上进行了多个过度平滑度量的实证研究,展示了这种现象的发生。我们还回顾了几种缓解过度平滑的方法,并在真实的图数据集上对它们的有效性进行了实证测试。通过例证,我们演示了缓解过度平滑是构建深层GNNs在广泛的图学习任务上表达性的必要但不充分条件。最后,我们将过度平滑的定义扩展到快速崛起的连续时间GNNs领域。

论文地址:https://arxiv.org/abs/2303.10993

作者:Konstantin Rusch, Michael M. Bronstein, Siddhartha Mishra

苏黎世联邦理工学院最新图神经网络综述,回顾过平滑问题

苏黎世联邦理工学院最新图神经网络综述,回顾过平滑问题

苏黎世联邦理工学院最新图神经网络综述,回顾过平滑问题

 

正文完
可以使用微信扫码关注公众号(ID:xzluomor)
post-qrcode
 
评论(没有评论)
Generated by Feedzy