Michael Brostein 最新几何深度学习综述:超越 WL 和原始消息传递的 GNN
数据派THU
共 9954字,需浏览 20分钟
·
2022-03-19 00:12
![](https://filescdn.proginn.com/a53942ff4fb8ab3a3f24b5fff86ac879/a0cd6edd2c2d64a61f55d4295f81719c.webp)
来源:AI科技评论 本文约8500字,建议阅读15+分钟
本文叫你如何突破基于 WL 测试和消息传递机制的 GNN 的性能瓶颈。
![](https://filescdn.proginn.com/c10cfc2add393f736b5a88aef59183fc/76a7defe4069ed6f17cc7cb2a805eec0.webp)
图注:通过图对复杂系统的关系、交互进行抽象。例如,「分子图」中构成分子的原子至今的化学键,「社交网络」中用户之间的关系和交互,「推荐系统」中用户和商品之间的联系。
![](https://filescdn.proginn.com/c6ae00f07f1c70a45ac7ed0132578b57/3149a126e4f3f69fa0bfa5f3408c5d78.webp)
图注:GNN 的三种风格——卷积、注意力和广义非线性信息传递风格,它们都是消息传递的表现形式。
![](https://filescdn.proginn.com/30aaa7e845c5ec2c0bd08e1d231db8c9/36e848facee3731fbbc81fd0a8bb650d.webp)
图注:WL 测试就好比在没有地图的情况下走进迷宫,并试图理解迷宫的结构。位置编码提供了迷宫的地图,而重连则提供了一个越过「墙壁」的梯子。
![](https://filescdn.proginn.com/c0cc57ededf041f9bbd2737e5a6880b0/d634850d67fbf42a931a5c0545e413ef.webp)
图注:十氢化萘(左)和二环戊基(右)有不同的结构,但我们无法通过 WL 测试区分它们。
![](https://filescdn.proginn.com/8032993376fc98d962060861c2ce6b1c/1cef1685d63f76809d2b7c281cad4a56.webp)
![](https://filescdn.proginn.com/b07dc2410a555ef852a34ceed54fa6f8/da8c4fb518fbdc90772012466baaf122.webp)
![](https://filescdn.proginn.com/1274463a11eea6a9c3e58ac1ff13116b/11ef8ebe28c94d740694023c7f7c56da.webp)
![](https://filescdn.proginn.com/1eb0ba96c16817852344a424efed258d/1d8fb7f47d4dceeecc933eef5f2f22d8.webp)
![](https://filescdn.proginn.com/63221f4b0d9aa8b07f1aa426c96ca19e/4346fe3097cc4e0129087abe11f3e052.webp)
![](https://filescdn.proginn.com/8aa312320a2b6aa869ae21ada5ecbf45/7341bbde498987ccc6c0abde9522db10.webp)
图注:不同的「可解释」GNN 模型——图解释器、潜图学习、等变消息传递。
![](https://filescdn.proginn.com/869997294d693c57ae3193bc243e2a1c/e73295aeda2c6580b7918e6f33c0b056.webp)
![](https://filescdn.proginn.com/6f70e19207cdd3db280ff798f2544600/23399c035daa70df1ce4ee535fdca4b6.webp)
![](https://filescdn.proginn.com/6fce45d99108b5cac4905772c4c51bf3/07481656adaff59a1e8272bfdfce2d95.webp)
![](https://filescdn.proginn.com/bb4875e170e0bda64662f00b47b8845d/5140744d4965700a77657e94b8ff1140.webp)
![](https://filescdn.proginn.com/1e10d8bfb71325c75b2ac510c8659abc/536c179165f2c765167b82c88d875475.webp)
![](https://filescdn.proginn.com/cf590ff6fc758cae0d12b62ca37a9aaf/dbd3229a5d3a8b47e2977d03535fb635.webp)
![](https://filescdn.proginn.com/c9c972e7b412df70c426e61825f5c78b/74b083a4ccd04f9bb3b66fb6cb42ecb6.webp)
![](https://filescdn.proginn.com/5b8f9059e8280152837d103c5dfb8519/0af829c66b6083aedab46d44626fee27.webp)
![](https://filescdn.proginn.com/70661849a56522ad8c3035afe91cf576/26948862dc5ade9f0f601139b143f51a.webp)
评论