首页 > 其他分享 >GNN论文阅读笔记

GNN论文阅读笔记

时间:2024-01-29 23:01:11浏览次数:24  
标签:特征 标签 论文 Graph 笔记 拟合 GNN 节点

DOI10.1109/TNN.2008.2005605

任何数据都可以由一张图(Graph)表示, 图(Graph)是由一系列的点(vertex)与边(edge)的集合。

机器学习的目标是:拟合一个函数 τ(G, n) → Rm , 即映射图G与其中某一节点n成一个m-dim的实数向量。根据实际任务,这种拟合有所偏向,大体可分为两类:关注于图特征的拟合 与 关注于节点级特征的拟合; (虽然一个比较自然的想法是 图特征是节点特征的聚集表现, 节点特征是图特征的特殊延伸。)

因此 GNN 被提出了,作为两种拟合方法的一种合体, 它基于一种更广义的信息扩散机制。

节点上的 label 更重视其顶点上的固有属性, 而边上的 label 重视顶点对的相对关系,同时图的表示具有灵活性,所以节点可以异质,边也可以异质,图可以因其节点与边的特征变成有向图、符号图、超图……

结合上述的消息扩散机制,不难理解任何一个图都可以是几个不连通子图的集合,因此GNN的函数 τ(G, n) 可以被进一步表述成上式,注意 ti,j 是groundtruth,即真正的节点标签而非初始特征

消息传递机制的核心即为上式,从实际意义上来看,其表达的思想是:任何一个节点的高级标签(类似于embedding)是节点本身标签与节点邻居的标签信息的聚合,聚合方式是任意的,可以是参数化的,也可以是非参数化的,但一定是包含了其拓扑信息的(拓扑信息就是由节点邻居的标签信息所体现的)

值得一提的是上式初看是只关注节点特征的拟合,然而在信息不断被聚合的过程中,总存在某些图特征会在聚合过程中慢慢凸显出来,这也就是为什么GNN融合了两种拟合方法。

上述拟合有解的条件是Banach不动点定理,简而言之就是这个Graph应当是一个收缩图。(这个是GNN的一个理论基础)

然后就是用jaccobi迭代求解上述的式子,请看下图

fw和gw都是全连接层(利用全连接层的拟合能力),把原本的边变成全连接层间的输入输出的关系,不断迭代直到稳态,求解结束得到on(t)

那么作为一个监督学习,自然的引入损失函数作为判断稳态与否的定量标准

所以问题就转化为最小化 ew ,然后就是反向传播实现即可,原论文有附带证明,有兴趣可自行推导,可能需要一些泛函相关知识

总结一下:

 具体实现目前还没找到,但不要被这个反向传播的计算过程吓到,现有的框架都已有自动求导的功能,主要是要把前向的那部分实现正确即可

标签:特征,标签,论文,Graph,笔记,拟合,GNN,节点
From: https://www.cnblogs.com/LGL-sdu/p/17995528

相关文章

  • 大三寒假学习进度笔记20
    今日对LangChain进行了一些了解。LangChain是一个强大的框架,旨在帮助开发人员使用语言模型构建端到端的应用程序。它提供了一套工具、组件和接口,可简化创建由大型语言模型(LLM)和聊天模型提供支持的应用程序的过程。LangChain可以轻松管理与语言模型的交互,将多个组件链接在一......
  • 构建之法的读书笔记与读后感3
    团队和流程团队有一致的集体目标,团队要一起完成这目标。团队成员有各自的分工,互相依赖合作,共同完成任务。团队的集中工作模式(主治医师模式、明星模式、社区模式、业余剧团模式、秘密团队、特工团队、交响乐团模式、爵士乐模式、功能团队模式、官僚漠式)开发流程:(写了再改漠式、......
  • 2024.1.18《程序员的修炼之道:从小工到专家》阅读笔记1
    《程序员的修炼之道:从小工到专家》是一本经典的计算机编程领域的书籍,由AndrewHunt和DavidThomas合著。这本书以富有启发性的方式,向读者展示了成为一名优秀程序员的道路。本书以通俗易懂的语言,深入浅出地解释了编程领域的一些基本概念和原则。作者通过生动的案例和具体的实践经验......
  • 2024.1.22《程序员的修炼之道:从小工到专家》阅读笔记2
    《程序员的修炼之道:从小工到专家》强调了“软件工匠”的概念,即通过不断的学习和实践,不断提升自己的技能和素养,最终成为一名优秀的程序员。作者提出了“不断学习、不断改进”的观念,鼓励读者在编程之路上不断追求卓越。这让我深受鼓舞,也让我意识到编程领域是一个永无止境的学习之路,......
  • 《构建之法》读书笔记三
    第三章软件工程师的成长包括个人能力的衡量和发展和软件工程师的职业发展以及技能的反面。要想成为初级软件工程师必须具备软件开发方面的知识,提升技术技能、内核调试器的掌握;积累问题领域的知识与经验;对通用的软件设计思想和软件工程思想的理解;提升职业技能(多去学表达技能;与人沟......
  • kubeadm安装Kubernetes集群踩坑笔记
    目录背景步骤一安装DockerEngine步骤二:安装前配置步骤三:安装kubeadm步骤四:安装kubernetes的Master节点镜像准备开始安装安装Flannel网络插件步骤五:安装kubernetes的Worker节点总结思考背景最近在极客时间上跟Chrono大神学习Kubernetes基础,在实践过程中遇到一些运维、使用方面......
  • 哈希学习笔记
    定义与基本求法定义:用于用一个进制数表示一个字符串,以方便存储和判断两字符串是否相等。基本求法:联系十进制,如\(1234\)即\(1\times10^3+2\times10^2+3\times10+4\)同样的对于一个字符串,去一个大于其中任意字符(\(\text{ASCII}\)码)的数\(base\)作为进制。也就有了......
  • 《构建之法》读书阅读笔记一
     第一章概论:1.“软件=程序+软件工程”问题:程序与软件的区别是什么?回答:以前我总是分不清何为程序,何为软件,一直以为比较完善的程序就是一个软件。于是,我上网查了资料,更加明确两者的区别:程序(program)是为实现特定目标或解决特定问题而用计算机语言编写的命令序列的集合。为进......
  • 《构建之法》读书笔记二
    第二章个人技术与流程1.2.1.1用VSTS写单元测试在该部分,举的例子是用c#写的,因为之前并没有了解这部分的内容,所以,看起书来不是很懂。希望老师在上课时能用同学们学过的Java或者c语言举例给同学们讲解一下。2.“最好在设计的时候就写好单元测试,这样单元测试就能体现API的语义如......
  • DHCN论文阅读笔记
    Abstract基于会话的推荐(SBR)侧重于在某个时间点的下一项项目预测。近年来,基于图神经网络的SBR方法将项目转换为成对的关系,忽略了项目之间复杂的高阶关系。超图提供了一种捕获非成对关系的自然方法。在本文中,我们通过将基于绘画控制的数据建模为一个超图。提出了一个超图卷积网络来......