首页 > 其他分享 >图神经网络—GNN

图神经网络—GNN

时间:2023-10-24 13:06:26浏览次数:34  
标签:表示 信息 神经网络 embedding 全局 GNN 我们 进行

看了大佬的博客

A Gentle Introduction to Graph Neural Networks

图用来表示一些实体间的关系——》点

V Vertex 顶点/node

E Edge 边/关系

U Global 全局 (embedding) 比如一个图中是否含有环 就是一个全局信息

V E U可以用向量来表示

图分为有方向 与 无方向 两种实体间的关系不一定相互 比如用户博客的关注

将图片变成图就是将每个像素点按照在图片上的位置进行排列,前后左右以及对角线直接相连的的结点都是本节点的”邻居“。

将文本变成图就是将 各个单词进行串联

常见的分子结构也是用图表示

还有常见的图就是人物关系图

图的表示

图是一种比较具象化的数据结构,注重数据之间的关系

通常我们使用向量来表示图

先给点进行排序,然后在相应的位置上放入点中的数据,

如 1 3 2表示三个点 第一个点中数据为1 第二个中为3 第三个为2

那么相应的就有边的性质 假设有四条边 表示为 3 2 3 2

意思是四条边蕴含的数据分别为3 2 3 2

最后对应四条边的四个连接 如 [0,1] [1,2] [2,0] [2,3]

这样的一个图表示的就是一个简单的图,并且我们也表示出了图所蕴含的信息

使用图

简单的GNN

既然知道了如何表示图,那么我们来看如何使用图进行训练任务,最简单的就是信息传递,他分别对图的E V U的embedding进行了一次的MLP,从而保持图的结构,进行多次,就有了一个简单的图神经网络

继续,我们可以使用图进行图信息的预测

假设我们缺失图上的顶点信息,我们就可以将与此顶点相连的边还有全局信息进行信息传递,我们直接将边的embedding与全局的embedding进行求和,经过映射操作,那么我们可以直接将得到的值赋予给顶点信息,这也叫pooling

对于边信息或者全局信息,我们直接采用对称的方式进行操作即可

那么我们来看使用一张图中信息的流程,实际上就是我们对于一张图,将它进入E V U的三个MLP中直接进行输出,得到属性进行过处理的图(图进图出),然后将它进入全连接层,获得我们想要的结果

但是这种简单的方式没有考虑到V E U三者之间的联系,并不能完整的利用图中的信息。


标签:表示,信息,神经网络,embedding,全局,GNN,我们,进行
From: https://blog.51cto.com/u_16196891/8002364

相关文章

  • 如何在PS2023中安装神经网络滤镜离线安装包
    首先我们作一下简单介绍,NeuralFilters(神经网络滤镜)是从PS2021版本才开始有的,说白了就是Adobe研制的一款智能滤镜库,其实就是AI吧。NeuralFilters通过生成新的像素来帮助我们优化、处理和修改图像,新产生的像素不会存在于原始图像中。目前PS2023版本中有12款NeuralFilters滤镜。主......
  • 神经网络基础篇:逻辑回归的代价函数
    逻辑回归的代价函数(LogisticRegressionCostFunction)为什么需要代价函数:为了训练逻辑回归模型的参数参数\(w\)和参数\(b\),需要一个代价函数,通过训练代价函数来得到参数\(w\)和参数\(b\)。先看一下逻辑回归的输出函数:为了让模型通过学习调整参数,需要给予一个\(m\)样本的训练......
  • umicv cv-summary1-全连接神经网络模块化实现
    全连接神经网络模块化实现Linear与Relu单层实现LossLayer实现多层神经网络不同梯度下降方法Dropout层今天这篇博文针对Assignment3的全连接网络作业,对前面学习的内容进行一些总结在前面的作业中我们建立神经网络的操作比较简单,也不具有模块化的特征,在A3作业中,引导我们......
  • 使用卷积神经网络训练手写数字识别模型(CNN)
    https://www.cnblogs.com/zylyehuo/效果展示目录结构README.md#BasicMNISTExamplepipinstall-rrequirements.txtpythonmain.py#CUDA_VISIBLE_DEVICES=2pythonmain.py#tospecifyGPUidtoex.2requirements.txttorchtorchvisionmain.pyfrom......
  • 神经网络基础篇:详解二分类(Binary Classification)
    二分类注:当实现一个神经网络的时候,通常不直接使用for循环来遍历整个训练集(编程tips)举例逻辑回归逻辑回归是一个用于二分类(binaryclassification)的算法。首先从一个问题开始说起,这里有一个二分类问题的例子,假如有一张图片作为输入,比如这只猫,如果识别这张图片为猫,则输出标签......
  • 《动手学深度学习 Pytorch版》 9.4 双向循环神经网络
    之前的序列学习中假设的目标是在给定观测的情况下对下一个输出进行建模,然而也存在需要后文预测前文的情况。9.4.1隐马尔可夫模型中的动态规划数学推导太复杂了,略。9.4.2双向模型双向循环神经网络(bidirectionalRNNs)添加了反向传递信息的隐藏层,以便更灵活地处理此类信息。9......
  • 6.卷积神经网络
    卷积层的作用一在说卷积层之前,我想先说一下为什么会有卷积层;前面几个博客提到的神经网络都是用矩阵乘法来建立输入和输出之间的关系,如果有n个输入和m个输出,那么就需要n*m个参数;如果n和m很大并且有多个全连接层的话需要的参数数量是庞大的;卷积层就是通过三个特性来解......
  • 神经网络入门篇:为什么深度学习会兴起?
    为什么深度学习会兴起?这篇我们来讲故事,关于为什么深度学习会兴起的故事~深度学习和神经网络之前的基础技术理念已经存在大概几十年了,为什么它们现在才突然流行起来呢?因为多亏数字化社会的来临,现在的数据量都非常巨大,我们花了很多时间活动在这些数字的领域,比如在电脑网站上、......
  • Python神经网络编程pdf电子版 Tariq Rashid
    Python神经网络编程pdf电子版TariqRashid作者:[英]TariqRashid原作名:MakeYourOwnNeuralNetwork出版年:2018-4ISBN:9787115474810连接提取码:c75z本书对初学者极为友好,并且篇幅短小精悍,概念讲解明晰易懂,很适合作为神经网络入门第一书。书中作为例子实现的神经网......
  • 神经网络入门篇:神经网络到底是什么东西
    神经网络到底是什么东西我们常常用深度学习这个术语来指训练神经网络的过程。有时它指的是特别大规模的神经网络训练。那么神经网络究竟是什么呢?举例说明-通俗易懂第一个例子从一个房价预测的例子开始讲起。假设你有一个数据集,它包含了六栋房子的信息。所以,你知道房屋的面......