这篇文章很好的介绍了:
时域、空域、频域;频域的优势
傅立叶级数、连续傅立叶变换;傅立叶变换应用
拉普拉斯算子、图拉普阿斯矩阵、拉普拉斯谱分解
图上傅立叶变换
图卷积
初代GCN
本博客记录了本人对于该文的一点理解,仅供自己学习GNN、GCN使用。
1. 图 :一种非欧数据结构在欧氏空间中,卷积网络(CNN)具有平移不变性、权值共享、局部连接、分层次表达的特点,而图片及音频信号在其域中具有局部的平移不变性,因此卷积神经网络在图片及音频处理问题上表现良好。
平移不变性:
平移是一种几何变换,表示把一幅图像或一个空间中的每一个点在相同方向移动相同距离。比如对图像分类任务来说,图像中的目标不管被移动到图片的哪个位置,得到的结果(标签)应该是相同的,这就是卷积神经网络中的平移不变性。平移不变性意味着系统产生完全相同的响应(输出),不管它的输入是如何平移的 。
平移不变性依赖于CNN的卷积和池化两步操作
然而,图网络是一种非欧式结构的数据,网络是不规则的关系型数据,因此其不存在平移不变性。
无向图的空间结构:\(G=(\Omega,W)\),其中\(\Omega\)表示图中所有节点的集合,\(size = m\);\(W\)表示图的邻接矩阵,\(shape = (m,m)\),由于是无向图,\(W\)是一个对称矩阵。\(W\)中的值\(W_{i,j}\)表示节点\(i,j\)之间的边的权重,为非负值,当这两个节点之间没有边的时候,认为权重值为0。
图中每个节点一般具有两种信息:
一是每个节点都有自己的特征信息。比如人的三维骨架,每个点都有三维坐标数据。
二是图谱中的每个节点还具有结构信息。具体来说就是节点与节点之间相连的信息。
个人理解:找不到一个统一模式的卷积核对于图中的每一个节点进行常规的卷积操作,因为图中的每一个节点都具有不同的特征信息以及结构信息。
因此,图是一种非欧式空间的数据结构,无法进行传统意义上的卷积操作。本论文旨在解决这一问题,将卷积的思想从欧式数据扩展 到非欧数据上。
1.1 图的空域(节点域)和频域(谱域)空间域与频率域为我们提供了不同的视角。在空间域中,函数自变量(x,y)被视为二维空间中的一个点,数字图像f(x,y)即为一个定义在二维空间中的矩形区域上的离散函数;换一个角度,如果将f(x,y)视为幅值变化的二维信号,则可以通过某些变换手段(如傅里叶变换、离散余弦变换、沃尔什变换和小波变换等)在频域下对图像进行处理了 因为在频率域就是一些特性比较突出,容易处理。比如在空间图像里不好找出噪声的模式,如果变换到频率域,则比较好找出噪声的模式,并能更容易的处理。
具体名词解释如下:
空间域 英文: spatial domain。 释义: 又称图像空间(image space)。由图像像元组成的空间。在图像空间中以长度(距离)为自变量直接对像元值进行处理称为空间域处理。
频率域。 英文: spatial frequency domain。 释义: 以频率(即波数)为自变量描述图像的特征,可以将一幅图像像元值在空间上的变化分解为具有不同振幅、空间频率和相位的简振函数的线性叠加,图像中各种频率成分的组成和分布称为空间频谱。这种对图像的频率特征进行分解、处理和分析称为频率域处理或波数域处理。
二者关系:
空间域与频率域可互相转换。在频率域中可以引用已经很成熟的频率域技术,处理的一般步骤为:①对图像施行二维离散傅立叶变换或小波变换,将图像由图像空间转换到频域空间。②在频率域中对图像的频谱作分析处理,以改变图像的频率特征。即设计不同的数字滤波器,对图像的频谱进行滤波。
空间域处理的应用可以参考:
https://wenku.baidu.com/view/b97f42eb172ded630b1cb6bc.html?pn=50
频率域处理主要用于与图像空间频率有关的处理中。如图像恢复、图像重建、辐射变换、边缘增强、图像锐化、图像平滑、噪声压制、频谱分析、纹理分析等处理和分析中。
参考: 图的空域和频域
1.2 图结构数据扩展到GCN遇到的困难对于图结构的数据,从最早的基于深经网络框架的GNN到将卷积引入图数据中,说实话卷积还真是个好东西。引入卷积的这类算法又被分为谱方法(spectral approaches)和非谱方法(non-spectral approaches)两类。谱方法是基于图的谱表征,通过图拉普拉斯算子的特征分解,在傅里叶域中定义的卷积运算需要进行密集的矩阵计算和非局部空间的滤波(计算)。在此基础上,GCN很有效地对节点的一阶邻域进行处理,从为避免复杂的矩阵运算。但是GCN依赖于图的结构信息,这就导致了在特定图结构上训练得到的模型往往不可以直接被使用到其他图结构上。非谱方法是直接在图上进行卷积而不是在图的谱上。这种方法的挑战之一是如何找到一个或者定义一个运算来处理可变大小的邻域并保证参数共享机制。
2. 空域与频域的转换 2.1 拉普拉斯算子