混合低阶和高阶图像卷积网络

文摘

高阶邻域信息的网络图,图表示学习分类的准确性可以显著改善。然而,当前的高阶图卷积网络有大量的参数,计算复杂度高。因此,我们提出一个混合低阶和高阶图像卷积网络(HLHG)学习模型,它使用一个重量共享机制来减少网络参数的数量。降低计算复杂度,提出一种新的信息融合池层结合高阶与低阶邻域矩阵的信息。我们从理论上比较计算复杂性和提出模型的参数的数量与其他先进的模型。实验,验证该模型在大规模网络文本数据集使用监督学习和使用semisupervised学习引文网络数据集。实验结果表明,该模型实现了更高的分类精度与少量的可训练的重量参数。

1。介绍

卷积神经网络(cnn)都取得了极大的成功在网格结构化数据(如图像和视频1,2]。它是由于一系列的过滤器的卷积层cnn,可以获得当地不变的特性。正规化网络相比,图中的一个节点网络的邻居数量可能会有所不同。因此,很难直接实现过滤操作符在一个不规则的网络结构(3]。

图中网络节点以及它们之间的连接边缘包含丰富的网络特征信息。图卷积网络(GCN)聚合邻居节点的基础上不断实现信息传输网络图。通过充分利用这些信息,政府通讯可以有效地实现任务,如分类、预测和建议。

图卷积网络(GCN)概括传统卷积神经网络(cnn)图域。政府通讯方法主要分为两类(3),频率域的方法(4- - - - - -6)和空间域的方法(7,8]。

在空间域,模拟传统的卷积操作CNN一个图像,卷积操作集邻居节点的信息7- - - - - -10]。Henaff et al。11]提出了一种平滑参数光谱滤波器实现本地化和保存输入的参数过滤器独立的维度。的一个关键挑战是,邻居节点的数量在网络不定期更改。

在频域中,布鲁纳等。5)是第一个扩展CNN-type架构图。曹et al。12)应用广义卷积网络图使用傅里叶变换频域。在这种方法中,邻域矩阵进行特征值分解。降低计算复杂度,Defferrard et al。13]提出了切比雪夫多项式特征值的图拉普拉斯算子实现高效、局部图卷积操作过滤器。Kipf和湿润6)提出了一个古典之下,被一个一阶切比雪夫多项式近似。这种方法降低了计算复杂度,但引入了截断误差。这介绍的结果是无法捕捉高层交互图中的节点之间的信息,同时也限制了模型的功能。图中的信息传播过程不仅一阶相关左邻右舍,也是其高阶。

Abu-El-Haija et al。14,15)提出了高阶卷积网络层的图上使用的线性组合的高阶社区基础之下(6]。挑et al。16)提出了一种贝叶斯估计方法通过随机变分推理图的邻接矩阵。李维et al。17]提出凯莱多项式计算局部常规过滤器感兴趣频段的图表。因此,合理使用社区二阶,三阶的社区,和其他高阶邻域信息将有利于分类预测精度(14- - - - - -16,18- - - - - -20.]。

基于经典的政府通讯(6),充分利用高阶与低阶邻域信息,我们提出一种新颖的混合低阶和高阶图像卷积网络(HLHG)。如图1,图卷积层模型是简单而有效的捕捉高阶邻域信息,非线性结合不同的小区信息。的贡献总结如下:(1)我们提出一种新的融合池层来实现高阶社区融合的低阶邻域图网络(2)我们邻居提出一个低阶和高阶社区共享机制来减少重量的计算复杂度和数量模型的参数(3)实验结果表明,我们的HLHG达到最先进的性能在文本网络分类与监督学习和引文网络semisupervised学习

剩下的纸是组织如下。节2相关的理论基础,如图像卷积和高阶图介绍了卷积。节3,提出了高阶邻域信息融合池。然后,提出了该模型及其变体。该模型的计算复杂度和参数数量也从理论上进行了分析。节4,我们提出模型和相应的验证分析。最后,部分5总结了纸。

2。相关的理论背景

在本部分中,将介绍相关的理论基础,包括图卷积网络(GCN)。

2.1。图

给定一个图 ,它的节点集 ,和它的边缘 ,图表示为 。如果节点和连接,然后 ;否则, 。图中的信息传播的优势 。它也适用于当考虑到网络节点自身环,这意味着 。假设的信息传播网络中的每个节点图 ,信息矩阵图 ,在哪里是网络图中节点的总数和是信息的维度的特性。它假设如果循环图的网络G被表示为 ,网络的邻接矩阵图被表示为 。矩阵的程度在网络图是对角矩阵, 。

2.2。图卷积网络

在给定的图 ,有两个信号 和 。图的傅里叶变换定义为 和 ,在哪里的标准正交特征值图拉普拉斯算子的图 。在欧几里得空间一样,谱图卷积操作和作为一个elementwise产品如下: 在哪里 代表的对角矩阵 。

Defferrard et al。13)利用kth顺序基于切比雪夫多项式滤波器来表示图拉普拉斯算子的卷积操作 ,在哪里表示系数和代表了拉普拉斯算子的特征值。

Kipf和湿润6]提出的经典图基于傅里叶变换的卷积神经网络模型, 。政府通讯模型使用一阶切比雪夫多项式近似模型。图网络中的传播模型如下: 在哪里表示信息传播矩阵;表示层的可训练的重量 ;当 , ,代表的初始输入值之下;表示激活函数。降低计算复杂度,卷积算子图中被定义为一个简单的邻域平均。然而,卷积过滤器是太简单获取高级交互图中的节点之间的信息。因此,引文网络数据集的分类精度低。

Abu-El-Haija et al。14,15]提出一种高阶图像卷积层模型基于GCN semisupervised节点分类。传播模型的高阶图像卷积公式所示(3)。在这个模型中,传递函数 - - - - - -th层是连接从一阶到一列秩序 - - - - - -th层,高阶的线性组合。在传播模型中,同一层的顺序不同的社区使用不同重量参数: 在哪里 。然而,随着网络层加深,的尺寸将增加和层之间传播。因此,可训练的重量参数会有更多的数量,和培训资源也会增加学习的优化尺寸重量。

3所示。方法

当消息通过网络图,节点将收到潜在表示从他们每次从N-hop first-hop节点和邻居。在本节中,我们提出一个模型非线性总可训练的参数,也可以选择从各种跳节点如何将潜在的消息。

3.1。一般信息融合池

图表的信息传播网络传递图中顶点之间的边。它假设图网络 是一个无向图。熔池的一般过程描述如下。它假设 - - - - - -阶矩阵 ,和融合后的结果池操作符 ,在哪里 )和代表了从给定的节点。

这里是一个例子展示如何融合不同的社区。对于一个给定的邻接矩阵 ,假设表示一阶邻域表示二阶邻域。

如果 和 ,然后 。

在信息传播和融合过程中,一阶邻域特性和充分考虑高阶邻域特性。因此,应该提高分类精度。

3.2。我们建议的模型

在图2,我们建议把高阶的高阶图像卷积网络模型的消息通过网络图。模型由一个输入层,两层图像卷积,信息融合池层连接到图像卷积层。将softmax函数用于multiclassification输出。

该模型扩展了经典GCN模型(6高阶神经网络图的社区。模型中的每个节点可以表示从社区和集成信息。系统模型如下: 在哪里是最重要的社区,= , 是激活函数,函数表示将softmax函数。参数是可训练的重量参数层 图中的网络,和功能代表 ,表示混合高阶与低阶的信息融合。当参数= 0, ,这是第一次卷积的输出层图的传播模型。此外, ,代表我们的初始输入模型。

在初步实验中,我们发现两层的高收入和低阶混合图卷积比一级高,低阶图像卷积混合,和堆积更多的层不显著提高图像识别的准确性的任务。因此,本文使用了一个双层图卷积层。在进一步的实验中,我们验证 和 在方程(4为我们的HLHG模型)。在监督学习和无监督学习分类任务,我们HLHG模型显示很好的性能和实现良好的分类精度和计算复杂度之间的平衡。我们也验证 和 ,分类精度没有明显改善。因此,我们只分析和实现模型 和 在接下来的部分。

在方程(4),模型 ,也就是说,混合模型的一阶和二阶的社区,叫做HLHG-2模型。的模型 ,混合模型的1日,2日,3日社区,叫做HLHG-3模型。

HLHG-2模型,它假设图像卷积网络有两个卷积层和激活函数 。然后,输出Y HLHG-2模型可以表示如下: 在哪里 和表示熔池 。

与HLHG-2模型一样,输出Y HLHG-3模型可以表示如下: 在哪里 和 。

对于大规模的网络图,这是不可接受的直接计算 。因此,我们计算 。一般来说,的维数小于 ,和这个过程避免了大规模的矩阵乘法操作。

因此,我们HLHG模式已经远离网络图,和二阶邻域的迭代表达式如下: 在哪里 。我们使用我们融合池操作符,假定的最大值对应的元素。算法1显示了如何融合不同的顺序的邻居。

我们使用multiclassified交叉熵的损失函数HLHG模型, ,在哪里是标签样本。图可训练的神经网络权重和使用梯度下降训练。在每个训练迭代,我们执行批处理梯度下降法。

3.3。计算复杂度和参数数量

大规模网络图的邻接矩阵 。很难直接计算 。以减少计算复杂度,我们迭代计算 。对于更高的订单,从右到左迭代乘法程序 。例如,当 , 。当 , 。

在提出的模型中,网络的输入特性图 。第一次卷积层的重量 ,第二层的重量 。然后,输入第一个回旋的层 的参数代表输入的维数特征。例如,表示隐藏神经元的数量第一次卷积层和表示隐藏神经元的数量在第二卷积层。在我们HLHG模型,可训练的重量参数共享相同的卷积层。因此,在第一次卷积层,输出卷积算子后尺寸是一样的。也就是说, , ,和 ,在哪里邻接矩阵的顺序吗 。

在 - - - - - -th回旋的层, ,在哪里表示隐藏神经元的数量 - - - - - -卷积层。它假设是一个稀疏矩阵非零元素。为 - - - - - -th卷积HLHG层,计算复杂度 和数量的训练重量 。

总HLHG模型的计算复杂度 ,可训练的参数的数量 ,在参数表示卷积层和的总数表示 - - - - - -卷积层。当 , 代表数据集的特征维度代表隐藏神经元的数量 - - - - - -卷积层。所有的数据集, ;因此,我们只考虑第一个卷积层当我们比较计算的复杂性和数量的参数。

(相比14),我们将减少过滤器保持类似的计算复杂度和参数的数量是通过重量少共享为低阶和高阶曲线玲珑。

4所示。实验

我们进行实验,以验证HLHG模型可以应用于监督学习和semisupervised学习。网络上的文本数据集,我们比较模型与最先进的使用监督学习的方法。引文网络的数据集,我们比较我们的模型和使用semisupervised学习最先进的方法。对所有实验中,我们构建了一个双层图使用TensorFlow卷积网络的模型。GitHub的代码和数据是可用的。

4.1。监督网络文本分类

我们进行监督学习5个基准图文本数据集的分类精度比较HLHG与图像卷积神经网络和其他深度学习的方法。

以下4.4.1。数据集

在我们的监督实验中,20-Newsgroups ng (20), Ohsumed, R52和R8路透社21578年,电影评论(先生)是用于验证该模型。这些数据集是在网上公开的和被广泛用作验证数据集。摘要文本网络的统计特征如表所示1。

这些基准文本数据集是由姚明et al。(处理21),文本数据集转换成图网络结构。然后,他们使用预处理构造图的邻接矩阵网络输入和输入参数。数据集分为训练数据集和测试数据集以同样的方式。

4.1.2。基线和实验设置

用以下方法:我们比较HLHG pretrained向量的卷积神经网络(CNN-rand) [22),与pretrained LSTM模型向量(LSTM-pre) [23),预测文本嵌入文本分类(PTE) [24),快速文本分类器(fastText) [25),简单的简单的字嵌入模型池策略(SWEM) [26),label-embedding细心的文本分类模型(学会)27图),CNN模型与切比雪夫滤波器(GCN-C) [13图),CNN模型与样条滤波器(GCN-S) [5图),CNN模型与傅里叶滤波(GCN-F) [11),图卷积网络文本分类(文本GCN) (21]。基线模型测试了姚明et al。(21]。

在我们HLHG-2模型中,我们设置了辍学率= 0.2。更新学习速率从亚当28在培训过程中。在我们的模型中,我们设置的L2减肥0,我们采用早期停止。我们设置了学习速率为0.02 R8数据集,和学习速率的数据集都设置为0.01。我们为不同的数据集设置不同的时代。时代在R52数据集的数量是350。时代的数量哦,20 ng数据集是200,先生和R8和数量数据集是60。HLHG-2模型中,我们设置的隐藏的神经元数量第一卷积为所有数据集层128。

除了表中的参数2,其他参数都是相同的如HLHG-2模型。

HLHG-3,我们隐藏的神经元的数目在128年第一次卷积层除了数据集,这是设置为64。获得更好的培训效果,我们分别设置不同hyperparameters辍学率、学习速率,为不同的数据集(见表数量的时代2)。此外,其他参数HLHG-2 HLHG-3是相同的。

我们构造图网络HLHG-2 HLHG-3模型、特征矩阵和其他参数相同的姚明et al。(21]。

4.1.3。结果

我们展示监督五个数据集的文本分类精度表3。我们证明我们的模型执行常见的分裂,从姚明等人的研究(21]。

表3介绍了我们的模型的分类精度和标准差和基准网络数据的文本。一般来说,我们的HLHG-2和HLHG-3实现高水平的性能。具体地说,他们在R52实现最佳性能,哦,20 ng, R8。表现最好的方法相比,该模型产量差精度的数据集。一般来说,HLHG-3和HLHG-2模型执行同样。更具体地说,第三阶HLHG略有分类精度比二阶HLHG大多数数据集。然而,性能差异不是很大。总体而言,该建议的体系结构与混合高和低阶地区具有良好的分类性能,这表明它有效地保留了图的拓扑信息,同时也获得一个高质量的代表节点。

基准测试结果是抄袭8]。我们的模型的平均标准偏差的平均100分。

表4显示了比较网络的复杂性和参数的数量与文本之下(21]。我们HLHG可以匹配文本之下对计算复杂性同时要求参数少于文本之下。节中描述3所示。3,特征数据集的数量远远大于在卷积隐藏层神经元的数目。因此,我们只比较参数的计算复杂度和数量的第一我们HLHG卷积层模型。在表4、房价和参数代表了计算复杂度和参数的数量在第一层图的卷积网络,分别。在计算复杂度的结果,第一个常数表示神经元的数量在第一个卷积层和第二个常数表示邻接矩阵的顺序。的参数米表示的稀疏正则化邻接矩阵的非零元素。的参数r表示图中的节点网络的特征维度。

在文本之下(21),隐藏的神经元的数目在200年第一个卷积层是;因此,复杂性和参数是200卡路里。128年HLHG-2模型,表示隐藏神经元的数量在第一卷积层和2代表最高的HLHG-2秩序。HLHG-3模型,128年和64年表示隐藏神经元的数量在第一卷积和3层代表了最高的相应模型。结果在表4表明我们HLHG-3先生数据集模型具有更好的计算复杂度。因为重量不同社区,分享HLHG模型需要更少的可训练的重量参数。尤其是在数据集,参数的个数只有1/3的文本之下(21]。

4.2。Semisupervised节点分类

我们进行semisupervised学习三个基准引文网络数据集比较HLHG的节点分类精度与一些经典方法和一些图像卷积神经网络方法。图semisupervised学习的过程对应于“标签”在引文网络传播。

4.2.1。准备数据集

我们使用CiteSeer semisupervised节点分类,科拉,和PubMed引文网络数据集29日]。在这些引用数据集,节点代表的文章发表在相应的期刊。两个节点之间的边表示从一篇文章引用到另一个,和标签代表的主题文章。引文链接构造邻接矩阵。这些数据集标签低利率。摘要引用图表的统计特征如表所示5。

4.2.2。基线和实验设置

我们比较HLHG相同的基线方法Abu-El-Haija et al。15和杨et al。30.]。基线如下:廖正规化(ManiReg) [31日),semisupervised嵌入(SemiEmb) [32),标签传播(LP) (33),skip-gram-based图嵌入(DeepWalk) [34),迭代分类算法(ICA) (35],小行星[30.],何鸿燊[14],MixHop [15]。

HLHG-2模型,我们使用以下参数为引用数据集(科拉,CiteSeer和PubMed): 16(隐藏单位的数量),0.5(辍学率),0.0005 (L2正规化)10(早期停止),300(时代),和0.01(学习速率)。

对于HLHG-3播送的模型,我们设置不同数量的隐藏的神经元为不同的数据集。我们制定了8个隐藏神经元为CiteSeer数据集,以降低计算复杂度和参数的数量,并设置10隐藏神经元科拉和PubMed数据集获取更丰富的功能。的hyperparameters HLHG-3设置如表所示6。

4.2.3。结果

semisupervised实验,我们训练和测试我们的模型在这些引文网络数据集的方法后,提出了杨et al。30.]。分类精度的平均值100与体重随机初始化运行。

基准测试结果被复制(15,30.]。我们的模型的平均标准偏差的平均100分。

在表7,节点分类精度高于线从Abu-El-Haija复制14,15和杨et al。30.]。行下面的值是我们HLHG模型。±标准差代表了100年的运行与不同的随机初始化。这些分歧只利用20标记节点中每个类的培训。我们达到最好的测试精度82.7%和71.5%的科拉和CiteSeer数据集,分别。相对于其他高阶图卷积神经网络(14,15在相同的数据集,他们得到的高阶信息使用的线性组合特性从更远的距离。HLHG模型行为的非线性高阶邻域信息。

在表8,我们比较了网络复杂性和参数的数量和其他高阶图卷积网络和经典之下。结果表明,我们的模型与其他方法相同的计算复杂度。关于参数的数量,比GCN HLHG-3模型有更少的参数(6]。原因是我们的模型权重股票在同一层中不同的顺序矩阵。

5。结论

在本文中,我们提出一个混合低阶和高阶GCN监督分类模型的文本网络数据集和semisupervised分类在引文网络。在我们的模型中,我们提出一种新颖的非线性信息融合层结合低收入和高阶社区。减少参数的数量,我们建议共享相同的卷积层的权重不同的社区。在两个网络数据集的实验表明HLHG有能力融合高阶社区为监督分类和semisupervised分类。我们的模型明显优于基准。我们还发现,计算复杂度和参数的数量小于高阶的方法。为了获得更多的社区信息,我们可以使用更多的高阶邻接矩阵。然而,直接使用订单增长可能导致oversmoothing问题。因此,在未来的研究工作中,我们将扩展HLHG模型融合图关注网络(36]发展更深层次的图像卷积网络。

数据可用性

监督的文本网络分类数据用于支持这项研究的结果已经存入存储库DOI: 10.1609 / aaai.v33i01.33017370。Semisupervised节点分类数据用于支持这项研究的结果已经存入存储库DOI: 10.1609 / aimag.v29i3.2157

信息披露

赞助商的资金没有参与这项研究的设计;在收集、分析或解释数据;写的手稿;也决定发表的结果。

的利益冲突

作者宣称没有利益冲突有关的出版。

确认

这项工作是支持部分由中国国家自然科学基金资助下U1701266, 61571141, 61702120, 61672008;广东省重点实验室资助下的知识产权和大数据2018 b030322016;下的广东省科技项目拨款2019 a070701013;和清远科技计划项目资助下170809111721249和170809111721249。

引用

1. a . Krizhevsky i Sutskever, g·e·辛顿“ImageNet分类与深卷积神经网络,”学报》国际会议神经信息处理系统太浩湖,页1097 - 1105年,NV,美国,2012年12月。视图:谷歌学术搜索
2. k . x张,他任美国,j .太阳,“深残余学习图像识别,”《IEEE计算机视觉与模式识别会议拉斯维加斯,页770 - 778年,NV,美国,2016年12月。视图:出版商的网站|谷歌学术搜索
3. m·m·布罗斯特j .布鲁纳y LeCun (a . Szlam和p . Vandergheynst“几何深度学习:超越欧几里得数据。”IEEE信号处理杂志,34卷,不。4,18-42,2017页。视图:出版商的网站|谷歌学术搜索
4. w·汉密尔顿,z,和j . Leskovec归纳学习大型图形表示,“2017年,https://arxiv.org/abs/1706.02216。视图:谷歌学术搜索
5. j .布鲁纳w·扎、a . Szlam和y LeCun(“谱网络和本地连接网络图”,2013年,https://arxiv.org/abs/1312.6203。视图:谷歌学术搜索
6. t . n . Kipf和m·威林”Semi-supervised分类与图像卷积网络”,2016年,https://arxiv.org/abs/1609.02907。视图:谷歌学术搜索
7. f p, s .长官,m·a·多明格斯et al .,“强大的空间滤波与图像卷积神经网络。”IEEE选定的主题在信号处理杂志》上,11卷,不。6,884 - 896年,2017页。视图:出版商的网站|谷歌学术搜索
8. m . Niepert m·艾哈迈德,k . Kutzkov”学习卷积神经网络图”,2016年,https://arxiv.org/abs/1605.05273。视图:谷歌学术搜索
9. e . f .蒙蒂,d . Boscaini j .∙马希Rodola, j . Svoboda和m . m .布罗斯特,“几何深度学习使用混合模型图和集合管上cnn,“《IEEE计算机视觉与模式识别会议火奴鲁鲁,页5115 - 5124年,美国,2017年7月,你好。视图:出版商的网站|谷歌学术搜索
10. j·基尔默,s . s . Schoenholz·f·赖利o . Vinyals g·e·达尔,“神经量子化学、消息传递”美国第34国际会议上机器学习澳大利亚悉尼,页1263 - 1272,,2017年8月。视图:谷歌学术搜索
11. m . Henaff、j .布鲁纳和y LeCun(“深卷积网络图结构的数据,2015年,https://arxiv.org/abs/1506.05163。视图:谷歌学术搜索
12. 曹,w . Lu,徐问:“Grarep:学习图形表示与全球结构信息,”《24日ACM国际会议信息和知识管理,页891 - 900,墨尔本,澳大利亚,2015年10月。视图:出版商的网站|谷歌学术搜索
13. m . Defferrard x布莱松,p . Vandergheynst“卷积神经网络在图快速局部光谱滤波,”2016年,https://arxiv.org/abs/1606.09375。视图:谷歌学术搜索
14. s . Abu-El-Haija n . Alipourfard h . Harutyunyan A·卡普尔和b . Perozzi“高阶图卷积层,”美国第32会议神经信息处理系统(少量的2018)捏,蒙特利尔,加拿大,2018年12月。视图:谷歌学术搜索
15. s . Abu-El-Haija Perozzi, a·卡普尔et al .,“MixHop:高阶图像卷积混合架构通过sparsified社区,”2019年,https://arxiv.org/abs/1905.00067。视图:谷歌学术搜索
16. l .挑p .依琳娜·h·阮,e . v . Bonilla“变分谱图卷积网络,”2019年,https://arxiv.org/abs/1906.01852。视图:谷歌学术搜索
17. r·李维f·蒙蒂、x布莱松和m·m·布罗斯特”CayleyNets:图卷积神经网络与复杂的理性光谱过滤器,”IEEE信号处理卷,67年,第109 - 97页,2018年。视图:出版商的网站|谷歌学术搜索
18. 维奇g . Ma: k·艾哈迈德,t . et al .,“相似度与高阶学习图形旋转脑网络分析,“2019年,https://arxiv.org/abs/1811.02662。视图:谷歌学术搜索
19. k .徐w·胡,j . Leskovec和美国Jegelka图神经网络有多强大?“2019,https://arxiv.org/abs/1810.00826。视图:谷歌学术搜索
20. j·阿特伍德,d . Towsley Diffusion-convolutional神经网络。”先进的神经信息处理系统vol.年代,页。1993 - 2001年,2016年,https://arxiv.org/abs/1511.02136。视图:谷歌学术搜索
21. l .姚明,c .毛、罗y“图卷积网络文本分类,”2018年,https://arxiv.org/abs/1809.05679。视图:谷歌学术搜索
22. y . Kim“卷积神经网络对句子分类,”2014年,https://arxiv.org/abs/1408.5882。视图:谷歌学术搜索
23. x x p . Liu秋和黄“复发性神经网络用于文本分类与多任务学习,”2016年,https://arxiv.org/abs/1605.05101。视图:谷歌学术搜索
24. 瞿m . j . Tang,问:梅,“PTE:预测文本嵌入文本通过大规模异构网络”《21 ACM SIGKDD国际会议上知识发现和数据挖掘澳大利亚悉尼,页1165 - 1174,,2015年8月。视图:谷歌学术搜索
25. a . Joulin大肠坟墓,p . Bojanowski, t . Mikolov“为有效文本分类的,”2016年,https://arxiv.org/abs/1607.01759。视图:谷歌学术搜索
26. w·d·沈g . Wang Wang et al .,“基线需要更多的爱:简单word-embedding-based模型和池机制有关,”2018年,https://arxiv.org/abs/1805.09843。视图:谷歌学术搜索
27. 王c . g . Wang, w . et al .,“联合嵌入文字和标签的文本分类,”2018年,https://arxiv.org/pdf/1805.04174.pdf。视图:谷歌学术搜索
28. d . p . Kingma和j .英航“亚当:随机优化方法,”2014年,https://arxiv.org/pdf/1412.6980.pdf,。视图:谷歌学术搜索
29. p . Sen, g . Namata m . Bilgic l . Getoor b·加拉格尔和t . Eliassi-Rad“集体在网络数据分类,,”人工智能杂志卷,29号3,p。93年,2008年。视图:出版商的网站|谷歌学术搜索
30. z杨、w·w·科恩和r . r . Salakhutdinov“回顾与图嵌入semi-supervised学习,”《ICML美国,纽约,纽约,2016年6月。视图:谷歌学术搜索
31. m·贝尔金p .他诉Sindhwani,”廖正规化:几何框架从标记和未标记示例学习,”机器学习研究杂志》上7卷,第2434 - 2399页,2006年。视图:谷歌学术搜索
32. j·韦斯顿,f·d·r·Ratle h . Mobahi r . Collobert,“通过semi-supervised嵌入深度学习,”神经网络:做生意的诀窍施普林格,柏林,德国,2012年。视图:谷歌学术搜索
33. 朱x、z . Ghahramani和j·d·拉弗蒂“Semi-supervised学习使用高斯字段和谐波函数《ICML美国,华盛顿特区,2003年8月。视图:谷歌学术搜索
34. b . Perozzi r . Al-Rfou, s . Skiena“DeepWalk:在线学习的社会表示,”20 ACM SIGKDD国际会议的程序对知识发现和数据Mining-KDD 14美国,纽约,纽约,2014年8月。视图:谷歌学术搜索
35. 问:卢和l . Getoor“分类、性质”《ICML美国,华盛顿特区,2003年8月。视图:谷歌学术搜索
36. p . Veličkovićg . Cucurull Casanova, a·罗梅罗·利奥和y Bengio,“图关注网络,”2017年,https://arxiv.org/abs/1710.10903。视图:谷歌学术搜索

版权

版权©2020方圆Lei et al。这是一个开放的分布式下文章知识共享归属许可,它允许无限制的使用、分配和复制在任何媒介,提供最初的工作是正确引用。