1。介绍gydF4y2Ba
高光谱遥感技术可以生成一组丰富的图像信息。它可以显著提高数据分析的质量,显著改善方法的细节,可靠性和可信度。一般来说,因为不同类别的相同的功能目标表现出不同的光学行为和乐队的空间,表现出明显的差异特征类型的像素级可用于识别和分类。这种技术是现在被用于农业gydF4y2Ba
1gydF4y2Ba- - - - - -gydF4y2Ba
3gydF4y2Ba),环境遥感gydF4y2Ba
4gydF4y2Ba- - - - - -gydF4y2Ba
6gydF4y2Ba)、物理(gydF4y2Ba
7gydF4y2Ba,gydF4y2Ba
8gydF4y2Ba,海洋gydF4y2Ba
9gydF4y2Ba- - - - - -gydF4y2Ba
11gydF4y2Ba),和其他领域,其中(HSI)高光谱图像分类研究是极其重要的。图像的内部信息包含各种类型的特性。正是因为不同的各种形式的特性,它们可以在一个图像中提取进行分析。最后,区分目标的方法称为图像分类为不同的类别。恒生指数分类使地面特征识别不同的目标基于获得的遥感信息。此外,它还可以分析固有的法律地面特征在分类过程中。在HSI收购成本相对较高,这将导致一个训练样本数量不足。此外,图像本身有一个相对较高的光谱维度和一个相对大的数据量,从而增加其复杂性。gydF4y2Ba
在早期的研究中,光谱信息分类是一个受欢迎的程序(gydF4y2Ba
12gydF4y2Ba- - - - - -gydF4y2Ba
14gydF4y2Ba]。特征选择的方法和降维gydF4y2Ba
15gydF4y2Ba,gydF4y2Ba
16gydF4y2Ba)经常被用来缓解光谱维的高维度。随着这一研究主题的进步,恒生指数的复杂的空间和光谱特性分布已经成为困扰他们的分类的主要问题。许多研究人员选择添加本地空间连接改进模型(gydF4y2Ba
16gydF4y2Ba,gydF4y2Ba
17gydF4y2Ba),也在一定程度上取得积极成果。然而,这些方法主要是基于手工和浅模型,严重依赖于专家知识和泛化能力差,很难提取代表不同的功能。gydF4y2Ba
近年来,深度学习模型已经卓有成效,已成为一个新的研究热点在不同的方法用于铸铁的分类。尽管深度学习方法可以获得深层特性表征从原始上学,探测和识别通常依赖于许多训练样本。然而,它是耗时的,劳动密集型的标签数据用于铸铁的分类和使用培训。注释数据是非常有限的。针对上述问题,与较少的训练样本保持深度学习方法仍然是一个重大挑战。2014年,陈等人。gydF4y2Ba
18gydF4y2Ba)提出了一种深度学习框架,结合空间和光谱特性。深度学习框架结合主成分分析(PCA)和深度学习架构采用堆叠autoencoders (SAE)获取深度特性使用逻辑回归(LR)结果分类(SAE-LR)。虽然SAE-LR深学习方法已经显示出巨大的潜力在HSI分类、autoencoder模型通常趋于平缓当地图像补丁到向量,然后输入到模型中。然而,这种方法破坏了图像的二维结构,导致空间信息的损失和训练时间也不够。2015年,Makantasis et al。gydF4y2Ba
19gydF4y2Ba)利用卷积神经网络(cnn)开发了一个deep-supervised HSI分类算法。他们的算法使用随机PCA减少原始输入数据的维数,CNN提取深层特征,多层感知器(MLP)分类。2016年,赵和杜提出spectral-spatial特性分类(SSFC)方法。当地判别嵌入框架使用一个平衡(BLDE)算法提取光谱特征基于分类的multifeature分类器。gydF4y2Ba
此外,三维spectral-spatial特征提取方法也被开发出来发现有用但从上学很难提取信息。蔡et al。gydF4y2Ba
20.gydF4y2Ba)提出了一种三维灰度共生HSI分类特征提取方法基于传统的二维形态运营商,和周et al。gydF4y2Ba
21gydF4y2Ba)提出了一种三维离散小波变换,它是一系列一维小波变换的三维序列HSI处理和分类。从上学是重要的提高特征提取方法的分类性能。深度学习的相关模型提供了一种新的解决问题在HSI分类。然而,应用深度学习这样一个分类任务还面临着一些困难。gydF4y2Ba
上学的高维问题不同于普通的自然图像。恒生指数数据三维结构。非常丰富的光谱信息和空间信息相对较小。深度学习的应用分类的上学的第一步是设计一个网络结构适用于铸铁结构,可有效利用上学丰富的光谱信息和空间信息有限。gydF4y2Ba
在恒生指数数据,通常是一个严重失衡的类和类的数量。如果不实施各种样品的重量限制,训练网络的健壮性很低。gydF4y2Ba
基于上述限制,一种新的多尺度密集cross-attention机制与协方差算法池(MDCA-CP)已经提出了为HSI场景分类工作。多尺度卷积可以检测到上学的空间维度。像素之间的微妙的变化在当地区域的光谱维度可以应用于高光谱数据的特征提取复杂和多样的类型和结构。传统算法只在单向关注权重分配方式,导致的损失特性的信息。密集的cross-attention机制提出了工作可以同时分配注意重量的横向和纵向有效地获取最具代表性的高光谱数据。此外,协方差池被用于这项研究进一步提取上学的二阶特性。实验都是在三个著名的高光谱数据集进行的,因此结果获得证明MDCA-CP算法的有效性。gydF4y2Ba
这项工作的主要贡献如下:gydF4y2Ba
小说密集cross-attention(横向和纵向)机制算法提出了,和体重增加和最大重量策略构造,可我更具有代表性特征的高光谱数据。gydF4y2Ba
小说attention-guided协方差池方法提出了充分利用二阶信息的高光谱数据特征映射。它可以让学习更具有代表性特征的神经网络在处理遥感场景分类问题。gydF4y2Ba
许多实验和消融研究已经开展了关于印度的公共高光谱数据集三个松树,萨利纳斯,帕维亚大学和视觉分析的结果已经完成,证明其有效性MDCA-CP算法的优越性。gydF4y2Ba
剩下的纸被组织如下:部分gydF4y2Ba
2gydF4y2Ba简要介绍了与本文相关的其他工作。部分gydF4y2Ba
3gydF4y2Ba介绍了MDCA-CP算法的原理和实现细节。部分gydF4y2Ba
4gydF4y2Ba给出了实验结果和视觉分析。部分gydF4y2Ba
5gydF4y2Ba总结了基于本研究的结论。gydF4y2Ba
2。相关工作gydF4y2Ba
近年来,深度学习主要是基于多层神经网络,无限近似非线性函数通过使用三个或更多神经网络学习大量的抽象的图像中特征信息。因为它是相当难以获得上学的标签,深度学习方法的使用来实现更好的分类结果,同时使用少量的训练样本一直是研究的重点领域的高光谱遥感。经典的基于深度学习的神经网络模型包括autoencoder (AE) [gydF4y2Ba
22gydF4y2Ba),堆放autoencoder (SAE) [gydF4y2Ba
23gydF4y2Ba),并限制玻耳兹曼机(元)gydF4y2Ba
24gydF4y2Ba,gydF4y2Ba
25gydF4y2Ba]。尽管这些方法有相对良好的分类性能,学者们设计的深层神经网络模型基于cnn和其他人由于许多模型参数和肤浅的形象特征。方法相结合,应用于上学,并提供优越的分类特征提取效果和较高的分类性能。gydF4y2Ba
陈等人。gydF4y2Ba
18gydF4y2Ba)提出了深刻的特征提取和基于cnn HSI分类方法。CNN是用来提取深度非线性特性从上学,歧视和不变量。CNN和正则化方法用于提取上学的空间谱特性进行分类。徐et al。gydF4y2Ba
26gydF4y2Ba)提出了一个基于CNN,多源遥感数据的分类方法,主要使用两个渠道。CNN提取空间谱恒生指数的共同特征,融合他们的其他来源的遥感数据的特点,并分类。罗等。gydF4y2Ba
27gydF4y2Ba)提出了一种新的基于CNN HSI分类方法的空间谱特性的目标像素和相邻的像素提取。卷积操作执行,和卷积结果叠加成一个二维矩阵的输入标准CNN。最后,XGBoost分类模型,提出了王等。gydF4y2Ba
28gydF4y2Ba),是一个溪分类方法基于随机森林的组合技术和CNN。它认为CNN作为个体分类器,用于提取上学的识别特征。随机森林方法涉及到随机选择的特性和提取训练样本建立multiclassification系统执行一个分类任务。gydF4y2Ba
上述模型基于cnn都采用标准的卷积层和应用于铸铁的分类。为了使模型获得的巨大优势的标准卷积层,同时节省了大量的计算资源,一些学者关注机制引入到分类模型。梅等。gydF4y2Ba
29日gydF4y2Ba)提出了HSI分类spectral-spatial关注网络。这个方法可以学习内部光谱相关性在连续光谱,和注意力模型着重于邻近的像素在空间维度。实验结果表明,该方法可以充分利用光谱信息。为了提取光谱和空间特性,马et al。gydF4y2Ba
30.gydF4y2Ba)提出了一个dual-branch multiattention网络(DBMA)溪分类机制。网络有两个分支,提取光谱和空间特性,分别减少两个特性的干扰。此外,由于两个分支的不同特点,两种类型的注意机制应用在两个分支,分别可以确保更独特的光谱和空间特性。使用这种方法取得了良好的计算结果。上述研究表明,注意力机制(gydF4y2Ba
31日gydF4y2Ba,gydF4y2Ba
32gydF4y2Ba)是极其有效的高光谱数据分类任务和提供优秀的结果。gydF4y2Ba
3所示。方法gydF4y2Ba
图gydF4y2Ba
1gydF4y2Ba展示了一个示意性的整体架构MDCA-CP算法。首先,保局投影(牧民联盟)是用于减少恒生指数消除冗余信息的维数,减少计算成本。其次,输入到我们的MDCA reduced-dimensional特性模块,并通过CP提取的二阶特性。最后,将SoftMax函数是用于预测每个像素达到高光谱数据的分类。gydF4y2Ba
示意图显示MDCA-CP算法的总体架构。gydF4y2Ba
⊗gydF4y2Ba
代表了特征融合操作,而gydF4y2Ba
⊕gydF4y2Ba
代表着功能连接操作。gydF4y2Ba
3.1。保局投影gydF4y2Ba
光谱图像每个像素的恒生指数有多个endmember光谱图像在同一时间。在一个低维子空间,可以将高维数据投影到这低纬度溪时子空间分类。所包含的像素代表一个endmember,代表一个地面的特征特性。本地保存降维方法在本研究中可以找到一个线性映射gydF4y2Ba
米gydF4y2Ba
。相邻像素的原始铸铁可以获得相对较近的投影空间的距离,因此实现有效保留在当地社区的相关信息,有效地保护原溪的多样化的局部结构。假设原始数据的训练样本gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
,类标签gydF4y2Ba
xgydF4y2Ba
jgydF4y2Ba
是样品的数量分类,gydF4y2Ba
xgydF4y2BathgydF4y2Ba训练样本的总数,训练样本吗gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
和gydF4y2Ba
xgydF4y2Ba
jgydF4y2Ba
。然后,之间的关系方程gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
和gydF4y2Ba
xgydF4y2Ba
jgydF4y2Ba
可以表示如下:gydF4y2Ba
(1)gydF4y2Ba
一个gydF4y2Ba
我gydF4y2Ba
jgydF4y2Ba
=gydF4y2Ba
经验值gydF4y2Ba
−gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
−gydF4y2Ba
xgydF4y2Ba
jgydF4y2Ba
2gydF4y2Ba
γgydF4y2Ba
我gydF4y2Ba
−gydF4y2Ba
γgydF4y2Ba
jgydF4y2Ba
,gydF4y2Ba
在哪里gydF4y2Ba
γgydF4y2Ba
我gydF4y2Ba
=gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
−gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
米gydF4y2Ba
代表当地的样本规模gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
和gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
米gydF4y2Ba
代表了gydF4y2Ba
米gydF4y2Ba
th相邻像素的样本gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
。当地的组内的散射矩阵gydF4y2Ba
lgydF4y2Ba
lgydF4y2Ba
bgydF4y2Ba
和gydF4y2Ba
lgydF4y2Ba
lgydF4y2Ba
wgydF4y2Ba
维数降低被定义为在本地保存gydF4y2Ba
(2)gydF4y2Ba
lgydF4y2Ba
lgydF4y2Ba
bgydF4y2Ba
=gydF4y2Ba
1gydF4y2Ba
2gydF4y2Ba
∑gydF4y2Ba
我gydF4y2Ba
,gydF4y2Ba
jgydF4y2Ba
=gydF4y2Ba
1gydF4y2Ba
ngydF4y2Ba
WgydF4y2Ba
我gydF4y2Ba
,gydF4y2Ba
jgydF4y2Ba
lgydF4y2Ba
bgydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
−gydF4y2Ba
xgydF4y2Ba
jgydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
−gydF4y2Ba
xgydF4y2Ba
jgydF4y2Ba
TgydF4y2Ba
,gydF4y2Ba
lgydF4y2Ba
lgydF4y2Ba
wgydF4y2Ba
=gydF4y2Ba
∑gydF4y2Ba
我gydF4y2Ba
,gydF4y2Ba
jgydF4y2Ba
=gydF4y2Ba
1gydF4y2Ba
ngydF4y2Ba
WgydF4y2Ba
我gydF4y2Ba
,gydF4y2Ba
jgydF4y2Ba
lgydF4y2Ba
wgydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
−gydF4y2Ba
xgydF4y2Ba
jgydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
−gydF4y2Ba
xgydF4y2Ba
jgydF4y2Ba
TgydF4y2Ba
。gydF4y2Ba
这两个gydF4y2Ba
lgydF4y2Ba
lgydF4y2Ba
bgydF4y2Ba
和gydF4y2Ba
lgydF4y2Ba
lgydF4y2Ba
wgydF4y2Ba
是gydF4y2Ba
ngydF4y2Ba×gydF4y2Ba
ngydF4y2Ba维方阵。gydF4y2Ba
方程(gydF4y2Ba
1gydF4y2Ba)提供相同的相邻像素的权重,和组内的散射矩阵gydF4y2Ba
lgydF4y2Ba
lgydF4y2Ba
bgydF4y2Ba
和gydF4y2Ba
lgydF4y2Ba
lgydF4y2Ba
wgydF4y2Ba
几乎不影响相同的不相邻像素。由当地传播矩阵,由最大化费舍尔的比例gydF4y2Ba
(3)gydF4y2Ba
lgydF4y2Ba
lgydF4y2Ba
bgydF4y2Ba
TgydF4y2Ba
=gydF4y2Ba
δgydF4y2Ba
lgydF4y2Ba
lgydF4y2Ba
wgydF4y2Ba
TgydF4y2Ba
。gydF4y2Ba
变换矩阵得到的变形计算gydF4y2Ba
(4)gydF4y2Ba
TgydF4y2Ba
LFDAgydF4y2Ba
=gydF4y2Ba
参数gydF4y2Ba
马克斯gydF4y2Ba
tgydF4y2Ba
rgydF4y2Ba
TgydF4y2Ba
∈gydF4y2Ba
RgydF4y2Ba
dgydF4y2Ba
×gydF4y2Ba
rgydF4y2Ba
TgydF4y2Ba
LFDAgydF4y2Ba
TgydF4y2Ba
lgydF4y2Ba
lgydF4y2Ba
wgydF4y2Ba
TgydF4y2Ba
LFDAgydF4y2Ba
−gydF4y2Ba
1gydF4y2Ba
TgydF4y2Ba
LFDAgydF4y2Ba
TgydF4y2Ba
lgydF4y2Ba
lgydF4y2Ba
bgydF4y2Ba
TgydF4y2Ba
LFDAgydF4y2Ba
。gydF4y2Ba
牧民联盟减少相同的相邻数据通过变换矩阵,gydF4y2Ba
TgydF4y2Ba。他们有效地分离不同类型的相邻数据同时保留数据的地方特色。使用本地保留和降维预处理原溪,消除冗余信息。类似的类的分布更加紧凑,减少噪音,提高分类精度。gydF4y2Ba
3.2。多尺度卷积gydF4y2Ba
在这部作品中,使用多尺度卷积内核有两个主要优点:gydF4y2Ba
多尺度卷积核的最大优势是不同大小的卷积核从上学可以提取不同尺度的特征。因此,过滤器可以提取和学习更丰富的信息。gydF4y2Ba
当CNN训练模型,培训是通过学习滤波器的参数(重量和补偿),即通过不断学习滤波器的参数达到最优值最接近的标签。在这项研究中,多尺度卷积内核被用来使每一个卷积层具有不同的过滤器,从而实现多样化的重量和偏见学习和一个完整的、有效的提取和学习的有用的信息。gydF4y2Ba
在计算机视觉模型,多尺度推理方法通常用于获得最好的结果。一般来说,细节有效地预测在更大的尺寸,较大的对象是有效地预测在较小的尺寸,和接收的网络可以在较小的尺寸准确理解现场。相比传统的多尺度结构,一种新的多尺度密度卷积模型(如图gydF4y2Ba
2gydF4y2Ba)在本研究提出了。特别是,我们应用卷积过程提取特征四个尺寸:11×11日7×7,5×5和3×3。相应的计算公式如下:gydF4y2Ba
(5)gydF4y2Ba
YgydF4y2Ba
1gydF4y2Ba
=gydF4y2Ba
ϕgydF4y2Ba
∑gydF4y2Ba
我gydF4y2Ba
=gydF4y2Ba
0gydF4y2Ba
ngydF4y2Ba
1gydF4y2Ba
wgydF4y2Ba
我gydF4y2Ba
jgydF4y2Ba
1gydF4y2Ba
∗gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
1gydF4y2Ba
+gydF4y2Ba
bgydF4y2Ba
jgydF4y2Ba
1gydF4y2Ba
,gydF4y2Ba
YgydF4y2Ba
2gydF4y2Ba
=gydF4y2Ba
添加gydF4y2Ba
ϕgydF4y2Ba
∑gydF4y2Ba
我gydF4y2Ba
=gydF4y2Ba
0gydF4y2Ba
ngydF4y2Ba
1gydF4y2Ba
wgydF4y2Ba
我gydF4y2Ba
jgydF4y2Ba
1gydF4y2Ba
∗gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
1gydF4y2Ba
+gydF4y2Ba
bgydF4y2Ba
jgydF4y2Ba
1gydF4y2Ba
,gydF4y2Ba
ϕgydF4y2Ba
∑gydF4y2Ba
我gydF4y2Ba
=gydF4y2Ba
0gydF4y2Ba
ngydF4y2Ba
2gydF4y2Ba
wgydF4y2Ba
我gydF4y2Ba
jgydF4y2Ba
2gydF4y2Ba
∗gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
2gydF4y2Ba
+gydF4y2Ba
bgydF4y2Ba
jgydF4y2Ba
2gydF4y2Ba
,gydF4y2Ba
YgydF4y2Ba
3gydF4y2Ba
=gydF4y2Ba
ϕgydF4y2Ba
∑gydF4y2Ba
我gydF4y2Ba
=gydF4y2Ba
0gydF4y2Ba
ngydF4y2Ba
3gydF4y2Ba
wgydF4y2Ba
我gydF4y2Ba
jgydF4y2Ba
3gydF4y2Ba
∗gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
3gydF4y2Ba
+gydF4y2Ba
bgydF4y2Ba
jgydF4y2Ba
3gydF4y2Ba
,gydF4y2Ba
YgydF4y2Ba
4gydF4y2Ba
=gydF4y2Ba
添加gydF4y2Ba
ϕgydF4y2Ba
∑gydF4y2Ba
我gydF4y2Ba
=gydF4y2Ba
0gydF4y2Ba
ngydF4y2Ba
1gydF4y2Ba
wgydF4y2Ba
我gydF4y2Ba
jgydF4y2Ba
1gydF4y2Ba
∗gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
1gydF4y2Ba
+gydF4y2Ba
bgydF4y2Ba
jgydF4y2Ba
1gydF4y2Ba
,gydF4y2Ba
ϕgydF4y2Ba
∑gydF4y2Ba
我gydF4y2Ba
=gydF4y2Ba
0gydF4y2Ba
ngydF4y2Ba
2gydF4y2Ba
wgydF4y2Ba
我gydF4y2Ba
jgydF4y2Ba
2gydF4y2Ba
∗gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
2gydF4y2Ba
+gydF4y2Ba
bgydF4y2Ba
jgydF4y2Ba
2gydF4y2Ba
,gydF4y2Ba
ϕgydF4y2Ba
∑gydF4y2Ba
我gydF4y2Ba
=gydF4y2Ba
0gydF4y2Ba
ngydF4y2Ba
3gydF4y2Ba
wgydF4y2Ba
我gydF4y2Ba
jgydF4y2Ba
3gydF4y2Ba
∗gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
3gydF4y2Ba
+gydF4y2Ba
bgydF4y2Ba
jgydF4y2Ba
3gydF4y2Ba
,gydF4y2Ba
YgydF4y2Ba
5gydF4y2Ba
=gydF4y2Ba
添加gydF4y2Ba
ϕgydF4y2Ba
∑gydF4y2Ba
我gydF4y2Ba
=gydF4y2Ba
0gydF4y2Ba
ngydF4y2Ba
1gydF4y2Ba
wgydF4y2Ba
我gydF4y2Ba
jgydF4y2Ba
1gydF4y2Ba
∗gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
1gydF4y2Ba
+gydF4y2Ba
bgydF4y2Ba
jgydF4y2Ba
1gydF4y2Ba
,gydF4y2Ba
ϕgydF4y2Ba
∑gydF4y2Ba
我gydF4y2Ba
=gydF4y2Ba
0gydF4y2Ba
ngydF4y2Ba
2gydF4y2Ba
wgydF4y2Ba
我gydF4y2Ba
jgydF4y2Ba
2gydF4y2Ba
∗gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
2gydF4y2Ba
+gydF4y2Ba
bgydF4y2Ba
jgydF4y2Ba
2gydF4y2Ba
,gydF4y2Ba
ϕgydF4y2Ba
∑gydF4y2Ba
我gydF4y2Ba
=gydF4y2Ba
0gydF4y2Ba
ngydF4y2Ba
3gydF4y2Ba
wgydF4y2Ba
我gydF4y2Ba
jgydF4y2Ba
3gydF4y2Ba
∗gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
3gydF4y2Ba
+gydF4y2Ba
bgydF4y2Ba
jgydF4y2Ba
3gydF4y2Ba
,gydF4y2Ba
ϕgydF4y2Ba
∑gydF4y2Ba
我gydF4y2Ba
=gydF4y2Ba
0gydF4y2Ba
ngydF4y2Ba
4gydF4y2Ba
wgydF4y2Ba
我gydF4y2Ba
jgydF4y2Ba
4gydF4y2Ba
∗gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
4gydF4y2Ba
+gydF4y2Ba
bgydF4y2Ba
jgydF4y2Ba
4gydF4y2Ba
,gydF4y2Ba
在哪里gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
1gydF4y2Ba
,gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
2gydF4y2Ba
,gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
3gydF4y2Ba
,gydF4y2Ba
xgydF4y2Ba
我gydF4y2Ba
4gydF4y2Ba
,gydF4y2Ba
wgydF4y2Ba
我gydF4y2Ba
jgydF4y2Ba
1gydF4y2Ba
,gydF4y2Ba
wgydF4y2Ba
我gydF4y2Ba
jgydF4y2Ba
2gydF4y2Ba
,gydF4y2Ba
wgydF4y2Ba
我gydF4y2Ba
jgydF4y2Ba
3gydF4y2Ba
,gydF4y2Ba
wgydF4y2Ba
我gydF4y2Ba
jgydF4y2Ba
4gydF4y2Ba
代表的神经元和权重的多尺度卷积层和内核gydF4y2Ba
ngydF4y2Ba
代表的数量在CONV_i过滤器。卷积的输出层,gydF4y2Ba
YgydF4y2Ba是美联储cross-attention-guided CP模块。gydF4y2Ba
示意图显示了多尺度层,包括四个不同的规模的隆起。gydF4y2Ba
YgydF4y2Ba
1gydF4y2Ba
,gydF4y2Ba
YgydF4y2Ba
2gydF4y2Ba
,gydF4y2Ba
YgydF4y2Ba
3gydF4y2Ba
,gydF4y2Ba
YgydF4y2Ba
4gydF4y2Ba
,gydF4y2Ba
YgydF4y2Ba
5gydF4y2Ba
从不同的规模分布特征图。gydF4y2Ba
3.3。Cross-Attention机制gydF4y2Ba
3.3.1。注意机制gydF4y2Ba
从本质上讲,深度学习的注意机制类似于人类视觉注意机制做出选择时使用。这两种方法的目的都在于过滤的关键信息,哪个更有利于他们正在处理的任务,从大量的信息,抑制无用的信息不相关的任务。注意机制是著名的在两个方面:一方面,它可以在本地选择重要的信息需要关注整个输入本身;另一方面,它可以合理地分配少量的重要信息通过计算资源的关键任务目标。因为这两个方面,使当前的注意机制的网络被广泛应用于图像识别,脱颖而出,注意力机制可以增强本地信息的特点。此外,关注区域的位置会改变根据任务目标;通过了解目标的本地信息,大多数有用的信息对应到目标可以好好利用。图gydF4y2Ba
3gydF4y2Ba网络框架显示的注意机制。译码器的输出部分可以表示如下:gydF4y2Ba
(6)gydF4y2Ba
年代gydF4y2Ba
tgydF4y2Ba
=gydF4y2Ba
fgydF4y2Ba
年代gydF4y2Ba
tgydF4y2Ba
−gydF4y2Ba
1gydF4y2Ba
,gydF4y2Ba
ygydF4y2Ba
tgydF4y2Ba
−gydF4y2Ba
1gydF4y2Ba
,gydF4y2Ba
CgydF4y2Ba
tgydF4y2Ba
,gydF4y2Ba
在哪里gydF4y2Ba
年代gydF4y2Ba
tgydF4y2Ba
一次是译码器的输出gydF4y2Ba
tgydF4y2Ba
,gydF4y2Ba
年代gydF4y2Ba
tgydF4y2Ba
−gydF4y2Ba
1gydF4y2Ba
一次是译码器的输出gydF4y2Ba
tgydF4y2Ba
−gydF4y2Ba
1gydF4y2Ba
,gydF4y2Ba
ygydF4y2Ba
tgydF4y2Ba
−gydF4y2Ba
1gydF4y2Ba
标签一次吗gydF4y2Ba
tgydF4y2Ba
−gydF4y2Ba
1gydF4y2Ba
,gydF4y2Ba
fgydF4y2Ba
是致密层。gydF4y2Ba
(7)gydF4y2Ba
CgydF4y2Ba
tgydF4y2Ba
=gydF4y2Ba
∑gydF4y2Ba
jgydF4y2Ba
=gydF4y2Ba
1gydF4y2Ba
TgydF4y2Ba
xgydF4y2Ba
一个gydF4y2Ba
tgydF4y2Ba
jgydF4y2Ba
hgydF4y2Ba
jgydF4y2Ba
,gydF4y2Ba
在哪里gydF4y2Ba
CgydF4y2Ba
tgydF4y2Ba
下一个状态的输出,gydF4y2Ba
hgydF4y2Ba
jgydF4y2Ba
的输出是什么gydF4y2Ba
jgydF4y2Ba
th译码器的输入gydF4y2Ba
一个gydF4y2Ba
tgydF4y2Ba
jgydF4y2Ba
注意体重。gydF4y2Ba
(8)gydF4y2Ba
一个gydF4y2Ba
tgydF4y2Ba
jgydF4y2Ba
=gydF4y2Ba
经验值gydF4y2Ba
egydF4y2Ba
tgydF4y2Ba
jgydF4y2Ba
∑gydF4y2Ba
kgydF4y2Ba
=gydF4y2Ba
1gydF4y2Ba
TgydF4y2Ba
xgydF4y2Ba
经验值gydF4y2Ba
egydF4y2Ba
tgydF4y2Ba
kgydF4y2Ba
,gydF4y2Ba
egydF4y2Ba
tgydF4y2Ba
jgydF4y2Ba
=gydF4y2Ba
ggydF4y2Ba
年代gydF4y2Ba
tgydF4y2Ba
−gydF4y2Ba
1gydF4y2Ba
,gydF4y2Ba
hgydF4y2Ba
jgydF4y2Ba
=gydF4y2Ba
vgydF4y2Ba
×gydF4y2Ba
双曲正切gydF4y2Ba
WgydF4y2Ba
×gydF4y2Ba
hgydF4y2Ba
jgydF4y2Ba
+gydF4y2Ba
ugydF4y2Ba
×gydF4y2Ba
年代gydF4y2Ba
tgydF4y2Ba
−gydF4y2Ba
1gydF4y2Ba
+gydF4y2Ba
bgydF4y2Ba
,gydF4y2Ba
在哪里gydF4y2Ba
一个gydF4y2Ba
tgydF4y2Ba
jgydF4y2Ba
代表了当前解码器和之间的对齐程度gydF4y2Ba
jgydF4y2Ba
th输入,注意体重。gydF4y2Ba
ggydF4y2Ba
用于计算分数之间的关系gydF4y2Ba
年代gydF4y2Ba
tgydF4y2Ba
−gydF4y2Ba
1gydF4y2Ba
和gydF4y2Ba
hgydF4y2Ba
jgydF4y2Ba
。可以看出,如果分数较高,注意分布集中在输入。gydF4y2Ba
注意机制模型的示意图。gydF4y2Ba
3.3.2。Cross-AttentiongydF4y2Ba
考虑到传统的注意机制分配注意体重只从一个方向,它常常会导致失去功能的信息。本研究提出了一种cross-attention机制,构造两个小说重量分配策略:体重增加和最大化的策略。第一,cross-attention机制计算特征权重系数以及水平和垂直方向。添加这两个权重系数,以增强功能,和最大的权重系数是通过应用最大化的策略。最后,通过融合两种策略得到的输出。图gydF4y2Ba
4gydF4y2Ba显示了一个示意图cross-attention机制。gydF4y2Ba
cross-attention机制的示意图。gydF4y2Ba
方程计算加法和最大化的重量如下:gydF4y2Ba
(9)gydF4y2Ba
年代gydF4y2Ba
tgydF4y2Ba
jgydF4y2Ba
=gydF4y2Ba
∑gydF4y2Ba
jgydF4y2Ba
=gydF4y2Ba
1gydF4y2Ba
TgydF4y2Ba
xgydF4y2Ba
经验值gydF4y2Ba
egydF4y2Ba
tgydF4y2Ba
jgydF4y2Ba
∑gydF4y2Ba
kgydF4y2Ba
=gydF4y2Ba
1gydF4y2Ba
TgydF4y2Ba
xgydF4y2Ba
经验值gydF4y2Ba
egydF4y2Ba
tgydF4y2Ba
kgydF4y2Ba
hgydF4y2Ba
jgydF4y2Ba
,gydF4y2Ba
添加gydF4y2Ba
=gydF4y2Ba
年代gydF4y2Ba
1gydF4y2Ba
+gydF4y2Ba
年代gydF4y2Ba
2gydF4y2Ba
,gydF4y2Ba
马克斯gydF4y2Ba
=gydF4y2Ba
年代gydF4y2Ba
1gydF4y2Ba
,gydF4y2Ba
年代gydF4y2Ba
2gydF4y2Ba
,gydF4y2Ba
交叉gydF4y2Ba
_gydF4y2Ba
丙氨酸gydF4y2Ba
=gydF4y2Ba
连接gydF4y2Ba
年代gydF4y2Ba
1gydF4y2Ba
,gydF4y2Ba
年代gydF4y2Ba
2gydF4y2Ba
,gydF4y2Ba
添加gydF4y2Ba
,gydF4y2Ba
马克斯gydF4y2Ba
,gydF4y2Ba
在哪里gydF4y2Ba
年代gydF4y2Ba
1gydF4y2Ba
和gydF4y2Ba
年代gydF4y2Ba
2gydF4y2Ba
代表权重系数的水平和垂直的注意机制,分别gydF4y2Ba
添加gydF4y2Ba
代表的重量系数,gydF4y2Ba
马克斯gydF4y2Ba
代表的最大化运行重量系数。gydF4y2Ba
3.4。协方差池gydF4y2Ba
传统的卷积层CNN使用max /平均池、和完全连接层只能捕捉到一阶信息。虽然修正线性单元(ReLU)引入了非线性,只有有限的单像素级别的。我们相信,协方差矩阵池(如图gydF4y2Ba
5gydF4y2Ba)可以提取功能与效率高于一阶统计上学。如果它是一组特性,其协方差矩阵gydF4y2Ba
(10)gydF4y2Ba
CPgydF4y2Ba
=gydF4y2Ba
1gydF4y2Ba
ngydF4y2Ba
−gydF4y2Ba
1gydF4y2Ba
∑gydF4y2Ba
我gydF4y2Ba
=gydF4y2Ba
1gydF4y2Ba
ngydF4y2Ba
fgydF4y2Ba
我gydF4y2Ba
−gydF4y2Ba
fgydF4y2Ba
¯gydF4y2Ba
fgydF4y2Ba
我gydF4y2Ba
−gydF4y2Ba
fgydF4y2Ba
¯gydF4y2Ba
TgydF4y2Ba
,gydF4y2Ba
在哪里gydF4y2Ba
fgydF4y2Ba
¯gydF4y2Ba
=gydF4y2Ba
1gydF4y2Ba
/gydF4y2Ba
ngydF4y2Ba
∑gydF4y2Ba
我gydF4y2Ba
=gydF4y2Ba
1gydF4y2Ba
ngydF4y2Ba
fgydF4y2Ba
我gydF4y2Ba
。只有当线性独立的组件的数量gydF4y2Ba
fgydF4y2Ba
1gydF4y2Ba
,gydF4y2Ba
fgydF4y2Ba
2gydF4y2Ba
,gydF4y2Ba
…gydF4y2Ba
,gydF4y2Ba
fgydF4y2Ba
ngydF4y2Ba
大于gydF4y2Ba
dgydF4y2Ba
,得到的矩阵是对称正定矩阵(SPD)。协方差矩阵必须SPD使用多种网络的几何结构保持层。然而,即使只有半正定矩阵,它可以通过添加一个规范化的多个跟踪的协方差矩阵的对角项如下:gydF4y2Ba
(11)gydF4y2Ba
CPgydF4y2Ba
+gydF4y2Ba
=gydF4y2Ba
CPgydF4y2Ba
+gydF4y2Ba
λgydF4y2Ba
跟踪gydF4y2Ba
CPgydF4y2Ba
我gydF4y2Ba
,gydF4y2Ba
在哪里gydF4y2Ba
λgydF4y2Ba
常规参数和吗gydF4y2Ba
我gydF4y2Ba
是单位矩阵。gydF4y2Ba
插图的协方差池的概念。gydF4y2Ba
3.5。特征融合gydF4y2Ba
多尺度卷积的输出特性是拼接,CP所引导的cross-attention机制用于获取最后的深特性。编写相同的计算公式如下:gydF4y2Ba
(12)gydF4y2Ba
OgydF4y2Ba
=gydF4y2Ba
添加gydF4y2Ba
CPgydF4y2Ba
+gydF4y2Ba
YgydF4y2Ba
1gydF4y2Ba
,gydF4y2Ba
CPgydF4y2Ba
+gydF4y2Ba
交叉gydF4y2Ba
_gydF4y2Ba
丙氨酸gydF4y2Ba
YgydF4y2Ba
2gydF4y2Ba
,gydF4y2Ba
CPgydF4y2Ba
+gydF4y2Ba
YgydF4y2Ba
3gydF4y2Ba
,gydF4y2Ba
CPgydF4y2Ba
+gydF4y2Ba
交叉gydF4y2Ba
_gydF4y2Ba
丙氨酸gydF4y2Ba
YgydF4y2Ba
4gydF4y2Ba
,gydF4y2Ba
CPgydF4y2Ba
+gydF4y2Ba
交叉gydF4y2Ba
_gydF4y2Ba
丙氨酸gydF4y2Ba
YgydF4y2Ba
5gydF4y2Ba
,gydF4y2Ba
在哪里gydF4y2Ba
OgydF4y2Ba代表CP的输出模块的指导下多尺度cross-attention机制。gydF4y2Ba
4所示。实验gydF4y2Ba
4.1。评价指标gydF4y2Ba
上学需要一个分类的结果评估MDCA-CP算法的分类能力。同样的,需要评估指标作为衡量标准。在这个工作中,三个评价指标被用于HSI分类:kappa系数,平均精度(AA),和整体精度(OA)。gydF4y2Ba
以下4.4.1。办公自动化gydF4y2Ba
这个评价指标是表示为正确的数量的比例分类像素标记像素的总数。如果gydF4y2Ba
ngydF4y2Ba
代表图像的类别功能对象的数量,gydF4y2Ba
NgydF4y2Ba
我gydF4y2Ba
代表了的像素数量gydF4y2Ba
我gydF4y2Ba
th类别,gydF4y2Ba
hgydF4y2Ba
我gydF4y2Ba
我gydF4y2Ba
代表的正确分类的像素数量gydF4y2Ba
我gydF4y2Ba
th类别,然后OA表示为gydF4y2Ba
(13)gydF4y2Ba
办公自动化gydF4y2Ba
=gydF4y2Ba
∑gydF4y2Ba
我gydF4y2Ba
=gydF4y2Ba
1gydF4y2Ba
ngydF4y2Ba
hgydF4y2Ba
我gydF4y2Ba
我gydF4y2Ba
∑gydF4y2Ba
我gydF4y2Ba
=gydF4y2Ba
1gydF4y2Ba
ngydF4y2Ba
NgydF4y2Ba
我gydF4y2Ba
。gydF4y2Ba
4.1.2。AAgydF4y2Ba
这个评价指标定义如下。正确的数量的比例每个类别的分类像素分类计算像素的总数。整体分类总结的比率。进一步获得金额除以总体分类,从而使一个数字,这是平均分类精度。如果gydF4y2Ba
NgydF4y2Ba
代表样本像素的数量在整个训练样本进行测试,gydF4y2Ba
ngydF4y2Ba
代表类别的数量,gydF4y2Ba
hgydF4y2Ba
我gydF4y2Ba
我gydF4y2Ba
代表正确分类的像素的数量gydF4y2Ba
我gydF4y2Ba
th类别,则表示为AAgydF4y2Ba
(14)gydF4y2Ba
AAgydF4y2Ba
=gydF4y2Ba
1gydF4y2Ba
ngydF4y2Ba
∑gydF4y2Ba
我gydF4y2Ba
=gydF4y2Ba
1gydF4y2Ba
ngydF4y2Ba
hgydF4y2Ba
我gydF4y2Ba
我gydF4y2Ba
NgydF4y2Ba
我gydF4y2Ba
。gydF4y2Ba
4.1.3。卡巴gydF4y2Ba
这个系数是一个性能指标用于测量的准确性通过分类混淆矩阵和用于分类的一致性测试。它可以表示如下:gydF4y2Ba
(15)gydF4y2Ba
卡巴gydF4y2Ba
=gydF4y2Ba
PgydF4y2Ba
ogydF4y2Ba
−gydF4y2Ba
PgydF4y2Ba
egydF4y2Ba
1gydF4y2Ba
−gydF4y2Ba
PgydF4y2Ba
egydF4y2Ba
。gydF4y2Ba
4.2。数据集gydF4y2Ba
本文将测试该MDCA-CP三个基准数据集:IP(印度松树),聚氨酯(帕维亚大学),SA(盐沼)来验证其有效性。一个AVIRIS传感器在西北印第安纳IP数据集。它包含145像素×145像素在空间域。光谱域是由224年的乐队,光谱反射率和波长范围是0.4 - -2.45gydF4y2Ba
μgydF4y2Ba
m。其中,可用地面真理是分为16个类别。在本文的实验中,20吸水乐队中,最终的图像大小是××145像素145像素200像素。防治传感器把聚氨酯在意大利北部的数据集。它由10像素×340像素在空间域;删除后水吸收带,谱域包含103光谱波段,光谱覆盖范围从430到860纳米。其中,地面真理分为9类,图像的大小本文的实验中使用的是610×340×103。gydF4y2Ba
SA数据集被AVIRIS传感器在加州。它有224个乐队在光谱域×217像素和512像素在空间域。它也有一个高空间分辨率(3.7像素)。gydF4y2Ba
特性gydF4y2Ba。删除20吸水乐队后,实验图像的大小是512像素××217像素204像素,和可用的地面真理是分为16个类别。表gydF4y2Ba
1gydF4y2Ba- - - - - -gydF4y2Ba
3gydF4y2Ba详细描述这三个数据集的样本数量。gydF4y2Ba
学科分类数据集分布的IP。gydF4y2Ba
| 类型gydF4y2Ba |
物种gydF4y2Ba |
样品gydF4y2Ba |
| C1gydF4y2Ba |
紫花苜蓿gydF4y2Ba |
46gydF4y2Ba |
| C2gydF4y2Ba |
Corn-notillgydF4y2Ba |
1428年gydF4y2Ba |
| C3gydF4y2Ba |
Corn-mintillgydF4y2Ba |
830年gydF4y2Ba |
| C4gydF4y2Ba |
玉米gydF4y2Ba |
237年gydF4y2Ba |
| C5gydF4y2Ba |
Grass-pasturegydF4y2Ba |
483年gydF4y2Ba |
| C6gydF4y2Ba |
Grass-treesgydF4y2Ba |
730年gydF4y2Ba |
| C7gydF4y2Ba |
Grass-pasture-mowedgydF4y2Ba |
28gydF4y2Ba |
| C8gydF4y2Ba |
Hay-windrowedgydF4y2Ba |
478年gydF4y2Ba |
| 制备过程gydF4y2Ba |
燕麦gydF4y2Ba |
20.gydF4y2Ba |
| 10大gydF4y2Ba |
Soybean-notillgydF4y2Ba |
972年gydF4y2Ba |
| C11gydF4y2Ba |
Soybean-mintillgydF4y2Ba |
2455年gydF4y2Ba |
| C12gydF4y2Ba |
Soybean-cleangydF4y2Ba |
593年gydF4y2Ba |
| C13gydF4y2Ba |
小麦gydF4y2Ba |
205年gydF4y2Ba |
| 碳gydF4y2Ba |
森林gydF4y2Ba |
1265年gydF4y2Ba |
| C15gydF4y2Ba |
Buildings-grass-trees-drivesgydF4y2Ba |
386年gydF4y2Ba |
| C16gydF4y2Ba |
Stone-steel-towersgydF4y2Ba |
93年gydF4y2Ba |
学科分类数据集分布的PU。gydF4y2Ba
| 类型gydF4y2Ba |
类gydF4y2Ba |
样品gydF4y2Ba |
| C1gydF4y2Ba |
沥青gydF4y2Ba |
6631年gydF4y2Ba |
| C2gydF4y2Ba |
梅多斯gydF4y2Ba |
18649年gydF4y2Ba |
| C3gydF4y2Ba |
砾石gydF4y2Ba |
2099年gydF4y2Ba |
| C4gydF4y2Ba |
树gydF4y2Ba |
3064年gydF4y2Ba |
| C5gydF4y2Ba |
金属板画gydF4y2Ba |
1345年gydF4y2Ba |
| C6gydF4y2Ba |
裸露的土壤gydF4y2Ba |
5029年gydF4y2Ba |
| C7gydF4y2Ba |
沥青gydF4y2Ba |
1330年gydF4y2Ba |
| C8gydF4y2Ba |
阻挡效应砖gydF4y2Ba |
3682年gydF4y2Ba |
| 制备过程gydF4y2Ba |
阴影gydF4y2Ba |
947年gydF4y2Ba |
学科分类数据集分布的SV。gydF4y2Ba
| 类型gydF4y2Ba |
类gydF4y2Ba |
样品gydF4y2Ba |
| C1gydF4y2Ba |
Brocoli_green_weeds_1gydF4y2Ba |
2009年gydF4y2Ba |
| C2gydF4y2Ba |
Brocoli_green_weeds_2gydF4y2Ba |
3726年gydF4y2Ba |
| C3gydF4y2Ba |
休耕的gydF4y2Ba |
1976年gydF4y2Ba |
| C4gydF4y2Ba |
Fallow_rough_plowgydF4y2Ba |
1394年gydF4y2Ba |
| C5gydF4y2Ba |
Fallow_smoothgydF4y2Ba |
2678年gydF4y2Ba |
| C6gydF4y2Ba |
碎秸gydF4y2Ba |
3959年gydF4y2Ba |
| C7gydF4y2Ba |
芹菜gydF4y2Ba |
3579年gydF4y2Ba |
| C8gydF4y2Ba |
Grapes_untrainedgydF4y2Ba |
11271年gydF4y2Ba |
| 制备过程gydF4y2Ba |
Soil_vinyard_developgydF4y2Ba |
6203年gydF4y2Ba |
| 10大gydF4y2Ba |
Corn_senesced_green_weedsgydF4y2Ba |
3278年gydF4y2Ba |
| C11gydF4y2Ba |
Lettuce_romaine_4wkgydF4y2Ba |
1068年gydF4y2Ba |
| C12gydF4y2Ba |
Lettuce_romaine_5wkgydF4y2Ba |
1927年gydF4y2Ba |
| C13gydF4y2Ba |
Lettuce_romaine_6wkgydF4y2Ba |
916年gydF4y2Ba |
| 碳gydF4y2Ba |
Lettuce_romaine_7wkgydF4y2Ba |
1070年gydF4y2Ba |
| C15gydF4y2Ba |
Vinyard_untrainedgydF4y2Ba |
7268年gydF4y2Ba |
| C16gydF4y2Ba |
Vinyard_vertical_trellisgydF4y2Ba |
1807年gydF4y2Ba |
4.3。Hyperparameter设置gydF4y2Ba
MDCA-CP提出本文基于Python语言和Keras深度学习框架。实验环境是Windows 10操作系统,16 GB的RAM和NVIDIA GeForce GTX 1080 8 GB GPU。为了防止不同的训练样本,造成的偏差的平均值超过20相同条件下的实验结果进行了分析。在这个模型中,采用随机梯度下降法来更新重量。学习速率为0.01,断开连接的神经元的比例在辍学层的连接设置为0.5,ReLU和激活函数。在这篇文章中,两国融合块网络是小批量的梯度下降训练。训练样本的数量设置为1000,和时代被设置为600,表gydF4y2Ba
4gydF4y2Ba显示了详细hyperparameter设置。gydF4y2Ba
实验参数设置。gydF4y2Ba
| 类型gydF4y2Ba |
HyperparametergydF4y2Ba |
| 亚当gydF4y2Ba |
学习速率= 0.01gydF4y2Ba |
|
βgydF4y2Ba
1gydF4y2Ba
= 0.9gydF4y2Ba |
|
βgydF4y2Ba
2gydF4y2Ba
= 0.999gydF4y2Ba |
| ε= 1 e-08gydF4y2Ba |
| 衰变= 3 e-8gydF4y2Ba |
4.4。从不同的方法获得的实验结果gydF4y2Ba
验证了该方法的有效性和正确性,比较的结果用MDCA-CP是获得使用AlexNet [gydF4y2Ba
23gydF4y2Ba],ResNet [gydF4y2Ba
33gydF4y2Ba],DenseNet [gydF4y2Ba
34gydF4y2Ba],普朗[gydF4y2Ba
35gydF4y2Ba],FSSFNet [gydF4y2Ba
36gydF4y2Ba],SAGP [gydF4y2Ba
37gydF4y2Ba]。为了确保公平在这个实验中,所有hyperparameters比较网络设置为相同的值。获得的结果运用三个数据集上的不同的模型给出了表gydF4y2Ba
5gydF4y2Ba- - - - - -gydF4y2Ba
7gydF4y2Ba。gydF4y2Ba
不同的方法对IP数据的分类结果(%)。gydF4y2Ba
| 方法gydF4y2Ba |
5%gydF4y2Ba |
10%gydF4y2Ba |
15%gydF4y2Ba |
| 办公自动化gydF4y2Ba |
AAgydF4y2Ba |
卡巴gydF4y2Ba |
办公自动化gydF4y2Ba |
AAgydF4y2Ba |
卡巴gydF4y2Ba |
办公自动化gydF4y2Ba |
AAgydF4y2Ba |
卡巴gydF4y2Ba |
| AlexNet [gydF4y2Ba
23gydF4y2Ba]gydF4y2Ba |
68.69gydF4y2Ba |
56.29gydF4y2Ba |
64.05gydF4y2Ba |
74.32gydF4y2Ba |
65.17gydF4y2Ba |
70.94gydF4y2Ba |
81.76gydF4y2Ba |
79.44gydF4y2Ba |
79.70gydF4y2Ba |
| ResNet [gydF4y2Ba
33gydF4y2Ba]gydF4y2Ba |
70.67gydF4y2Ba |
69.69gydF4y2Ba |
66.04gydF4y2Ba |
78.40gydF4y2Ba |
79.22gydF4y2Ba |
75.10gydF4y2Ba |
83.33gydF4y2Ba |
80.76gydF4y2Ba |
80.95gydF4y2Ba |
| DenseNet [gydF4y2Ba
34gydF4y2Ba]gydF4y2Ba |
71.23gydF4y2Ba |
67.55gydF4y2Ba |
66.66gydF4y2Ba |
78.37gydF4y2Ba |
75.29gydF4y2Ba |
75.87gydF4y2Ba |
84.66gydF4y2Ba |
81.37gydF4y2Ba |
82.58gydF4y2Ba |
| 普朗[gydF4y2Ba
35gydF4y2Ba]gydF4y2Ba |
72.45gydF4y2Ba |
73.37gydF4y2Ba |
69.48gydF4y2Ba |
77.66gydF4y2Ba |
73.28gydF4y2Ba |
74.47gydF4y2Ba |
82.72gydF4y2Ba |
76.51gydF4y2Ba |
80.28gydF4y2Ba |
| FSSFNet [gydF4y2Ba
36gydF4y2Ba]gydF4y2Ba |
73.75gydF4y2Ba |
67.95gydF4y2Ba |
69.98gydF4y2Ba |
78.66gydF4y2Ba |
71.26gydF4y2Ba |
75.47gydF4y2Ba |
82.61gydF4y2Ba |
74.48gydF4y2Ba |
80.05gydF4y2Ba |
| SAGP [gydF4y2Ba
37gydF4y2Ba]gydF4y2Ba |
73.49gydF4y2Ba |
76.58gydF4y2Ba |
73.61gydF4y2Ba |
78.36gydF4y2Ba |
80.89gydF4y2Ba |
76.72gydF4y2Ba |
81.59gydF4y2Ba |
86.50gydF4y2Ba |
82.89gydF4y2Ba |
| MDCA-CPgydF4y2Ba |
76.85gydF4y2Ba |
79.11gydF4y2Ba |
73.72gydF4y2Ba |
82.56gydF4y2Ba |
81.87gydF4y2Ba |
80.03gydF4y2Ba |
87.32gydF4y2Ba |
87.65gydF4y2Ba |
85.55gydF4y2Ba |
不同方法的分类结果PU数据(%)。gydF4y2Ba
| 方法gydF4y2Ba |
1%gydF4y2Ba |
5%gydF4y2Ba |
10%gydF4y2Ba |
| 办公自动化gydF4y2Ba |
AAgydF4y2Ba |
卡巴gydF4y2Ba |
办公自动化gydF4y2Ba |
AAgydF4y2Ba |
卡巴gydF4y2Ba |
办公自动化gydF4y2Ba |
AAgydF4y2Ba |
卡巴gydF4y2Ba |
| AlexNet [gydF4y2Ba
23gydF4y2Ba]gydF4y2Ba |
87.15gydF4y2Ba |
84.24gydF4y2Ba |
82.66gydF4y2Ba |
92.81gydF4y2Ba |
91.77gydF4y2Ba |
90.43gydF4y2Ba |
92.85gydF4y2Ba |
93.46gydF4y2Ba |
91.32gydF4y2Ba |
| ResNet [gydF4y2Ba
33gydF4y2Ba]gydF4y2Ba |
84.06gydF4y2Ba |
82.38gydF4y2Ba |
77.59gydF4y2Ba |
90.81gydF4y2Ba |
91.32gydF4y2Ba |
87.76gydF4y2Ba |
94.15gydF4y2Ba |
94.78gydF4y2Ba |
93.19gydF4y2Ba |
| DenseNet [gydF4y2Ba
34gydF4y2Ba]gydF4y2Ba |
82.32gydF4y2Ba |
80.61gydF4y2Ba |
75.69gydF4y2Ba |
90.25gydF4y2Ba |
89.49gydF4y2Ba |
87.08gydF4y2Ba |
92.27gydF4y2Ba |
93.46gydF4y2Ba |
91.21gydF4y2Ba |
| 普朗[gydF4y2Ba
35gydF4y2Ba]gydF4y2Ba |
89.27gydF4y2Ba |
88.61gydF4y2Ba |
85.63gydF4y2Ba |
93.45gydF4y2Ba |
92.32gydF4y2Ba |
91.48gydF4y2Ba |
94.71gydF4y2Ba |
93.55gydF4y2Ba |
93.02gydF4y2Ba |
| FSSFNet [gydF4y2Ba
36gydF4y2Ba]gydF4y2Ba |
86.63gydF4y2Ba |
84.23gydF4y2Ba |
82.11gydF4y2Ba |
93.72gydF4y2Ba |
92.35gydF4y2Ba |
91.65gydF4y2Ba |
94.37gydF4y2Ba |
92.65gydF4y2Ba |
92.52gydF4y2Ba |
| SAGP [gydF4y2Ba
37gydF4y2Ba]gydF4y2Ba |
84.32gydF4y2Ba |
83.84gydF4y2Ba |
78.83gydF4y2Ba |
91.09gydF4y2Ba |
89.75gydF4y2Ba |
88.14gydF4y2Ba |
93.73gydF4y2Ba |
92.97gydF4y2Ba |
91.65gydF4y2Ba |
| MDCA-CPgydF4y2Ba |
89.40gydF4y2Ba |
87.97gydF4y2Ba |
86.81gydF4y2Ba |
93.55gydF4y2Ba |
91.91gydF4y2Ba |
92.21gydF4y2Ba |
94.99gydF4y2Ba |
93.02gydF4y2Ba |
93.11gydF4y2Ba |
不同的方法的分类结果SV数据(%)。gydF4y2Ba
| 方法gydF4y2Ba |
1%gydF4y2Ba |
5%gydF4y2Ba |
10%gydF4y2Ba |
| 办公自动化gydF4y2Ba |
AAgydF4y2Ba |
卡巴gydF4y2Ba |
办公自动化gydF4y2Ba |
AAgydF4y2Ba |
卡巴gydF4y2Ba |
办公自动化gydF4y2Ba |
AAgydF4y2Ba |
卡巴gydF4y2Ba |
| AlexNet [gydF4y2Ba
23gydF4y2Ba]gydF4y2Ba |
90.88gydF4y2Ba |
93.72gydF4y2Ba |
89.77gydF4y2Ba |
94.05gydF4y2Ba |
96.64gydF4y2Ba |
93.42gydF4y2Ba |
94.26gydF4y2Ba |
95.67gydF4y2Ba |
95.29gydF4y2Ba |
| ResNet [gydF4y2Ba
33gydF4y2Ba]gydF4y2Ba |
87.21gydF4y2Ba |
92.07gydF4y2Ba |
85.88gydF4y2Ba |
91.70gydF4y2Ba |
95.15gydF4y2Ba |
90.74gydF4y2Ba |
93.52gydF4y2Ba |
96.73gydF4y2Ba |
93.11gydF4y2Ba |
| DenseNet [gydF4y2Ba
34gydF4y2Ba]gydF4y2Ba |
85.52gydF4y2Ba |
90.81gydF4y2Ba |
84.12gydF4y2Ba |
91.03gydF4y2Ba |
94.36gydF4y2Ba |
90.05gydF4y2Ba |
93.14gydF4y2Ba |
96.12gydF4y2Ba |
92.17gydF4y2Ba |
| 普朗[gydF4y2Ba
35gydF4y2Ba]gydF4y2Ba |
78.86gydF4y2Ba |
76.17gydF4y2Ba |
76.49gydF4y2Ba |
90.28gydF4y2Ba |
88.17gydF4y2Ba |
89.16gydF4y2Ba |
91.81gydF4y2Ba |
89.32gydF4y2Ba |
91.17gydF4y2Ba |
| FSSFNet [gydF4y2Ba
36gydF4y2Ba]gydF4y2Ba |
91.04gydF4y2Ba |
94.74gydF4y2Ba |
90.02gydF4y2Ba |
93.56gydF4y2Ba |
96.69gydF4y2Ba |
92.82gydF4y2Ba |
95.85gydF4y2Ba |
98.03gydF4y2Ba |
95.37gydF4y2Ba |
| SAGP [gydF4y2Ba
37gydF4y2Ba]gydF4y2Ba |
90.87gydF4y2Ba |
94.68gydF4y2Ba |
89.82gydF4y2Ba |
92.64gydF4y2Ba |
95.69gydF4y2Ba |
91.81gydF4y2Ba |
94.76gydF4y2Ba |
97.45gydF4y2Ba |
94.16gydF4y2Ba |
| MDCA-CPgydF4y2Ba |
91.45gydF4y2Ba |
94.84gydF4y2Ba |
89.98gydF4y2Ba |
94.51gydF4y2Ba |
97.11gydF4y2Ba |
93.24gydF4y2Ba |
96.15gydF4y2Ba |
98.11gydF4y2Ba |
96.21gydF4y2Ba |
4.1.1。使用IP数据集实验结果gydF4y2Ba
我们随机选择5%的IP数据集的训练样本训练和剩下的95%样品进行测试。从表可以看出gydF4y2Ba
5gydF4y2Ba和图gydF4y2Ba
6gydF4y2BaAlexNet模型最糟糕的分类性能,与大量噪声的分类图。这是因为它代表判别特征的提取模型不够深。不能做相应的优化调整的过度拟合训练和分辨率下降的过程。在另一个分类模型,模型的分类结果与注意力机制算法优于其他方法获得的。此外,与普朗相比,SAGP有更好的分类性能,这是由于极端不平衡分类样本的IP数据集。注意机制克服了这一缺点,所以MDCA-CP提出了达到最优的结果。gydF4y2Ba
IP分类结果数据集使用训练样本的5%。(一)地面真理。(b) AlexNet。(c) ResNet。(d) DenseNet。普朗(e)。FSSFNet (f)。(g) SAGP。MDCA-CP (h)。gydF4y2Ba
10/24/11。使用聚氨酯数据集实验结果gydF4y2Ba
从表gydF4y2Ba
6gydF4y2Ba和图gydF4y2Ba
7gydF4y2Ba可以看出,帕维亚大学的数据集,在准确率获得的各种方法中,MDCA-CP方法提出了工作展品分类精度最高。观察图gydF4y2Ba
7gydF4y2Ba这项工作,该方法提出了一个更大的数量的正确分类的像素分类地图,并在一些地区比其他方法低噪音。这是因为SAGP包含一个注意力机制网络,着重于功能发挥重要作用在当前任务目标通过加强地方特色并选择当前状态从许多特性。网络模型可以使用关键特性的分析代替整体形象特征分析和增强特性的重量与当前任务相关的目标。目标特性不会帮助分类被削弱。执行分类过程时,注意力会集中在寻找与当前输出相关的有用特性来获得更好的为不同类别特征表示,这有助于最终的分类性能。从上面的描述,我们可以看到,在这项研究中提出的方法优于其他方法。gydF4y2Ba
分类结果在聚氨酯使用1%的训练样本数据集。(一)地面真理。(b) AlexNet。(c) ResNet。(d) DenseNet。普朗(e)。FSSFNet (f)。(g) SAGP。MDCA-CP (h)。gydF4y2Ba
4.4.3。使用SV数据集实验结果gydF4y2Ba
为SV数据集,本文随机选择1%,5%,和10%的训练样本,其余样品作为测试样本。表gydF4y2Ba
7gydF4y2Ba和图gydF4y2Ba
8gydF4y2Ba比较实验结果显示。同样,在视觉效果方面,地面对象分类映射显示在SV数据集的方法提出了最轻微的噪音。在定量分析中,SA的OA MDCA-CP模型的数据集达到96.15%,高于其他比较方法在OA, KA和AA。提出MDCA-CP模型能有效地识别大部分的地面特征和SV数据集执行得更好。gydF4y2Ba
分类结果的SV使用1%的训练样本数据集。(一)地面真理。(b) AlexNet。(c) ResNet。(d) DenseNet。普朗(e)。FSSFNet (f)。(g) SAGP。MDCA-CP (h)。gydF4y2Ba
4.5。烧蚀实验不同的权重策略的结果gydF4y2Ba
表gydF4y2Ba
8gydF4y2Ba显示实验结果获得通过使用不同的重量分配策略。从表中可以看出,除了和最大化策略远远比个人的策略只或最大化。组合策略提高了模型分类能力,证明MDCA-CP的两种策略是有效的。进一步,体重增加的策略优于重量最大化策略,从而证明,只有使用最大化策略将导致一些功能的丧失。数据gydF4y2Ba
9gydF4y2Ba- - - - - -gydF4y2Ba
11gydF4y2Ba也显示饼图的极限三个数据集上的每个指标不同的权重策略。gydF4y2Ba
烧蚀实验结果不同的加权策略(%)。gydF4y2Ba
| 模块gydF4y2Ba |
知识产权gydF4y2Ba |
聚氨酯gydF4y2Ba |
SVgydF4y2Ba |
| 办公自动化gydF4y2Ba |
AAgydF4y2Ba |
卡巴gydF4y2Ba |
办公自动化gydF4y2Ba |
AAgydF4y2Ba |
卡巴gydF4y2Ba |
办公自动化gydF4y2Ba |
AAgydF4y2Ba |
卡巴gydF4y2Ba |
| 添加gydF4y2Ba |
74.77gydF4y2Ba |
75.48gydF4y2Ba |
71.01gydF4y2Ba |
92.02gydF4y2Ba |
90.58gydF4y2Ba |
89.20gydF4y2Ba |
92.48gydF4y2Ba |
94.85gydF4y2Ba |
92.99gydF4y2Ba |
| 马克斯gydF4y2Ba |
74.12gydF4y2Ba |
74.36gydF4y2Ba |
70.25gydF4y2Ba |
91.58gydF4y2Ba |
89.74gydF4y2Ba |
89.02gydF4y2Ba |
91.52gydF4y2Ba |
94.44gydF4y2Ba |
91.85gydF4y2Ba |
| 添加+马克斯(MDCA-CP)gydF4y2Ba |
76.85gydF4y2Ba |
79.11gydF4y2Ba |
73.72gydF4y2Ba |
93.55gydF4y2Ba |
91.91gydF4y2Ba |
92.21gydF4y2Ba |
94.51gydF4y2Ba |
97.11gydF4y2Ba |
93.24gydF4y2Ba |
IP分类结果数据集使用不同的加权策略。(一)办公自动化。(b) AA。卡帕(c)。gydF4y2Ba
PU数据集分类结果采用不同的权重策略。(一)办公自动化。(b) AA。卡帕(c)。gydF4y2Ba
SV数据集分类结果采用不同的权重策略。(一)办公自动化。(b) AA。卡帕(c)。gydF4y2Ba
4.6。烧蚀实验结果在不同的子gydF4y2Ba
本节介绍了烧蚀实验结果cross-attention模块和CP模块。表gydF4y2Ba
9gydF4y2Ba和图gydF4y2Ba
12gydF4y2Ba显示相应的实验结果,可以看出两个模型的组合(MDCA-CP)提供了优越的结果。同样地,我们发现cross-attention模块有更好的性能比协方差池模块,这进一步显示功能矿业在高光谱图像分类的重要性。MDCA模块可以有效地选择最具代表性的特征。相比之下,协方差模块比基线模型,证明数据挖掘从上学和提取二阶特性也有效。这进一步证明了我们MDCA-CP模型的优越性。数据gydF4y2Ba
13gydF4y2Ba- - - - - -gydF4y2Ba
15gydF4y2Ba也显示的直方图指标上的不同子三个数据集。gydF4y2Ba
烧蚀实验结果在不同的子模块(%)。gydF4y2Ba
| 模块gydF4y2Ba |
知识产权gydF4y2Ba |
聚氨酯gydF4y2Ba |
SVgydF4y2Ba |
| 办公自动化gydF4y2Ba |
AAgydF4y2Ba |
卡巴gydF4y2Ba |
办公自动化gydF4y2Ba |
AAgydF4y2Ba |
卡巴gydF4y2Ba |
办公自动化gydF4y2Ba |
AAgydF4y2Ba |
卡巴gydF4y2Ba |
| No-CrossAttentiongydF4y2Ba |
74.78gydF4y2Ba |
76.54gydF4y2Ba |
72.24gydF4y2Ba |
90.81gydF4y2Ba |
89.17gydF4y2Ba |
90.10gydF4y2Ba |
91.78gydF4y2Ba |
94.25gydF4y2Ba |
91.36gydF4y2Ba |
| No-CovariancePoolinggydF4y2Ba |
76.13gydF4y2Ba |
71.13gydF4y2Ba |
71.77gydF4y2Ba |
93.25gydF4y2Ba |
90.65gydF4y2Ba |
91.11gydF4y2Ba |
93.89gydF4y2Ba |
95.25gydF4y2Ba |
92.15gydF4y2Ba |
| MDCA-CPgydF4y2Ba |
76.85gydF4y2Ba |
79.11gydF4y2Ba |
73.72gydF4y2Ba |
93.55gydF4y2Ba |
91.91gydF4y2Ba |
92.21gydF4y2Ba |
94.51gydF4y2Ba |
97.11gydF4y2Ba |
93.24gydF4y2Ba |
使用不同的子分类结果的IP数据集。(一)地面真理。没有MDCA (b)。(c)没有CP。(d) MDCA-CP。gydF4y2Ba
使用不同的子分类结果的IP数据集。gydF4y2Ba
使用不同的子分类结果PU数据集。gydF4y2Ba
使用不同的子分类结果SV数据集。gydF4y2Ba