移动信息系统

PDF
移动信息系统/2021年/文章
特殊的问题

AI-Enabled大数据处理物联网的实际应用

把这个特殊的问题

研究文章|开放获取

体积 2021年 |文章的ID 9962057 | https://doi.org/10.1155/2021/9962057

鑫宁Runmin Liu,胖子Cai, Guangjun李, 多尺度密集Cross-Attention机制与协方差池高光谱图像场景分类”,移动信息系统, 卷。2021年, 文章的ID9962057, 15 页面, 2021年 https://doi.org/10.1155/2021/9962057

多尺度密集Cross-Attention机制与协方差池高光谱图像场景分类

学术编辑器:拉毛汗
收到了 2021年3月19日
接受 2021年4月24日
发表 2021年5月04

文摘

近年来,学习算法基于深卷积框架已逐渐成为研究热点在高光谱图像分类任务。然而,在分类过程中,大量的数据和功能冗余的高维问题与interspectral高光谱图像的相关性并没有有效地解决。因此,探讨数据降维特征提取,提出了一个新颖的多尺度密集cross-attention机制与协方差算法池(MDCA-CP)高光谱图像场景分类。multisize卷积模块可以检测细微变化之间的高光谱图像的空间和光谱维像素在当地区域和适合提取高光谱数据与复杂的和不同类型的结构。对传统算法以单向的方式分配注意重量,因此导致的损失特性信息,密集cross-attention机制提出了研究可以共同分配注意力权重的横向和纵向有效地捕捉最具代表性的特征。此外,本研究还采用协方差池进一步提取二阶的高光谱图像的特点。实验都是在三个著名的高光谱数据集进行的,因此结果表明MDCA-CP算法获得的优越与其他知名的方法。

1。介绍

高光谱遥感技术可以生成一组丰富的图像信息。它可以显著提高数据分析的质量,显著改善方法的细节,可靠性和可信度。一般来说,因为不同类别的相同的功能目标表现出不同的光学行为和乐队的空间,表现出明显的差异特征类型的像素级可用于识别和分类。这种技术是现在被用于农业1- - - - - -3),环境遥感4- - - - - -6)、物理(7,8,海洋9- - - - - -11),和其他领域,其中(HSI)高光谱图像分类研究是极其重要的。图像的内部信息包含各种类型的特性。正是因为不同的各种形式的特性,它们可以在一个图像中提取进行分析。最后,区分目标的方法称为图像分类为不同的类别。恒生指数分类使地面特征识别不同的目标基于获得的遥感信息。此外,它还可以分析固有的法律地面特征在分类过程中。在HSI收购成本相对较高,这将导致一个训练样本数量不足。此外,图像本身有一个相对较高的光谱维度和一个相对大的数据量,从而增加其复杂性。

在早期的研究中,光谱信息分类是一个受欢迎的程序(12- - - - - -14]。特征选择的方法和降维15,16)经常被用来缓解光谱维的高维度。随着这一研究主题的进步,恒生指数的复杂的空间和光谱特性分布已经成为困扰他们的分类的主要问题。许多研究人员选择添加本地空间连接改进模型(16,17),也在一定程度上取得积极成果。然而,这些方法主要是基于手工和浅模型,严重依赖于专家知识和泛化能力差,很难提取代表不同的功能。

近年来,深度学习模型已经卓有成效,已成为一个新的研究热点在不同的方法用于铸铁的分类。尽管深度学习方法可以获得深层特性表征从原始上学,探测和识别通常依赖于许多训练样本。然而,它是耗时的,劳动密集型的标签数据用于铸铁的分类和使用培训。注释数据是非常有限的。针对上述问题,与较少的训练样本保持深度学习方法仍然是一个重大挑战。2014年,陈等人。18)提出了一种深度学习框架,结合空间和光谱特性。深度学习框架结合主成分分析(PCA)和深度学习架构采用堆叠autoencoders (SAE)获取深度特性使用逻辑回归(LR)结果分类(SAE-LR)。虽然SAE-LR深学习方法已经显示出巨大的潜力在HSI分类、autoencoder模型通常趋于平缓当地图像补丁到向量,然后输入到模型中。然而,这种方法破坏了图像的二维结构,导致空间信息的损失和训练时间也不够。2015年,Makantasis et al。19)利用卷积神经网络(cnn)开发了一个deep-supervised HSI分类算法。他们的算法使用随机PCA减少原始输入数据的维数,CNN提取深层特征,多层感知器(MLP)分类。2016年,赵和杜提出spectral-spatial特性分类(SSFC)方法。当地判别嵌入框架使用一个平衡(BLDE)算法提取光谱特征基于分类的multifeature分类器。

此外,三维spectral-spatial特征提取方法也被开发出来发现有用但从上学很难提取信息。蔡et al。20.)提出了一种三维灰度共生HSI分类特征提取方法基于传统的二维形态运营商,和周et al。21)提出了一种三维离散小波变换,它是一系列一维小波变换的三维序列HSI处理和分类。从上学是重要的提高特征提取方法的分类性能。深度学习的相关模型提供了一种新的解决问题在HSI分类。然而,应用深度学习这样一个分类任务还面临着一些困难。(1)上学的高维问题不同于普通的自然图像。恒生指数数据三维结构。非常丰富的光谱信息和空间信息相对较小。深度学习的应用分类的上学的第一步是设计一个网络结构适用于铸铁结构,可有效利用上学丰富的光谱信息和空间信息有限。(2)在恒生指数数据,通常是一个严重失衡的类和类的数量。如果不实施各种样品的重量限制,训练网络的健壮性很低。

基于上述限制,一种新的多尺度密集cross-attention机制与协方差算法池(MDCA-CP)已经提出了为HSI场景分类工作。多尺度卷积可以检测到上学的空间维度。像素之间的微妙的变化在当地区域的光谱维度可以应用于高光谱数据的特征提取复杂和多样的类型和结构。传统算法只在单向关注权重分配方式,导致的损失特性的信息。密集的cross-attention机制提出了工作可以同时分配注意重量的横向和纵向有效地获取最具代表性的高光谱数据。此外,协方差池被用于这项研究进一步提取上学的二阶特性。实验都是在三个著名的高光谱数据集进行的,因此结果获得证明MDCA-CP算法的有效性。

这项工作的主要贡献如下:(1)小说密集cross-attention(横向和纵向)机制算法提出了,和体重增加和最大重量策略构造,可我更具有代表性特征的高光谱数据。(2)小说attention-guided协方差池方法提出了充分利用二阶信息的高光谱数据特征映射。它可以让学习更具有代表性特征的神经网络在处理遥感场景分类问题。(3)许多实验和消融研究已经开展了关于印度的公共高光谱数据集三个松树,萨利纳斯,帕维亚大学和视觉分析的结果已经完成,证明其有效性MDCA-CP算法的优越性。

剩下的纸被组织如下:部分2简要介绍了与本文相关的其他工作。部分3介绍了MDCA-CP算法的原理和实现细节。部分4给出了实验结果和视觉分析。部分5总结了基于本研究的结论。

近年来,深度学习主要是基于多层神经网络,无限近似非线性函数通过使用三个或更多神经网络学习大量的抽象的图像中特征信息。因为它是相当难以获得上学的标签,深度学习方法的使用来实现更好的分类结果,同时使用少量的训练样本一直是研究的重点领域的高光谱遥感。经典的基于深度学习的神经网络模型包括autoencoder (AE) [22),堆放autoencoder (SAE) [23),并限制玻耳兹曼机(元)24,25]。尽管这些方法有相对良好的分类性能,学者们设计的深层神经网络模型基于cnn和其他人由于许多模型参数和肤浅的形象特征。方法相结合,应用于上学,并提供优越的分类特征提取效果和较高的分类性能。

陈等人。18)提出了深刻的特征提取和基于cnn HSI分类方法。CNN是用来提取深度非线性特性从上学,歧视和不变量。CNN和正则化方法用于提取上学的空间谱特性进行分类。徐et al。26)提出了一个基于CNN,多源遥感数据的分类方法,主要使用两个渠道。CNN提取空间谱恒生指数的共同特征,融合他们的其他来源的遥感数据的特点,并分类。罗等。27)提出了一种新的基于CNN HSI分类方法的空间谱特性的目标像素和相邻的像素提取。卷积操作执行,和卷积结果叠加成一个二维矩阵的输入标准CNN。最后,XGBoost分类模型,提出了王等。28),是一个溪分类方法基于随机森林的组合技术和CNN。它认为CNN作为个体分类器,用于提取上学的识别特征。随机森林方法涉及到随机选择的特性和提取训练样本建立multiclassification系统执行一个分类任务。

上述模型基于cnn都采用标准的卷积层和应用于铸铁的分类。为了使模型获得的巨大优势的标准卷积层,同时节省了大量的计算资源,一些学者关注机制引入到分类模型。梅等。29日)提出了HSI分类spectral-spatial关注网络。这个方法可以学习内部光谱相关性在连续光谱,和注意力模型着重于邻近的像素在空间维度。实验结果表明,该方法可以充分利用光谱信息。为了提取光谱和空间特性,马et al。30.)提出了一个dual-branch multiattention网络(DBMA)溪分类机制。网络有两个分支,提取光谱和空间特性,分别减少两个特性的干扰。此外,由于两个分支的不同特点,两种类型的注意机制应用在两个分支,分别可以确保更独特的光谱和空间特性。使用这种方法取得了良好的计算结果。上述研究表明,注意力机制(31日,32)是极其有效的高光谱数据分类任务和提供优秀的结果。

3所示。方法

1展示了一个示意性的整体架构MDCA-CP算法。首先,保局投影(牧民联盟)是用于减少恒生指数消除冗余信息的维数,减少计算成本。其次,输入到我们的MDCA reduced-dimensional特性模块,并通过CP提取的二阶特性。最后,将SoftMax函数是用于预测每个像素达到高光谱数据的分类。

3.1。保局投影

光谱图像每个像素的恒生指数有多个endmember光谱图像在同一时间。在一个低维子空间,可以将高维数据投影到这低纬度溪时子空间分类。所包含的像素代表一个endmember,代表一个地面的特征特性。本地保存降维方法在本研究中可以找到一个线性映射 相邻像素的原始铸铁可以获得相对较近的投影空间的距离,因此实现有效保留在当地社区的相关信息,有效地保护原溪的多样化的局部结构。假设原始数据的训练样本 ,类标签 是样品的数量分类,xth训练样本的总数,训练样本吗 然后,之间的关系方程 可以表示如下: 在哪里 代表当地的样本规模 代表了 th相邻像素的样本 当地的组内的散射矩阵 维数降低被定义为在本地保存

这两个 n×n维方阵。

方程(1)提供相同的相邻像素的权重,和组内的散射矩阵 几乎不影响相同的不相邻像素。由当地传播矩阵,由最大化费舍尔的比例

变换矩阵得到的变形计算

牧民联盟减少相同的相邻数据通过变换矩阵,T。他们有效地分离不同类型的相邻数据同时保留数据的地方特色。使用本地保留和降维预处理原溪,消除冗余信息。类似的类的分布更加紧凑,减少噪音,提高分类精度。

3.2。多尺度卷积

在这部作品中,使用多尺度卷积内核有两个主要优点:多尺度卷积核的最大优势是不同大小的卷积核从上学可以提取不同尺度的特征。因此,过滤器可以提取和学习更丰富的信息。当CNN训练模型,培训是通过学习滤波器的参数(重量和补偿),即通过不断学习滤波器的参数达到最优值最接近的标签。在这项研究中,多尺度卷积内核被用来使每一个卷积层具有不同的过滤器,从而实现多样化的重量和偏见学习和一个完整的、有效的提取和学习的有用的信息。

在计算机视觉模型,多尺度推理方法通常用于获得最好的结果。一般来说,细节有效地预测在更大的尺寸,较大的对象是有效地预测在较小的尺寸,和接收的网络可以在较小的尺寸准确理解现场。相比传统的多尺度结构,一种新的多尺度密度卷积模型(如图2)在本研究提出了。特别是,我们应用卷积过程提取特征四个尺寸:11×11日7×7,5×5和3×3。相应的计算公式如下: 在哪里 , , , , , , , 代表的神经元和权重的多尺度卷积层和内核 代表的数量在CONV_i过滤器。卷积的输出层,Y是美联储cross-attention-guided CP模块。

3.3。Cross-Attention机制
3.3.1。注意机制

从本质上讲,深度学习的注意机制类似于人类视觉注意机制做出选择时使用。这两种方法的目的都在于过滤的关键信息,哪个更有利于他们正在处理的任务,从大量的信息,抑制无用的信息不相关的任务。注意机制是著名的在两个方面:一方面,它可以在本地选择重要的信息需要关注整个输入本身;另一方面,它可以合理地分配少量的重要信息通过计算资源的关键任务目标。因为这两个方面,使当前的注意机制的网络被广泛应用于图像识别,脱颖而出,注意力机制可以增强本地信息的特点。此外,关注区域的位置会改变根据任务目标;通过了解目标的本地信息,大多数有用的信息对应到目标可以好好利用。图3网络框架显示的注意机制。译码器的输出部分可以表示如下: 在哪里 一次是译码器的输出 , 一次是译码器的输出 , 标签一次吗 , 是致密层。 在哪里 下一个状态的输出, 的输出是什么 th译码器的输入 注意体重。 在哪里 代表了当前解码器和之间的对齐程度 th输入,注意体重。 用于计算分数之间的关系 可以看出,如果分数较高,注意分布集中在输入。

3.3.2。Cross-Attention

考虑到传统的注意机制分配注意体重只从一个方向,它常常会导致失去功能的信息。本研究提出了一种cross-attention机制,构造两个小说重量分配策略:体重增加和最大化的策略。第一,cross-attention机制计算特征权重系数以及水平和垂直方向。添加这两个权重系数,以增强功能,和最大的权重系数是通过应用最大化的策略。最后,通过融合两种策略得到的输出。图4显示了一个示意图cross-attention机制。

方程计算加法和最大化的重量如下: 在哪里 代表权重系数的水平和垂直的注意机制,分别 代表的重量系数, 代表的最大化运行重量系数。

3.4。协方差池

传统的卷积层CNN使用max /平均池、和完全连接层只能捕捉到一阶信息。虽然修正线性单元(ReLU)引入了非线性,只有有限的单像素级别的。我们相信,协方差矩阵池(如图5)可以提取功能与效率高于一阶统计上学。如果它是一组特性,其协方差矩阵 在哪里 只有当线性独立的组件的数量 大于 ,生成的矩阵是对称正定矩阵(SPD)。协方差矩阵必须SPD使用多种网络的几何结构保持层。然而,即使只有半正定矩阵,它可以通过添加一个规范化的多个跟踪的协方差矩阵的对角项如下: 在哪里 常规参数和吗 是单位矩阵。

3.5。特征融合

多尺度卷积的输出特性是拼接,CP所引导的cross-attention机制用于获取最后的深特性。编写相同的计算公式如下: 在哪里O代表CP的输出模块的指导下多尺度cross-attention机制。

4所示。实验

4.1。评价指标

上学需要一个分类的结果评估MDCA-CP算法的分类能力。同样的,需要评估指标作为衡量标准。在这个工作中,三个评价指标被用于HSI分类:kappa系数,平均精度(AA),和整体精度(OA)。

以下4.4.1。办公自动化

这个评价指标是表示为正确的数量的比例分类像素标记像素的总数。如果 代表图像的类别功能对象的数量, 代表了的像素数量 th类别, 代表的正确分类的像素数量 th类别,然后OA表示为

4.1.2。AA

这个评价指标定义如下。正确的数量的比例每个类别的分类像素分类计算像素的总数。整体分类总结的比率。进一步获得金额除以总体分类,从而使一个数字,这是平均分类精度。如果 代表样本像素的数量在整个训练样本进行测试, 代表类别的数量, 代表正确分类的像素的数量 th类别,则表示为AA

4.1.3。卡巴

这个系数是一个性能指标用于测量的准确性通过分类混淆矩阵和用于分类的一致性测试。它可以表示如下:

4.2。数据集

本文将测试该MDCA-CP三个基准数据集:IP(印度松树),聚氨酯(帕维亚大学),SA(盐沼)来验证其有效性。一个AVIRIS传感器在西北印第安纳IP数据集。它包含145像素×145像素在空间域。光谱域是由224年的乐队,光谱反射率和波长范围是0.4 - -2.45 m。其中,可用地面真理是分为16个类别。在本文的实验中,20吸水乐队中,最终的图像大小是××145像素145像素200像素。防治传感器把聚氨酯在意大利北部的数据集。它由10像素×340像素在空间域;删除后水吸收带,谱域包含103光谱波段,光谱覆盖范围从430到860纳米。其中,地面真理分为9类,图像的大小本文的实验中使用的是610×340×103。

SA数据集被AVIRIS传感器在加州。它有224个乐队在光谱域×217像素和512像素在空间域。它也有一个高空间分辨率(3.7像素)。特性。删除20吸水乐队后,实验图像的大小是512像素××217像素204像素,和可用的地面真理是分为16个类别。表1- - - - - -3详细描述这三个数据集的样本数量。


类型 物种 样品

C1 紫花苜蓿 46
C2 Corn-notill 1428年
C3 Corn-mintill 830年
C4 玉米 237年
C5 Grass-pasture 483年
C6 Grass-trees 730年
C7 Grass-pasture-mowed 28
C8 Hay-windrowed 478年
制备过程 燕麦 20.
10大 Soybean-notill 972年
C11 Soybean-mintill 2455年
C12 Soybean-clean 593年
C13 小麦 205年
森林 1265年
C15 Buildings-grass-trees-drives 386年
C16 Stone-steel-towers 93年


类型 样品

C1 沥青 6631年
C2 梅多斯 18649年
C3 砾石 2099年
C4 3064年
C5 金属板画 1345年
C6 裸露的土壤 5029年
C7 沥青 1330年
C8 阻挡效应砖 3682年
制备过程 阴影 947年


类型 样品

C1 Brocoli_green_weeds_1 2009年
C2 Brocoli_green_weeds_2 3726年
C3 休耕的 1976年
C4 Fallow_rough_plow 1394年
C5 Fallow_smooth 2678年
C6 碎秸 3959年
C7 芹菜 3579年
C8 Grapes_untrained 11271年
制备过程 Soil_vinyard_develop 6203年
10大 Corn_senesced_green_weeds 3278年
C11 Lettuce_romaine_4wk 1068年
C12 Lettuce_romaine_5wk 1927年
C13 Lettuce_romaine_6wk 916年
Lettuce_romaine_7wk 1070年
C15 Vinyard_untrained 7268年
C16 Vinyard_vertical_trellis 1807年

4.3。Hyperparameter设置

MDCA-CP提出本文基于Python语言和Keras深度学习框架。实验环境是Windows 10操作系统,16 GB的RAM和NVIDIA GeForce GTX 1080 8 GB GPU。为了防止不同的训练样本,造成的偏差的平均值超过20相同条件下的实验结果进行了分析。在这个模型中,采用随机梯度下降法来更新重量。学习速率为0.01,断开连接的神经元的比例在辍学层的连接设置为0.5,ReLU和激活函数。在这篇文章中,两国融合块网络是小批量的梯度下降训练。训练样本的数量设置为1000,和时代被设置为600,表4显示了详细hyperparameter设置。


类型 Hyperparameter

亚当 学习速率= 0.01
= 0.9
= 0.999
ε= 1 e-08
衰变= 3 e-8

4.4。从不同的方法获得的实验结果

验证了该方法的有效性和正确性,比较的结果用MDCA-CP是获得使用AlexNet [23],ResNet [33],DenseNet [34],普朗[35],FSSFNet [36],SAGP [37]。为了确保公平在这个实验中,所有hyperparameters比较网络设置为相同的值。获得的结果运用三个数据集上的不同的模型给出了表5- - - - - -7


方法 5% 10% 15%
办公自动化 AA 卡巴 办公自动化 AA 卡巴 办公自动化 AA 卡巴

AlexNet [23] 68.69 56.29 64.05 74.32 65.17 70.94 81.76 79.44 79.70
ResNet [33] 70.67 69.69 66.04 78.40 79.22 75.10 83.33 80.76 80.95
DenseNet [34] 71.23 67.55 66.66 78.37 75.29 75.87 84.66 81.37 82.58
普朗[35] 72.45 73.37 69.48 77.66 73.28 74.47 82.72 76.51 80.28
FSSFNet [36] 73.75 67.95 69.98 78.66 71.26 75.47 82.61 74.48 80.05
SAGP [37] 73.49 76.58 73.61 78.36 80.89 76.72 81.59 86.50 82.89
MDCA-CP 76.85 79.11 73.72 82.56 81.87 80.03 87.32 87.65 85.55


方法 1% 5% 10%
办公自动化 AA 卡巴 办公自动化 AA 卡巴 办公自动化 AA 卡巴

AlexNet [23] 87.15 84.24 82.66 92.81 91.77 90.43 92.85 93.46 91.32
ResNet [33] 84.06 82.38 77.59 90.81 91.32 87.76 94.15 94.78 93.19
DenseNet [34] 82.32 80.61 75.69 90.25 89.49 87.08 92.27 93.46 91.21
普朗[35] 89.27 88.61 85.63 93.45 92.32 91.48 94.71 93.55 93.02
FSSFNet [36] 86.63 84.23 82.11 93.72 92.35 91.65 94.37 92.65 92.52
SAGP [37] 84.32 83.84 78.83 91.09 89.75 88.14 93.73 92.97 91.65
MDCA-CP 89.40 87.97 86.81 93.55 91.91 92.21 94.99 93.02 93.11


方法 1% 5% 10%
办公自动化 AA 卡巴 办公自动化 AA 卡巴 办公自动化 AA 卡巴

AlexNet [23] 90.88 93.72 89.77 94.05 96.64 93.42 94.26 95.67 95.29
ResNet [33] 87.21 92.07 85.88 91.70 95.15 90.74 93.52 96.73 93.11
DenseNet [34] 85.52 90.81 84.12 91.03 94.36 90.05 93.14 96.12 92.17
普朗[35] 78.86 76.17 76.49 90.28 88.17 89.16 91.81 89.32 91.17
FSSFNet [36] 91.04 94.74 90.02 93.56 96.69 92.82 95.85 98.03 95.37
SAGP [37] 90.87 94.68 89.82 92.64 95.69 91.81 94.76 97.45 94.16
MDCA-CP 91.45 94.84 89.98 94.51 97.11 93.24 96.15 98.11 96.21

4.1.1。使用IP数据集实验结果

我们随机选择5%的IP数据集的训练样本训练和剩下的95%样品进行测试。从表可以看出5和图6AlexNet模型最糟糕的分类性能,与大量噪声的分类图。这是因为它代表判别特征的提取模型不够深。不能做相应的优化调整的过度拟合训练和分辨率下降的过程。在另一个分类模型,模型的分类结果与注意力机制算法优于其他方法获得的。此外,与普朗相比,SAGP有更好的分类性能,这是由于极端不平衡分类样本的IP数据集。注意机制克服了这一缺点,所以MDCA-CP提出了达到最优的结果。

10/24/11。使用聚氨酯数据集实验结果

从表6和图7可以看出,帕维亚大学的数据集,在准确率获得的各种方法中,MDCA-CP方法提出了工作展品分类精度最高。观察图7这项工作,该方法提出了一个更大的数量的正确分类的像素分类地图,并在一些地区比其他方法低噪音。这是因为SAGP包含一个注意力机制网络,着重于功能发挥重要作用在当前任务目标通过加强地方特色并选择当前状态从许多特性。网络模型可以使用关键特性的分析代替整体形象特征分析和增强特性的重量与当前任务相关的目标。目标特性不会帮助分类被削弱。执行分类过程时,注意力会集中在寻找与当前输出相关的有用特性来获得更好的为不同类别特征表示,这有助于最终的分类性能。从上面的描述,我们可以看到,在这项研究中提出的方法优于其他方法。

4.4.3。使用SV数据集实验结果

为SV数据集,本文随机选择1%,5%,和10%的训练样本,其余样品作为测试样本。表7和图8比较实验结果显示。同样,在视觉效果方面,地面对象分类映射显示在SV数据集的方法提出了最轻微的噪音。在定量分析中,SA的OA MDCA-CP模型的数据集达到96.15%,高于其他比较方法在OA, KA和AA。提出MDCA-CP模型能有效地识别大部分的地面特征和SV数据集执行得更好。

4.5。烧蚀实验不同的权重策略的结果

8显示实验结果获得通过使用不同的重量分配策略。从表中可以看出,除了和最大化策略远远比个人的策略只或最大化。组合策略提高了模型分类能力,证明MDCA-CP的两种策略是有效的。进一步,体重增加的策略优于重量最大化策略,从而证明,只有使用最大化策略将导致一些功能的丧失。数据9- - - - - -11也显示饼图的极限三个数据集上的每个指标不同的权重策略。


模块 知识产权 聚氨酯 SV
办公自动化 AA 卡巴 办公自动化 AA 卡巴 办公自动化 AA 卡巴

添加 74.77 75.48 71.01 92.02 90.58 89.20 92.48 94.85 92.99
马克斯 74.12 74.36 70.25 91.58 89.74 89.02 91.52 94.44 91.85
添加+马克斯(MDCA-CP) 76.85 79.11 73.72 93.55 91.91 92.21 94.51 97.11 93.24

4.6。烧蚀实验结果在不同的子

本节介绍了烧蚀实验结果cross-attention模块和CP模块。表9和图12显示相应的实验结果,可以看出两个模型的组合(MDCA-CP)提供了优越的结果。同样地,我们发现cross-attention模块有更好的性能比协方差池模块,这进一步显示功能矿业在高光谱图像分类的重要性。MDCA模块可以有效地选择最具代表性的特征。相比之下,协方差模块比基线模型,证明数据挖掘从上学和提取二阶特性也有效。这进一步证明了我们MDCA-CP模型的优越性。数据13- - - - - -15也显示的直方图指标上的不同子三个数据集。


模块 知识产权 聚氨酯 SV
办公自动化 AA 卡巴 办公自动化 AA 卡巴 办公自动化 AA 卡巴

No-CrossAttention 74.78 76.54 72.24 90.81 89.17 90.10 91.78 94.25 91.36
No-CovariancePooling 76.13 71.13 71.77 93.25 90.65 91.11 93.89 95.25 92.15
MDCA-CP 76.85 79.11 73.72 93.55 91.91 92.21 94.51 97.11 93.24

5。结论

介绍了数据降维特征提取,提出了小说MDCA-CP HSI模型场景分类。多尺度卷积已被证明能够有效地检测出微妙的变化在当地区域像素之间的空间和光谱维的恒生指数,它可以应用于高光谱数据的特征提取复杂的类型和结构。传统算法以单向的方式分配权重的关注,因此导致的损失特性的信息。这项工作的密集cross-attention机制可以共同分配权重水平方向和垂直方向上的关注。因此,它可以有效地挖掘最具代表性的高光谱数据的特点。进一步增强矿业的特性可以通过采用体重增加和最大化的策略。本文还证明了其有效性和优越性的MDCA-CP算法通过比较不同模型并进行烧蚀实验结果。

数据可用性

使用的数据来支持本研究的结果包括在本文中。

的利益冲突

作者宣称没有利益冲突。

引用

  1. t . Adao j . Hruška l·帕多瓦et al .,“高光谱成像:回顾无人机传感器、数据处理和应用对于农业和林业,”遥感,9卷,不。11日,ID 1110条,2017年。视图:出版商的网站|谷歌学术搜索
  2. 郭宏源。谢长廷和肯尼迪。西藏野驴,”比较CNN算法在农业土地的高光谱图像分类中,“传感器,20卷,不。6、文章ID 1734, 2020。视图:出版商的网站|谷歌学术搜索
  3. y . b . Lu, p .刀,j . Liu,他和j .商”高光谱成像技术的最新进展和应用在农业、”遥感,12卷,不。16日,ID 2659条,2020年。视图:出版商的网站|谷歌学术搜索
  4. s杰伊·m·纪尧姆a Minghelli et al .,“浅水高光谱遥感:内部类的可变性建模和考虑环境噪声和底部反转水反射,”环境遥感卷,200年,第367 - 352页,2017年。视图:出版商的网站|谷歌学术搜索
  5. a .歌曲和y金正日“深度上优于高光谱图像分类与应用程序环境地理信息系统,“韩国《遥感,33卷,不。6 _2,1061 - 1073年,2017页。视图:谷歌学术搜索
  6. c·韦伯,r . Aguejdad x Briottet et al .,“高光谱图像环境城市规划”诉讼的雪茄烟,2018 - 2018年IEEE国际地球科学和遥感研讨会IEEE,页1628 - 1631年,瓦伦西亚,西班牙,2018年7月。视图:谷歌学术搜索
  7. x, j .董a . k . Yetisen et al .,”特征和层厚度映射二维二硫化钼片通过高光谱扫描显微镜”应用物理表达,12卷,不。2019年10篇文章ID 102004。视图:出版商的网站|谷歌学术搜索
  8. l . Windrim r . Ramakrishnan, A . Melkumyan和r . j .墨菲,“一个基于物理原理的深度学习影子不变的高光谱图像的表示方法,”电气和电子工程师学会图像处理事务,27卷,不。2、665 - 677年,2017页。视图:谷歌学术搜索
  9. a·易卜拉欣b·弗朗茨·z Ahmad et al .,“海洋大气校正高光谱颜色检索与应用程序的高光谱成像仪沿海海洋(海棠)专门”环境遥感卷。204年,60 - 75、2018页。视图:出版商的网站|谷歌学术搜索
  10. s . p . Garaba j .艾特肯b板条et al .,“遥感海洋塑料机载高光谱短波红外成像仪,”环境科学与技术,52卷,不。20日,第11707 - 11699页,2018年。视图:谷歌学术搜索
  11. s . Serranti r . Palmieri g . Bonifazi, a . Cozar”特性的塑料微粒从海洋垃圾一个创新的方法基于高光谱成像,”废物管理卷,76年,第125 - 117页,2018年。视图:出版商的网站|谷歌学术搜索
  12. j . m . j . Li Bioucas-Dias, a .广场”Semisupervised高光谱图像分割与主动学习使用多项逻辑回归,”电气和电子工程师协会事务在地球科学和遥感,48卷,不。11日,第4098 - 4085页,2010年。视图:谷歌学术搜索
  13. l·萨马尼a Bardossy k·舒尔茨,“监督遥感图像的分类使用修改后的k美元神经网络技术,”电气和电子工程师协会事务在地球科学和遥感,46卷,不。7,2112 - 2125年,2008页。视图:出版商的网站|谷歌学术搜索
  14. f . Melgani和l . Bruzzone”分类支持向量机的高光谱遥感图像”电气和电子工程师协会事务在地球科学和遥感,42卷,不。8,1778 - 1790年,2004页。视图:出版商的网站|谷歌学术搜索
  15. s, g . Tang j·朱,李问:“小说排名高光谱波段选择的聚类方法中,“电气和电子工程师协会事务在地球科学和遥感,54卷,不。1,第102 - 88页,2015。视图:谷歌学术搜索
  16. g . Licciardi p . r . Marpu j . Chanussot和j·a . Benediktsson“线性与非线性PCA对高光谱数据的分类的基础上,扩展形态学资料,”电气和电子工程师学会地球科学和遥感信,9卷,不。3、447 - 451年,2011页。视图:谷歌学术搜索
  17. 陈平,j·d·尼尔森和j . y . Tourneret”向稀疏贝叶斯马尔可夫随机场的高光谱分离和分类方法,”电气和电子工程师学会图像处理事务,26卷,不。1,第438 - 426页,2016。视图:谷歌学术搜索
  18. 李c, h . y . Chen江,x,和p . Ghamisi“深高光谱图像的特征提取和分类基于卷积神经网络,”电气和电子工程师协会事务在地球科学和遥感,54卷,不。10日,6232 - 6251年,2016页。视图:出版商的网站|谷歌学术搜索
  19. k . Makantasis k . Karantzalos a Doulamis, n . Doulamis“深监督学习通过卷积神经网络,为高光谱数据分类”2015年IEEE国际地球科学和遥感学报》研讨会(雪茄烟)IEEE,页4959 - 4962年,米兰,意大利,2015年7月。视图:谷歌学术搜索
  20. f·蔡和js。赖,”特征提取的高光谱图像的数据集使用三维灰度共存,”电气和电子工程师协会事务在地球科学和遥感,51卷,不。6,3504 - 3513年,2013页。视图:出版商的网站|谷歌学术搜索
  21. 周和m . a . Bayoumi“三维离散小波变换的架构,”电气和电子工程师学会交易信号处理,50卷,不。8,2050 - 2063年,2002页。视图:出版商的网站|谷歌学术搜索
  22. h·罗,x, y y . Tang l·杨和h·李,“Autoencoder对高光谱图像分类扩展形态学资料,”学报》2017年第3 IEEE国际会议控制论(CYBCONF)英国埃克塞特,页1 - 4、IEEE, 2017年6月。视图:谷歌学术搜索
  23. c .赵x Wan、g .赵和y(音)“Spectral-spatial使用三边滤波和高光谱图像分类堆放稀疏autoencoder,”应用遥感技术杂志》上,11卷,不。1,文章ID 016033, 2017。视图:出版商的网站|谷歌学术搜索
  24. Hemissi和i r·法拉“有效时段遥测高光谱特征分类使用基于Gaussian-Bernoulli元的方法,”模式识别和图像分析,26卷,不。1,第196 - 190页,2016。视图:出版商的网站|谷歌学术搜索
  25. z赵、t .徐和c·戴“分类图像,采用限制玻耳兹曼机和卷积神经网络”《第九次国际会议上数字图像处理(ICDIP 2017)卷。10420年,国际社会对于光学和光子学,香港,中国,2017年7月。视图:谷歌学术搜索
  26. x, w·李,问:跑,Du, l·高和张,“多源遥感数据分类基于卷积神经网络,”电气和电子工程师协会事务在地球科学和遥感卷,56号2、937 - 949年,2017页。视图:谷歌学术搜索
  27. y罗,j .邹c .姚明et al。”HSI-CNN:卷积神经网络对高光谱图像,”《2018年国际会议上音频,语言和图像处理(ICALIP)2018年7月,上海,中国。视图:谷歌学术搜索
  28. 王a, y, y,“高光谱图像分类基于卷积神经网络和随机森林,”遥感信,10卷,不。11日,第1094 - 1086页,2019年。视图:出版商的网站|谷歌学术搜索
  29. 马x梅,大肠,y et al .,“Spectral-spatial关注网络的高光谱图像分类,”遥感,11卷,不。8,963年,页2019。视图:出版商的网站|谷歌学术搜索
  30. w·马问:杨,w .赵,和张x, y . Wu”双支multi-attention机制网络高光谱图像分类,“遥感,11卷,不。11,1307年,页2019。视图:出版商的网站|谷歌学术搜索
  31. w·蔡b . Liu z, m·李和j .菅直人“TARDB-Net: triple-attention引导残余密集的高光谱图像分类和BiLSTM网络,”多媒体工具和应用程序,卷80,不。7,11291 - 11312年,2021页。视图:出版商的网站|谷歌学术搜索
  32. w . Cai和z,“遥感图像分类基于cross-attention机制和图像卷积,”电气和电子工程师学会地球科学和遥感信,卷2020,p . 2020。视图:谷歌学术搜索
  33. m·萨尔曼·s . e . Yuksel”融合的高光谱图像和激光雷达数据和使用深卷积神经网络分类,”学报2018年26日信号处理和通信应用会议(SIU)IEEE,页1 - 4,伊兹密尔,土耳其,2018年7月。视图:谷歌学术搜索
  34. m . e . Paoletti j . m .上流社会的r . Fernandez-Beltran j .广场a . j .广场和f .解放军“深锥体残余网络spectral-spatial高光谱图像分类,“电气和电子工程师协会事务在地球科学和遥感卷,57号2、740 - 754年,2019页。视图:出版商的网站|谷歌学术搜索
  35. g·杨,b . Gewali e . Ientilucci m . Gartley和s . t .蒙泰罗“双通道densenet高光谱图像分类,,”诉讼的雪茄烟,2018 - 2018年IEEE国际地球科学和遥感研讨会IEEE,页2595 - 2598年,瓦伦西亚,西班牙,2018年7月。视图:谷歌学术搜索
  36. h·高,y, d .姚明,和c·李,“高光谱图像分类与pre-activation残留的关注网络”,电气和电子工程师学会访问7卷,第176599 - 176587页,2019年。视图:出版商的网站|谷歌学术搜索
  37. h, s .田l . Yu和y Lv,”进行像素级遥感图像识别基于双向词向量,”电气和电子工程师协会事务在地球科学和遥感,卷。58岁的没有。2、1281 - 1293年,2019页。视图:谷歌学术搜索

版权©2021 Runmin刘et al。这是一个开放的分布式下文章知识共享归属许可,它允许无限制的使用、分配和复制在任何媒介,提供最初的工作是正确引用。

相关文章

对本文没有相关内容可用。
PDF 下载引用 引用
下载其他格式更多的
订单打印副本订单
的观点3725年
下载1210年
引用

相关文章

对本文没有相关内容可用。

文章奖:2021年杰出的研究贡献,选择由我们的首席编辑。获奖的文章阅读