文摘
高光谱图像技术的改善,多元化方法,降低成本增加了高光谱数据的便利收购。然而,由于他们的多波段和multiredundant特点,高光谱数据处理仍是复杂的。两种特征提取算法,autoencoder (AE)和限制玻耳兹曼机(元),被用来优化分类模型参数。得到最优分类模型通过比较一个堆叠autoencoder (SAE)和深度信念网(DBN)。最后,进一步优化了SAE添加稀疏表示的约束和GPU并行计算提高分类精度和速度。研究结果表明,SAE增强深度学习优于传统的特征提取算法。最优分类模型基于深度学习,即堆叠稀疏autoencoder,分类精度达到93.41%和94.92%使用两个实验数据集。使用并行计算模型的训练速度增加了七倍,解决模型的漫长的训练时间限制。
1。介绍
光谱成像光谱传感器,现在在各种平台上进行,如卫星,航天飞机,“飞行器和地面车辆,收集丰富的表面反射率信息(1- - - - - -3]。这种与几十或几百个光谱波段遥感成像技术用于地质和矿产探测、环境调查(4- - - - - -7],植被监测[8- - - - - -10],和海洋研究[11]。调整和压缩高光谱图像数据和对象的检测和特征分类是高光谱遥感的重要研究领域(12,13]。监督分类算法通常用于低维空间在高光谱数据的分类表现不佳是因为休斯现象(14,15]。分类的目的,这是至关重要的从高维数据保留有价值的信息,同时减少他们的维度16- - - - - -18]。紧急的问题是降低数据的维数,同时使用一个合理的特征提取方法,推导出非线性结构更适合的信息从图像像素分类(19,20.]。
像素的特性,更重要的是可以通过非监督分类的分类。常用的高光谱数据特征提取方法包括线性和非线性降维方法。主要的线性降维方法在高光谱图像降维是独立分量分析(ICA) [21,22),主成分分析(PCA) (23- - - - - -25),线性判别分析(LDA) (22,26),和地方特性分析(LFA) (27),等等。然而,传统的线性降维方法不能探索非线性特性在高光谱数据,导致最终的分类精度较低。因此,有更少的高光谱特征提取算法的研究近年来线性降维算法。常用的非线性降维方法是基于内核函数和特征值。基于函数内核方法包括内核判别分析等方法(KDA) [28- - - - - -30.)和核主成分分析(KPCA) [31日]。
非线性降维方法更常用于遥感由于深度学习理论和技术的快速进步32]。由于他们的优势,更有规律地深学习理论应用于高光谱图像数据的特征提取和分类33- - - - - -36]。深度学习特别适合高维非线性数据的特征提取37,38]。大量研究已经使用深度学习方法结合不同的分类器来实现更好的高光谱遥感图像分类结果(39- - - - - -42),包括堆叠autoencoders(节约),深层信念网络(DBNs)和卷积神经网络(CNN) (43]。深入学习算法结合空间背景信息可以提取高质量的光谱和空间信息,实现高分类精度与少量的训练样本和简单的分类器44,45]。多尺度深度学习可以结合对高光谱图像进行分类46]。例如,一个新的基于深刻理解的高光谱图像分类模型是由结合堆叠autoencoders(节约)和深卷积神经网络(47),和一个空间锥体池用于池深卷积神经网络,获得良好的分类性能(48,49]。堆叠autoencoder (SAE)的优势更好的数据降维,用于高光谱遥感特征提取的过程,减少处理的复杂度,从而提高数据抽象的效率和数据分类的准确性50]。此外,结合CNN分类的优势(51,52),可以构造融合图像分类网络基于SAE优化,提高分类性能比传统数据处理(53,54]。基于multilabeled semisupervised分类算法样本和深度学习55与标签),从最近的域信息和训练样本(56,57],nonlabeled样品从自我学习,获得收益的有效semisupervised高光谱图像分类方法(58,59]。众多分类实验基于深度学习算法在各种高光谱数据发现,深度学习算法是最优分类算法在大多数情况下(60- - - - - -66年]。
本文的目标是深入学习理论应用于高光谱图像分类,研究高光谱图像分类模型结合深入学习算法,并获得提高分类精度的首选方法解决的挑战休斯提取非线性特征的现象,从内部图像元素。为了实现目标,我们检查的最佳分类模型的开发和测试(autoencoders (AEs)和限制玻耳兹曼机(元))基于深度学习和验证深度学习模型的适用性高光谱图像的分类。我们得到最终分类模型通过连接这两个特征提取算法和分类器适用于高光谱图像分类通过分析模型的构建块。通过实验,我们分析了不同数量的隐层神经元的影响,隐藏层的额外的数量,不同的分类器,和其他因素对模型性能和获得一个最优分类模型最优参数。最后,我们提出了优化策略,以提高分类精度和速度。
2。方法
2.1。研究概述
本文主要是基于高光谱图像数据,介绍了深度学习算法,并讨论了SAE和DBN模型。两种特征提取算法和分类器适用于高光谱图像分类与获取最终的分类模型。两组实验数据被用来验证两个模型。通过实验,我们分析了不同隐层神经元的影响,隐藏层,分类器和其他因素对模型的性能和获得一个最优分类模型最优参数。最后,提出了一种优化策略优化和修改模型的分类精度和速度。的工作流流程如图1。
2.2。堆叠Autoencoder (SAE)
2.2.1。Autoencoder (AE)
autoencoder (AE)由一个前馈神经网络的输入层、隐藏层和输出层(图2)。AE假设近似平等译码器输出特性和输入特性之间的训练,让大量的未标记训练样本数据被应用到模型的训练过程。因此,过度拟合和当地极端不足带来的太多的参数和避免训练样本的标签。
培训过程始于第一次映射 (n1表示输入数据的维数,也就是说。,the number of neurons in the input layer) in the input layer to generate (n2表示隐层神经元的数目)通过一个线性函数,其中包含可训练的参数W1和B1和一个激活函数f(x)(方程(1))(通用的激活函数是乙状结肠函数,如方程(4))。神经网络的编码器执行这一步被称为编码。X然后映射到输出层的激活函数和一个包含可训练的线性函数参数W2和B2生产Z(方程(2),所以输入x接近Z。这一步是由译码器,这叫做重建。有时,linear-decoding方法也可以用来删除激活函数 ,即。,equation (3): W1和W2分别表示隐含输入和隐含输出权重B1和B2表示补偿。
2.2.2。堆叠Autoencoder (SAE)
的训练过程叠加autoencoder (SAE)本质上是无监督学习。模型是由layer-wise训练pretraining,这意味着获得的参数在第一层传播期待获得第一个隐层。然后,它使用训练参数作为输入层第二层。训练迭代逐步指导训练的每一层的参数。每一层的训练参数在SAE。最后,微调是由连接的分类器。SAE的微调是指把所有层作为一个单独的模型和优化网络中所有的权重通过迭代算法使用一个标签训练样本集。反向传播算法和自动编码应用于更新权重,可以扩展应用尽可能多的层所需的反向传播算法(由于程序算法1和2)。
2.2.3。堆叠Autoencoder (SAE)算法流程
|
2.3。深度信念网络
2.3.1。限制了玻耳兹曼机
疟疾是一种随机生成神经网络学习原始数据的概率分布。它是一个典型的能源模型的基本结构由两部分组成的图表与数据输入层和一层一层隐层;此外,在每一层不连接的节点,但层间的节点完全连接。所有节点只能用0和1的值。他们随机二进制变量节点,这个完整的概率分布 满足波尔兹曼分布。这个模型是疟疾行动: W表示之间的连接权重和隐藏层可见b和c代表各自的偏见的有形和无形的层。
2.3.2。深度信念网络
遏制的DBN由多层叠加来提取原始数据(图的深度特征3)。输入数据之间的联合概率分布在视觉层和l-layer隐藏层hk方程所示(6)。权重得到使用无监督贪婪算法(GA)培训,首先培训第一层的遏制和修复其训练参数,然后使用隐藏层的第一层的输出有限的玻耳兹曼机作为输入疟疾的第二层,一层一层地反过来,训练参数。最后一个隐层是连接到分类器。细化监督完成的梯度下降法(GD)算法,其算法流程如下:除了第一层元,其余元的权重可以分为向上认知权重以及衍生资产比重较低。生成过程,在顶层表示和低权重分配给底层状态,而炼油向上层之间的权重,最终得到基于DBNs分类模型: 在哪里P (hl−1hl)是最高的元模型之间的联合概率分布可见层和隐层(算法3和4)。
2.3.3。DBN算法流
|
2.4。支持向量机(svm)
svm是监督学习算法通常用于统计和回归分析。他们是线性分类器,在特征空间找到的最大间距。他们的目标是最大化间距,优化问题变成了一个凸二次规划问题。除了能够用于线性分类,支持向量机可以执行非线性分类,向量映射到一个高维空间,建立一个最大间隔超平面。例如,在分离超平面的划分数据,有两个平行超平面的平面是平行的。分离超平面之间的距离最大化这两个超平面如果超平面之间的距离远,暗示一个小整体误差。
在给定的训练样本集(x我,y我),y我=−1或1 = xi的标签。每一个x我是一个p-dimensional真实向量需要点集之间的“最大的超平面”y我=−1和问题的集合y我= 1,所以最近的习近平和超平面之间的距离最大化。任何超平面满足方程(7),它们之间的距离可以最大化如果训练数据是线性可分的,即,如果这两个超平面可用于区分两种类型的数据。
支持向量机是扩展到线性区别使用损失函数(方程(7))。目标函数是在方程(8)。的参数λ是用来衡量增加间隔的大小之间的关系,并确保吗习位于右边的间隔。因此,对于足够小的值λ,假设原始数据可分为线性,即使它不是线性可分类的,然而,一个可行的分类标准是可以习得的。支持向量机是广义线性分类器,因此,核函数的选择和内核参数显著影响他们的性能:
2.5。Softmax回归分类器
将softmax回归分类器是一个扩展的逻辑回归分类器对这个问题的多个分类。测试输入x接受一个假设函数来估计每个类别的概率值j。
目标函数是在方程(9),l{}是l的示范功能与规则{}= 1,表达式是正确的,和l{} = 0,表达式是错误的。的概率x被归为j在给出softmax回归方程(10)。目标函数是使用梯度下降法优化。方程(11等)可以被替换成一个算法最小化目标函数的梯度下降法(10):
2.6。稀疏Autoencoder
稀疏表示可以定义如下:当输出神经元的值接近1,它被定义为神经元激活,当输出神经元的值接近于0,它被定义为神经元抑制。当大量的隐层神经元就会受到抑制,只有少量的神经元受到刺激,这是稀疏状态;即。,a large number of components in the feature vector are 0. The mathematical expression is equation (12),这表明jth组件的n数据尽可能少的非零项(例如,ρ= 0.05)。稀疏表示的惩罚因子添加到原始目标函数,和稀疏表示的损失函数方程(13),n2表示隐层神经元的数目j表示隐藏层中的每个神经元。实际相对熵KL分歧也表示为两个伯努利随机变量之间的相对熵,见方程(14)。当两个变量是相等的,相对熵等于0。当两个变量之间的差异变大,相对熵增加,直到趋于无穷。因此,减少惩罚因子也可以ρ和ρ我关闭。的损失函数优化问题可以用方程表示(15),μ表示稀疏的惩罚因子项的重量:
3所示。数据
3.1。数据源
本研究使用两套同时高光谱图像数据的实验。选择两组不同的数据的目的是验证模型和方法的可靠性和实验结果的普遍性和广泛性。两组数据选择不同的功能类型和空间分辨率。两个数据集机载航空高光谱图像数据从帕维亚,意大利和近距离的高光谱图像数据获得使用HySpex地面成像光谱仪。
第一个数据集是可公开获得的高光谱数据的城市帕维亚,意大利,通过机载反射光学系统成像光谱仪(ROSIS-3)。这张图片是610×340像素(图4(一))。ROSIS-3传感器产生的光谱范围430 - 860 nm和115。主要类别有沥青、裸露的地面,砾石,草,金属板,砖,树木,和阴影。
(一)
(b)
第二个数据集是地面近场高光谱图像数据从成都理工大学获得通过使用HySpex成像光谱仪。图像是400×600像素(图4 (b))。HySpex传感器产生1600空间像素的光谱范围400 - 1000 nm和108乐队。主要特点是水、植被、混凝土道路、熔岩岩石、钢铁、玻璃和墙壁。
3.2。数据预处理
ROSIS-3数据预处理,可以立即用于实验。HySpex数据由辐射校准radiometrically修正模块,HySpex成像光谱仪,和反射率反演是由平面场的方法基于统计模型;一个大型混凝土用作平场。预处理后的图像数据可以用于实验。
4所示。结果
4.1。样本的选择
我们使用了两种类型的图像数据来选择共有八个功能类。每种类型的地物样本数据的选择ROSIS-3数据如表所示1,每种类型的地物的光谱曲线示例如图4(一)。每种类型的地物的样本数据HySpex数据如表所示1,每种类型的地物的样本光谱曲线如图4 (b)。所选样本分为训练、验证和测试样本的比例大约3:1:1。我们使用的训练样本调整可训练的参数模型,验证模型的样本调整hyperparameters,和测试样本来测试模型的分类精度5。
(一)
(b)
4.2。分类实验基于堆叠Autoencoder (SAE)
4.2.1。准备分析Autoencoder (AE)模型
AEs与不同数量的隐层神经元分别训练同样的训练样本。AE培训旨在使原始图像和重建数据编码和解码后尽可能相似。因此,模型的性能可以通过重建能力分析模型的训练样本完成后测试样品。AE编码和解码前100特性测试样本获取的重构特性。原始和重建功能转换为1010像素大小代表帧图像特征。我们选择代表性沥青和草原特性ROSIS-3实验数据。特性的可视化实验结果重建使用不同数量的隐层神经元的数据所示6(一)和6 (b)。我们选择代表性水体和混凝土路面特性的HySpex第二个实验的数据。功能重建的可视化实验结果与不同数量的隐层神经元所示的数据6 (c)和6 (d)。沥青的光谱曲线,其反射率一直稳定在一个较低的水平,因此,图像主要是蓝色的,和分析可以执行当隐层神经元的数量是30。重建的最佳效果得到当隐层神经元的数量是30;草的光谱曲线,其反射率一直保持在较低的状态,当波长700纳米以下,当波长为700 nm,产生一个明显的跳。反射突然增加,然后,该地区稳定。图片是蓝色的,然后迅速转换红色。重建效果最好当隐层神经元的数量是50和隐层神经元的数量是30。总之,最好的重建效果是实现当隐层神经元的数目的AE是30 - 50,和AE性能是最好的。
(一)
(b)
(c)
(d)
4.2.2。传统方法的比较与AEs
分析取得了更好的选择后的隐层神经元的数量AE,很自然的来验证是否能帮助分类器的分类精度。AE比较和分析了几种常用的降尺度和特征提取算法。特征提取后的分类器连接算法是一个支持向量机分类器,将softmax回归分类器。支持向量机的核函数选择作为径向基核函数适用于高光谱图像分类。的hyperparameterσ内核函数设置为0.009;惩罚参数是100。softmax回归学习速率的选择是0.1,和优化迭代号码是500。在第一个隐层神经元的数目设置为40,和神经元的数量在第二层(5、10、15、20、25、30)。我们选择传统的降尺度主成分分析和特征提取算法,最小噪声部分延长(旋转),旋转因子分析(FA)和独立的组件。实验结果的比较之间的分类精度AEs和传统方法与ROSIS-3数据数据所示7(一)和7 (b)。分类精度的分析表明,支持向量机连接时AEs是最高的。精度变化小数量的变化特性。的分类精度因子分析和主成分分析是相似的和稳定的但仍显著低于AE。当将softmax回归分类器连接,AE的分类精度进一步提高,和分类精度达到最优值(> 90%)当特征的数量是20。实验结果的比较之间的分类精度AEs和传统方法与HySpex数据数据所示7 (c)和7 (d)。分析表明,AE的分类精度是最高的SVM分类器连接。分类精度增加慢慢随着特征数量的增加。特征的数量太大时,分类精度大大降低。
(一)
(b)
(c)
(d)
相比之下,因子分析和主成分分析的分类精度保持稳定。不过,分类精度低于AEs和独立分量分析和最小噪声分离精度仍有不足。然而,当将softmax回归分类器连接,AE的分类精度和分类精度提高显示了稳定的增长。其分类精度优于其他方法。
根据上面的分析,AE表现明显比其他四个更好的整体特征提取算法。分类精度展览一个更稳定的趋势随着特征数量的变化。此外,分类精度较高时将softmax回归分类器是连接比支持向量机分类器的连接。
4.2.3。分析节约的隐藏层数的影响
前一节的结论证明了AE的特征提取能力优于传统的特征提取算法和分类精度是AE时更好的连接将softmax回归分类器。接下来,SAE由AE,构建分类模型相结合将softmax分类器和比较不同层的影响AE的分类精度。
决定节约的性能的关键因素之一是隐藏层的数量,也就是说,AE层数的选择。许多不同的AE层决定了什么样的特征提取和在最后的分类精度起着至关重要的作用。当层数太小,只有肤浅的部分可以删除,影响图像分类精度,隐藏层数量的增加,越来越多的抽象特性表征。然而,当层数太大,模型可能overfitted [67年]。这显示层数的影响AE的分类性能。从上面的部分,可以初步确定,可以获得更好的分类精度当隐层神经元的数量是30 - 50。因此,隐层神经元的数目是固定在40岁,选择和AE数层[1 - 5],分别确认的可靠性实验单一条件下多次重复实验,最后由一个箱线图。SAE的分类精度结果与不同的隐藏层ROSIS-3数据如图8(一个)。图8 (b)显示了分类精度的结果的堆叠autoencoder HySpex数据与不同数量的隐藏层。随着AE的层数增加从1到3,分类精度显著提高,分类精度的稳定性逐渐增加,而进一步增加层数的AE,分类精度开始显示一个特定的减少趋势。当AE的层数达到6,分类精度明显下降和分类精度开始变得不稳定。ROSIS-3数据的中位数分类精度为92.12%和94.02% HySpex数据。
(一)
(b)
4.2.4。最优模型精度评价
根据实验分析,得到最优分类模型当隐层神经元的数量是40和AE的层数是3。基于实验的结论在前面的小节中,两个实验的分类精度为92.12%在ROSIS-3 HySpex下和94.02%的数据选择评估的准确性。SAE-SR混淆矩阵的分类精度与ROSIS-3数据如表所示2。分类模型的分析表明,更好地认识到金属板,草,树,执行更糟糕的沥青,碎石,和裸露的地面,和平均表现为砖和阴影,与沥青容易混淆,裸露的地面,砾石,阴影和树木之间。的混淆矩阵SAE-SR HySpex数据的分类精度如表所示3。除了钢板和混凝土道路、其他特性的识别度较高;钢板和墙壁很容易混淆。
4.3。分类模型的分类实验基于深层信念网络
4.3.1。遏制的分析模型
使用两种类型的图像数据,ROSIS-3 HySpex,我们应用一个元模型结构单元的深层信念网络。我们分析了隐层神经元的数目对疟疾的性能,在设计中的hyperparameters元,学习速率为0.1,根据hyperparameter[给出的选择建议68年]。隐层神经元的数目设置为[10、30、50、70、90),分别。遏制疟疾含有不同数量的隐层神经元分别与相同的训练样本训练,直到算法融合。在本节中,模型的性能是由模型的重构能力培训完成后的测试样品。
我们比较了原样品的光谱曲线重构光谱曲线在不同实验参数。遏制的重构能力的差异与不同数量的隐层神经元可以直观地对比图9。代表沥青和草原特色ROSIS-3数据被选作实验。光谱曲线实验结果如图所示9。当隐层神经元的数量是30,重建的沥青光谱曲线是最接近原沥青光谱曲线和重建的草光谱曲线是最接近原草光谱曲线。重建的水泥道路光谱曲线是最接近原始的水泥道路谱曲线。总之,遏制的性能是最优当隐层神经元的数量是30。数量太大或太小的隐层神经元对性能有很大影响。
(一)
(b)
(c)
(d)
(e)
(f)
4.3.2。遏制疟疾与传统方法的比较
的影响上的隐层神经元数目遏制的性能进行了分析。遏制疟疾的最佳性能被发现当隐层神经元的数量是30。表现最好的遏制与AE和传统特征提取算法。根据实验获得的结论部分4.2。3,这两个传统的特征提取算法的分类精度(因子分析和主成分分析)是高,所以只有这两个选择算法作为本节的传统特征提取算法实验。在实验中,两个神经网络层的遏制了;在第一隐层神经元的数量设置为30,和神经元的数量在第二层(5、10、15、20、25、30)。然后,两个神经网络层的AEs构造;在第一个隐层神经元的数目设置为40,和神经元的数量在第二层(5、10、15、20、25、30)。传统的降维方法提取(主成分分析和因子分析)[5、10、15、20、25、30)特性。提取特征的数量是不断对所有降维方法和连接两个分类器:支持向量机和softmax回归分类器。支持向量机的核函数被选为径向基核函数适用于高光谱图像分类;的hyperparameterσ的内核函数设置为0.009,惩罚参数是100年,学习的速度将softmax回归被选为0.1,和优化迭代的数量是500。实验结果进行比较,分类精度的遏制与其他方法HySpex数据如图10。分析表明,疟疾的分类精度明显高于的因子分析和主成分分析和更稳定的变化特征的数量;然而,遏制疟疾的分类精度是整体不如AE。
(一)
(b)
(c)
(d)
4.3.3。分析的影响在DBNs隐藏层的数量
前一节的结论,它可以得出结论,遏制疟疾的特征提取能力优于两种特征提取方法的因子分析和主成分分析,及其特征提取能力不如AE。下一步是构建一个遏制深层信念网络,连接将softmax分类器构造分类模型。
深度信念网络的隐藏层的数量决定适当的特性可以提取,显著影响最终的分类精度。当层数太小,只能提取浅的特性,提高了分类精度。然而,当层数太大,它可以产生过度拟合。从上面的部分,可以初步判断,分类精度可以提高当隐层神经元的数量是30。我们修复的隐层神经元数30并选择隐藏层的数量(1 - 5),分别;的可靠性实验证实了单一条件下多次重复实验,最后由箱线图。实验结果的分类精度ROSIS-3数据在不同的隐藏层的深度信念网络图所示(11日)。的分类精度HySpex数据如图11 (b)。ROSIS-3数据的平均分类精度为88.22%,和中位数HySpex数据的分类精度为92.16%。
(一)
(b)
4.3.4。最优模型精度评价
根据实验分析的隐层神经元的数量和遏制的层数,得到最优分类模型当隐层神经元的数量是30和遏制的层数是2。根据实验的结论在前面的小节中,两个实验的分类精度为88.22%,ROSIS-3数据为92.16%,选择HySpex数据执行的混淆矩阵ROSIS-3 DBN-SR分类精度的数据表所示4。分析表明,与SAE相比,有明显降低识别裸露的地面和砖块的深层信念网络,也有一定的总体分类精度下降。DBN-SR HySpex数据的混淆矩阵的分类精度如表所示5。DBN-SR分类混淆矩阵的准确性,分析显示显著降低识别火山岩SAE相比。
4.4。比较两个优化模型
根据实验结果在前面两个部分,SAE的优化模型与40个隐层神经元和三层。最优的DBN模型有一个隐藏层30神经元和两层。盒子的比较分析情节和混淆矩阵表明,SAE具有较高的分类精度和更准确和稳定的每个特性的识别。它可以得出结论,基于SAE的分类模型和将softmax回归分类器最优分类模型在这个实验中获得的。两种算法的最优模型被用来分类整个图像,和ROSIS-3和HySpex数据的分类结果图所示12。下的分析表明,ROSIS-3数据,SAE-SR分类模型分类一些阴影和树木和一些裸露的地面,草和树。DBN-SR分类模型分类砖块和砾石和混淆的阴影,树木、沥青、砖、识别精度较低的砾石和砖与SAE-SR分类模型。HySpex数据下,SAE-SR分类模型混淆植被、水、玻璃和钢板墙。DBN-SR分类模型也有类似的情况,但是误分类比SAE-SR分类模型中更严重。
(一)
(b)
(c)
(d)
4.5。优化
根据上面的箱线图和准确性评估分析,我们设计了一个优化策略使用堆叠稀疏autoencoder基于SAE。隐层神经元的数量和隐藏层保持不变从上面描述,获得最优参数的精度比普通SAE。比较分析准确性的AE表所示6,这表明,分类精度提高了使用稀疏autoencoder不利。
深入学习算法计算复杂,需要很长时间来训练,因为深度学习的许多参数模型,这是一个深层神经网络,和许多执行浮点数和矩阵运算在参数阶段模型的训练过程。该模型计算过程,本文利用GPU的并行计算。图13显示分类速度在GPU并行计算的分析结果。基本的计算机硬件规格在实验中包括一个英特尔i7处理器- 7500 u, GeForce GTX 960图形卡,8 GB RAM。软件环境还包括Ubuntu, cuda8.0 cuDNN版本5。模型的训练时间两组图像数据(ROSIS-3和HySpex)从171秒减少到23秒,从321秒到45秒,分别。这大大加快图像分类。
5。结论
在本文中,这两个模型,SAE和DBN深度学习,应用于高光谱图像分类处理的一些问题的高光谱图像分类。分类模型是由连接到softmax回归分类器。多个实验通过改变隐层神经元的数目的AE和遏制。重建图像特性进行了可视化和分析与原始图像特征相比,和最好的重建效果得到30 AE和30个隐层神经元隐层神经元的遏制。AE和遏制与传统特征提取算法相比,这两种分类算法中,我们证实基于AE和遏制优于基于传统的分类算法特征提取算法的分类性能;AE堆放,形成一个SAE,疟疾是堆叠形成深度信念网络;即单层神经网络叠加形成一个网络。通过实验分析,分类精度达到92.12%和94.02%,有三个隐藏层的节约和88.22%和92.16%两个隐藏层的深度信念网络;因此,最优分类模型被发现是一个SAE。分类精度进一步提高到93.41%和94.92%堆叠稀疏autoencoder通过修改模型。 To shorten the long training time of the deep learning algorithm, GPU computing was applied to the classification model, improving classification speed by more than seven times.
通过全面的实验分析,我们发现,基于深度的高光谱图像分类模型学习算法可以获得更好的分类精度比传统的分类模型。然而,一些深学习算法问题仍然需要解决。例如,选择模型hyperparameters和隐层神经元的数量和层分类精度有很大影响。也就是说,模型参数的选择是复杂的和对分类性能有很大影响。其次,深入学习算法是复杂的,在相同的硬件设备条件下,其性能差别很大。如何提高优化算法的准确性,同时降低其计算时间还需要进一步研究。
数据可用性
使用的数据来支持这项研究的结果包括在本文中。
的利益冲突
作者宣称没有利益冲突。
确认
这项工作得到了中国国家重点研究和发展计划(批准号2021 yfb3900505和2021 yfc3000401),中国国家自然科学基金(批准号41941019),四川矿产资源研究中心(批准号SCKCZY2021-ZC003),四川省教育部人文社会科学(张Daqian研究)重点项目(批准号ZDQ2021−01),四川的开放基础灾害经济研究中心(批准号ZHJJ2021-ZD001)和教育部的Industry-School合作教育项目(批准号202101162001和202101162001)。