智能图像识别系统对海洋污染使用Softmax传输卷积神经网络学习和深

文摘

控制的生物淤积对海洋船舶是具有挑战性的和昂贵的。早期检测之前船体性能显著影响是可取的,尤其是“梳理”是一种选择。这里,描述一个系统来检测海洋污染处于早期发展阶段。在这项研究中,一个图像无线传输的污染可以通过移动网络进行分析。该系统利用转移学习和深卷积神经网络(CNN)对污染图像进行图像识别的分类检测污染物种和表面污染的密度。转移学习使用谷歌的《盗梦空间》V3模型Softmax最后层进行污染数据库类别和1825的图像。实验结果为可接受的精度对污染检测和识别。

1。介绍

海洋生物淤积是海洋生物的不必要的殖民化和增长沉浸人工结构(1]。表面的快速调节后,随后的污染是一个动态的过程,依赖于可用性,殖民者对在位者的关系,和生物的速度可以附加2),尽管它通常被描述为连续性[3]。关于运输,船体性能的主要问题是摩擦阻力的增加,需要增加力量保持速度,因此增加燃料消耗和气体排放(4,5]。船体污染也是主要矢量易位nonindigenous物种(6]。因此海洋经济增长的早期检测和识别最重要的,以避免这些问题。本文研究海洋探测和识别使用增长转移学习和深卷积神经网络(CNN)的方法。

人工智能(AI)使用机器学习从一个类似的测试数据维空间。在大多数实际应用中,需要大量的计算资源和资本来获取所需的数据重建模型(7]。因此,转移学习使用。它可以减少需要收集资源和资本,同时使用pretrained模型从不同的应用程序在当前的应用程序工作。学习使用学习转移前的训练模式。CNN模型最初训练学习的特性在一个巨大的数据集可以用来执行认知任务在特定领域的数据集8- - - - - -10]。几个方法转移学习取得了良好效果,有很大的文学学习和CNN转移。例如,Devikar [1111日)采用转移学习类型的狗,为每个类25个图片。他调整后再培训从狗数据集和谷歌的《盗梦空间》V3模型实现了96%的准确识别的犬种。的效用的方法也已经证明植物图像(12,13)、医疗数据集(14- - - - - -16),和一个国营农场的数据集(17)的准确性高达98%的餐前小吃(13)的研究。在所有这些情况下,一个大的高质量图像,并有很强的数据库和特色被要求产生良好的分类结果。学习转移删除图形处理单元(GPU)的需要培训尽管缩短训练时间的优势。CNN的转移学习超过完整的训练模型的分类精度。它也减少了需要标签数据通过使用功能已经从先前的模型。

虽然这种方法也被应用于水过滤和热污染的调查,例如,预测污染饮用水的过滤(18),热交换器(19)和加热器(20.),转移学习和深CNN没有应用于船的船体等海洋结构的生物淤积。值得注意的是,上述分类结果精度超过70%在使用学习方法在CNN转移。这个值被用作基准在目前的研究中,这是集中部署转移学习使用谷歌的《盗梦空间》V3模式[21,22)与Softmax污染数据库与十个类别和1825张照片。再培训的污染数据库进行使用TensorFlow [23,24)码头工人形象深度学习的图书馆。

总之,将Softmax转移的应用学习和深卷积神经网络对海洋污染识别还没有文献报道。海洋经济增长的早期检测通过图像识别提供了一种方法对船的主人安排维修,例如,通过船体梳理(25,26),在海洋经济增长严重的损害船体性能。因此,本文作出的贡献如下。从船上拍摄的图像的污染可以远程转移到陆上污染识别。转移学习和深卷积神经网络可用于分类污染的类型和密度对早期发现污染使用捕获的图像。

剩下的部分组织如下。部分2描述了污染图像识别系统之后,提出深卷积神经网络部分3。最后,部分4总结了纸。

2。污染的图像识别系统

该项目旨在拍照特定区域的船体表面通过摄像头模块的单片机。由于实地测试的限制,捕获的图像从网上获得。的一些图像并不真正代表实际的污染在船的船体。捕获的图像将存储在云存储通过4 g /长期演进(LTE)电子狗。它会自动上传到云在图1。图像将用于污染分析通过深度学习和CNN。如图2,第一阶段的项目将确定是否存在任何macrofouling生物体表面的船体在覆盆子π使用相机。它是由使用初始V3模型进行图像识别,训练了ImageNet大规模视觉识别的挑战[21]。如果结果表明没有macrofouling生物体,算法将会停止。表面macrofouling或污染密度的百分比将会决定。否则,它将继续下一个阶段macrofouling生物将分类根据不同类型的海洋污染见表1和图3。总共有1825张图片到数据库中。海洋污染的类并不详尽,有超过4000种已知的污垢。污染在表1决定了适应船舶上的一些常见类型的污染,使得模型学习足够的特征分类器来执行其任务。由于不一致的图像大小,质量,和不同的污染图像、数字污染图像的每个类都是不平等的。图像将被提炼更具代表性的海洋生物淤积在船的船体和早期的发展阶段。在最后阶段,该算法将检测macrofouling生物体的总面积的百分比的图像称为污染密度。这是通过计算机视觉处理的图像通过开源库(OpenCV)使用基于颜色的分割方法。不同的结果在整个程序能得救。一个图形用户界面(GUI)旨在促进的过程运行的不同阶段算法。

安排图像识别系统的生物淤积图所示4。不可能安排测试在船。相反,一个实验室安装使用。污染的照片被固定在墙上来模拟船舶船体上的污垢的存在。左边显示的是微处理器通过移动连接连接(位于“船”)到云存储和本地机器右边。主机设备(“在岸”)用于污染识别和分析。微处理器(即。,覆盆子π3模型B) operates on Raspbian OS (see Figure5),在本地机器使用Ubuntu操作系统。它可以作为电脑有内置摄像头用于构建智能设备如污染识别系统。出于完整性的考虑,表2和3显示该系统的硬件和软件组件。

3所示。提出了卷积神经网络

卷积神经网络(CNN)是一种深度学习神经网络(NN)图像识别和分类。这种神经网络是由层与人工神经元层之间的连接形式。有价值的链接权重调整在整个训练过程中,训练网络。层构造,第一层标识一组简单的输入模式。这样的标准CNN包含5到25层,结束于一个输出层(27]。图6显示了一个典型的CNN用于本文的体系结构。

卷积在第一层,输入提取的特征,如边缘、线条和图像的角落。采取一种 特征提取器在一个 大小的图像,为例,从图像的左上角开始,特征提取器执行矩阵乘法和加法的像素值,然后总结他们。总结价值将进入第一个隐层,这也被称为第一个特性映射。特征提取器现在幻灯片本身通过步等于1,重复这个过程。当特征提取器达到最右边的图片,它将垂直下降步等于1,回到最左边的形象,并再次重复这个过程。这个过程将继续,直到 图像的特征提取器到达右下角(27]。

池层是卷积层。池层建立抵抗噪声和失真特性。最大池和平均池两种方法来执行这一任务。的例子 特征映射输入池层, 池, 输入将会分成四个矩阵不重叠。在马克斯•池 池只会考虑在自己输出的最大价值。平均分担的 池将考虑内部四个值的平均值输出。池在图像识别的优势是它不变的轻微移动和旋转图像。因此,池是一个过程,浓缩卷积层(27]。

应用非线性层是一个额外的功能,每次卷积。这个函数的CNN利用提出的著名的分类可能隐藏层中相似的特征。CNN也使用各种非线性函数和最受欢迎的功能是解决线性单元(ReLU)。ReLU作用于一个函数的每个像素和替代品-特征映射的像素值0。需要ReLU如卷积是一种线性的操作和数据引入非线性(CNN总是27]。

完全连接层作为CNN的最后一层。完全连接层执行从其前一层重量的特性的总和。这意味着输出从先前的卷积和的高级特征池被分类基于输入图像和CNN的数据集训练。这种分类将在输出层,结果将显示结果的概率或类概率如表4和5。

拟议的《盗梦空间》V3模型由三个卷积层汇聚层,三个卷积层,十《盗梦空间》模块,和一个完全连接层。总共有17层在这个模型中包含的特性与ImageNet从最初的训练。最初的完全连接层将由一个新的图层重新训练。瓶颈的催化剂层用于生产瓶颈值放在将Softmax分类器。新的Softmax函数将输入图像数据映射到获得分类结果(28]。

3.1。转移与Softmax学习使用初始V3模型

转移学习利用pretrained神经网络实现识别和认识到macrofouling生物在第一阶段的计划。本节显示了转移的结果使用初始V3模型学习与Softmax污垢的形象。而不是从头培训深度网络,网络训练在一个不同的应用程序使用。在这个项目中,一个图像识别的模型被称为《盗梦空间》V3 (21被选中。它由两个主要部分,即特征提取与CNN和分类部分完全连接和Softmax层。初始V3能够实现良好的图像识别的准确性macrofouling生物。在培训过程中,污染数据库安排标签的目录。数据集的十类存储在目录的“污染照片。“培训过程TensorFlow码头工人形象被处决。的TensorFlow码头工人有助于缓解TensorFlow开源软件的启动和运行库。第一个培训过程运行在500培训步骤使用默认训练10批大小和学习速率为0.01。每个污染图像的瓶颈值存储在瓶颈目录。预测与实际的标记图像。评估过程将会更新最后一层的权重通过反向传播过程。

训练精度表明污染图像识别正确的概率。验证精度相当于任何选择图像正确识别的概率。交叉熵是一个函数,它反映了图像的分类之间的差距有多远从地面实况标签。一个新的《盗梦空间》重新训练V3模型图,重新训练标签文本文件包含10个污染类,并重新培训日志文件生成后再培训的过程。日志文件制定的培训和验证精度损失。第一个培训过程绘制如图7和8。从数据集随机污染照片选择测试新Softmax分类器。将Softmax函数,输入图像分类和排序的信心。如表所示4的一些类,如水螅虫类的,藤壶,藻类,手指海绵、和圣诞树蠕虫不到70%的结果,正如上面提到的是设置为基准,是可以接受的。

因此,污垢的污染样本数据库接受再培训,提高验证的准确性。培训过程重复直到最后测试精度更高。一组随机污染图像被用来测试分类器。结果列表如表所示4。进一步培训的迭代进行不同批量大小和学习速率。然而,它没有产生一个更好的结果。此外,最终的测试精度比第一个培训。发现的藻类污染照片没有锋利的特性。更多的图片再培训的藻类被下载。一些修正案进行生产更好的质量较低的图像噪声。第二次培训然后重复初始批量大小和学习速率。表4显示第二培训提高10 - 40%左右。最后测试表5显示改善的分类。例如,数据9和10显示的结果第二次培训藻类。结果平均提高79.255%。最前面的方法转移学习生成分类精度超过70%。本文分类结果产生令人满意的分类结果超过70%,如表所示5。

3.2。Macrofouling识别

图像处理算法在acorn藤壶,然后测试常见的macrofouling有机体。这个任务检测macrofouling的存在是通过OpenCV实现。然而,该算法可以修改考虑另一种类型的污染。红色的;绿色的;蓝(RGB)和色调;饱和;测试值(HSV)颜色空间。RGB颜色比HSV模型更加有效和准确。藤壶的污染种类,尤其是在热带地区,通常红色或白色与红色或紫色条纹。 But the shells may be colonised or overgrown by other fouling forms, which will complicate recognition/classification. Shapes of the openings of the shells will also vary depending on species besides the color. For a start, the color-based segmentation method was then implemented, and the morphological (shape) operation was carried out to process the image. An RGB lower and upper limit were decided for an off-white color similar to the color of acorn barnacles in the images used. A mask was then used to obtain the desired barnacle color. The image was then converted into greyscale. The morphological closing operation was used to close small holes inside the foreground objects. The number of 1 (i.e., white) that represents the acorn barnacle pixels was determined as shown in Figure11。图像的面积计算。藤壶像素的数量被划分在整个区域的图像获取藤壶污染的百分比。这个项目中使用的程序依赖于CNN,和准确性的大小取决于数据集进行训练。

GUI开发允许用户与功能见图11。GUI开发利用PyQt5便于算法的流程,即由OpenCV macrofouling生物识别,分类macrofouling生物体通过CNN模型,最后藤壶污染的百分比。GUI允许用户通过“上传”按钮上传图像。分类和污染密度的图像和结果将显示如图12。如果图像上传nonmacrofouling生物功能按钮将被禁用。结果通过“保存”可以保存按钮允许用户保存结果进行进一步分析。大约60正面形象(从每个类,如图1011)和60负面形象(其他图像)和大小 在维度从互联网获得测试识别的准确性。60的正面形象测试,53个图片是正确确定为macrofouling生物体而七图像被错误地认定为nonmacrofouling生物,给88%的准确性。51的60负面形象测试,图片是正确确定为nonmacrofouling生物体在9个图像错误地认定为macrofouling生物,给85%的准确率。因此,平均精度为这个实验是86.50%,这是鉴于pretrained模型相对较高。结果表明,图像处理算法可以检测macrofouling生物的存在。

3.3。CNN Macrofouling分类

进一步模拟进行了在两个不同的数据集来确定不同数量的准确性会受到影响的图片为每个类。在这项研究中,图像的质量和相关性是可以接受的培训。数据集# 1包含总共1423张图片,包含训练和验证图像与997年和426年,分别。数据集包含582 # 2图片,与402年和180年被训练和验证图像,分别。对于这两个数据集,时代(或几个步骤)设置在100/75/50/25,分别。从表6,精度随时代的数量和数据集的大小。应该使用更多的时代和数据集训练CNN模型来提高训练精度。更多的更大的网络层可以实现提高准确性。然而,广泛的神经网络将引起严重的过度拟合和计算昂贵的培训。

CNN模型训练后,大约60正面形象在以前的训练被用来测试使用不同的训练模型来比较他们在分类精度。观察表7,精度随时代的数量。macrofouling生物的分类给平均准确率为74.75%,中值为70.50%,标准差为7.92%。

3.4。Macrofouling密度

藤壶图像被用来获得污染超过总面积的百分比OpenCV的图像或污染密度。大约40藤壶图像被用于测试。获得的结果给了最低的污染密度为8.58%,最高价值的36.79%,平均为20.18%。根据获得的结果,污染密度将分类。例如,5% - -15%的范围将被认为是光污染,15% - -25%中污染和重污染25% - -40%。例程能够确定污垢和污染水平的比例如图12。藤壶的测试可以修改为不同的类通过定义篮板颜色范围基于颜色特征。然而,也有一些局限性有被膜的类存在于许多不同的颜色和形态。总之,学习使用谷歌的《盗梦空间》V3模式和转移Softmax最后层成功进行污染数据库类别和1825的图像。超过70%的污染分类正确验证精度。图像处理的方法也可以检测污染在给定面积的百分比。

4所示。结论

海洋生物淤积有负面影响对海洋船舶运营性能和成本。通过图像识别分类的快速和低成本的实现通过转移学习pretrained卷积神经网络(CNN)模型(名为《盗梦空间》V3)提供了一个潜在的解决方案。船舶污染的早期检测。无线传输通过移动网络能使污染图像上传到Google Drive云存储容易,随后用于图像识别。图形用户界面与功能开发,促进流动污染污染识别算法的识别和污染分类通过CNN污垢的密度和开源的计算机视觉库(OpenCV)。藤壶是可以接受验证识别和分类精度。污染的比例将在给定藤壶表面积也是决定成功。

这项研究已经在最后的污染所需的基准分类准确性和污染密度。未来的工作将开发一个数据库的“真实世界”的图像更大的污损生物的多样性在不同的发展阶段和检查潜在的污染的CNN远程评估方法。其他类型的非监督机器学习技术将用于与该CNN的方法。开口的形状的物种将被纳入macrofouling认可。图像识别的测试系统将进行船上通过海事卫星宽带系统网络连线或SEVSAT等。

的利益冲突

作者宣称没有利益冲突有关的出版。

确认

作者想表达最深的感谢吴先生小君,Galvan吴作栋贾庆林宣先生,先生Clauson Seah杰大毕业于纽卡斯尔大学分享他们的污染报告识别和分类。作者要感谢全球卓越基金奖(ID:安全部队# 51)从纽卡斯尔大学赞助和支持项目自2015年以来。

引用

1. j·a·刘易斯,“海洋生物淤积和其预防水下表面,”材料论坛卷。22日,41 - 61,1998页。视图:谷歌学术搜索
2. a . s .克莱尔d . Rittschof d . j .台北和j·s . Maki”分子无毒的防污方法。”无脊椎动物繁殖和发展,22卷,不。1 - 3、67 - 76年,1992页。视图:出版商的网站|谷歌学术搜索
3. m . Wahl海洋附生生活。1。污垢和防污——一些基本的方面,卷。58岁的《海洋生态发展系列,1989年。视图:出版商的网站
4. m·p·舒尔茨”涂料粗糙度和生物淤积对船舶阻力的影响和推动,“生物淤积,23卷,不。5,331 - 341年,2007页。视图:出版商的网站|谷歌学术搜索
5. m·p·舒尔茨j . a . Bendick e·r·霍尔姆和w·m·赫特尔”经济影响的生物淤积海军水面舰艇,”生物淤积,27卷,不。1,第98 - 87页,2011。视图:出版商的网站|谷歌学术搜索
6. f·t·陈,h . j . Macisaac和s . a·贝利”相对重要性船舶船体污垢和压载水运输向量nonindigenous加拿大北极物种,”加拿大渔业和水产科学》期刊上,卷72,不。8,1230 - 1242年,2015页。视图:出版商的网站|谷歌学术搜索
7. s . j .锅和杨问:“调查转移学习”,IEEE工程知识和数据,22卷,不。10日,1345 - 1359年,2010页。视图:出版商的网站|谷歌学术搜索
8. j·多纳休,y, o . Vinyals et al .,“脱咖啡因的咖啡,深卷积为通用的视觉识别激活功能,“在Icml32卷,第655 - 647页,2014年。视图:谷歌学术搜索
9. g·李维和t . Hassncer”,年龄和性别分类使用卷积神经网络,”《IEEE计算机视觉与模式识别会议研讨会,CVPRW 20152015年6月,页34-42、美国、。视图:出版商的网站|谷歌学术搜索
10. p . Sermanet和y LeCun(“交通标志识别与多尺度卷积网络”学报》国际神经网络(IJCNN联席会议11)IEEE,页2809 - 2813年,2011年8月。视图:出版商的网站|谷歌学术搜索
11. p . Devikar“转移学习各种各样的狗的图像分类,“国际先进研究期刊》的研究在计算机工程与技术(IJARCET),5卷,不。12日,第2707 - 2715页。视图:谷歌学术搜索
12. a·k·雷耶斯,j . c . Caicedo和j . e . Camargo“微调深卷积网络植物识别,”联邦铁路局,2015年9月,1391年1 - 9。视图:谷歌学术搜索
13. 答:餐前小吃,“转移学习图像分类和植物表型出现,”国际先进研究期刊》的研究在计算机工程与技术(IJARCET),5卷,不。11日,页。2664 - 2669。视图:谷歌学术搜索
14. h . Shin h·r·罗斯·m·高et al .,“深卷积神经网络计算机辅助检测:CNN架构,数据集特征和转移学习,”IEEE医学成像,35卷,不。5,1285 - 1298年,2016页。视图:出版商的网站|谷歌学术搜索
15. n Bayramoglu j .么,“转移学习细胞核组织病理学图像分类,“在计算机Vision-ECCV 2016车间,第539 - 532页,2016年。视图:谷歌学术搜索
16. k·Simonyan和a . Zisserman很深的卷积网络大规模图像识别。arXiv预印本arXiv: 1409.1556, 2014。
17. d·辛格,利用卷积神经网络对国家农业保险的司机执行分类图片,4321 - 4325。
18. n . v . Delgrange c . Cabassud m . Cabassud d l . Bourlier和j·m·莱恩”神经网络长期预测的污染和回流超滤用于饮用水生产的效率,”海水淡化,卷131,不。1 - 3、353 - 362年,2000页。视图:出版商的网站|谷歌学术搜索
19. 美国Lalot困扰和h Palsson”污染的检测错流热交换器使用一个基于神经网络技术,”国际热科学杂志》上卷,49号4、675 - 679年,2010页。视图:出版商的网站|谷歌学术搜索
20. Lalot和s . Lecoeuche“在线污染检测电气循环加热器使用神经网络,”国际期刊的传热传质,46卷,不。13日,2445 - 2457年,2003页。视图:出版商的网站|谷歌学术搜索
21. a . Krizhevsky i Sutskever, g·e·辛顿“Imagenet分类与深卷积神经网络,”学报》第26届年会在神经信息处理系统(捏12)太浩湖,页1097 - 1105年,内华达州,美国,2012年12月。视图:谷歌学术搜索
22. c . Szegedy诉Vanhoucke约飞,j . Shlens z . Wojna,“重新考虑初始计算机视觉架构,”学报2016年IEEE计算机视觉与模式识别会议(CVPR 16)2016年7月,页2818 - 2826。视图:谷歌学术搜索
23. m . Abadi p·巴j . Chen等人“TensorFlow,大规模机器学习系统”第12届USENIX学报》研讨会上操作系统设计与实现(OSDI美国佐治亚州萨凡纳,2016年。视图:谷歌学术搜索
24. b·j·埃里克森·Korfiatis z Akkus, t·克莱恩和k·布里克,“深度学习工具包和库,”数码影像杂志,2017年,页1 - 6。视图:出版商的网站|谷歌学术搜索
25. g m . Tribou和情郎,“使用积极的水中修饰提高船体防污涂料的性能,”生物淤积,26卷,不。1,47-56,2010页。视图:出版商的网站|谷歌学术搜索
26. g m . Tribou和情郎,“梳理使用旋转刷子作为积极的方法来控制船体污染,”生物淤积没有,卷。31日。4、309 - 319年,2015页。视图:出版商的网站|谷歌学术搜索
27. s . Hijazi r·库马尔c .再生草IP组,和节奏,“使用卷积神经网络图像识别,”http://owl.english.purdue.edu/owl/resource/560/01/https: / /ip.cadence.com/uploads/901/cnn_wp-pdf。视图:谷歌学术搜索
28. m . s .辛格诉Pondenkandath, b .周p . Lukowicz和m . Liwickit”将传感器数据转换为深度学习的图像域——应用程序脚步检测”《2017年国际神经网络(IJCNN)联合会议安克雷奇,页2665 - 2672年,正义与发展党,美国,2017年5月。视图:出版商的网站|谷歌学术搜索

版权

版权©2017 c . s .下巴等。这是一个开放的分布式下文章知识共享归属许可,它允许无限制的使用、分配和复制在任何媒介,提供最初的工作是正确引用。