多媒体的发展

PDF
多媒体的发展/2018年/文章
特殊的问题

上优于多媒体分析与应用

把这个特殊的问题

研究文章|开放获取

体积 2018年 |文章的ID 6153607 | https://doi.org/10.1155/2018/6153607

徐Haijiao, Changqin黄,黄小弟,春燕,Muxiong黄, 结合卷积神经网络和马尔可夫随机域语义图像检索”,多媒体的发展, 卷。2018年, 文章的ID6153607, 11 页面, 2018年 https://doi.org/10.1155/2018/6153607

结合卷积神经网络和马尔可夫随机域语义图像检索

学术编辑器:勇罗
收到了 2018年5月04
接受 2018年6月12日
发表 2018年8月01

文摘

越来越多的图片在互联网上,有效的可伸缩的语义图像检索变得越来越重要。本文提出一种新颖的方法为语义图像检索通过卷积神经网络(CNN)和马尔可夫随机场(MRF)。作为一个关键步骤,图像检测概念,也就是说,自动识别多个语义概念标记图像,语义图像检索中发挥着重要作用。与以前的工作,使用单一概念分类器,我们检测到语义multiconcept使用multiconcept场景分类器。换句话说,我们的方法需要多个multiconcept现场学习的概念作为一个整体的场景。具体地说,我们第一次CNN作为一个概念分类器训练,进一步包括两种类型的分类器:一个单一概念完全连接分类器是最适合单一概念检测和multiconcept现场完全连接的分类器,有利于全面的现场检测。然后我们提出一个MRF-based后期融合方法能够有效地学习单一概念之间的语义关联分类器和multiconcept场景分类器。最后,subconcepts之间的语义相关性的图像是抓住进一步提高检测精度。为了调查我们建议的方法的可行性和有效性,我们两个公开的图像数据库进行全面的实验研究。结果表明,我们建议的方法优于一些先进的方法。

1。介绍

随着信息技术的迅速发展,大量的多媒体对象(如图像在网络上是可用的。给定一个语义查询,如何有效地找到相关图片从这样一个可伸缩的Web数据库仍然是一个挑战。概念语义图像检索、图像检测是至关重要的一步。为了解决这个问题,人们提出了很多方法,如马尔可夫随机漫步(1)、组稀疏(2整体学习),(3),和多视图的语义学习(4]。这些方法虽然有效,但在single-concept-based图像检索的情况下工作。这意味着每个语义查询应该只包含一个语义概念,限制其可用性。

在本文中,我们特别考虑multiconcept-based图像检索的问题。这种模式允许用户使用多个语义概念来搜索相关的图片。其关键步骤是图像multiconcept检测,也就是说,识别多个语义概念在一个看不见的形象。大多数以前的研究(5,6)利用多个独立的单一概念分类器来检测这种语义multiconcept场景。然而,这种方法可能是无效的,因为视觉multiconcept场景(例如,“草,人、足球和体育”)完全由单一概念分类器很难被探测到。因此,进一步研究图像multiconcept检测是必要的。

近年来,美国有线电视新闻网取得了最先进的性能在许多图像的任务,比如single-concept-based图像检索(7,8],人脸识别[9,图像分割10),和图像重建11]。这表明一个CNN可以学习健壮的视觉特性通过捕获图像的语义结构。一个自然的想法是为图像multiconcept检测设计一个特定的CNN。图像multiconcept现场检测的任务,大多数传统的cnn只关注单一概念检测的图像。因此,他们与multiconcept场景图像上执行有效。我们因此设计一个特定的CNN,适合整体场景检测,两种完全连接分类器:一个单一概念分类器和一个multiconcept场景分类器。前者适合单一概念检测,而后者是对整体的现场检测。使用单一概念分类器的不同于现有的工作,我们的方法采用multiconcept场景分类器来检测语义multiconcept场景,对于多个multiconcept现场学习的概念作为一个整体的场景。使用我们的提议MRF-based融合方法,我们模型单一概念之间的语义关联分类器和multiconcept场景分类器和估计图像的相关性分数multiconcept场景。subconcepts之间的语义关联的图像进一步用于提高检测精度。 Experimental results on MIR Flickr 2011 [12]和NUS-WIDE [13)数据验证了该方法的有效性。本文的主要贡献是双重的:

CNN和磁流变液结合,我们提出一个统一的,小说CNN图像multiconcept现场检测的框架。

我们模型的语义单一概念分类器和一个整体场景分类器之间的联系的方式有效地检测语义multiconcept场景在一个标记图像。

本文的其余部分组织如下。部分2简要回顾一些相关的工作。部分3我们建议的方法的细节。部分4与设置我们的实验报告,结果,和分析,部分5本文总结评价进一步研究。

集群的歧视、生殖和近邻方法,图像检测概念语义图像检索的重要一步。一个区别的方法学习一个项目视觉图像语义概念的分类器,也就是说,随机配置网络(SCN) (14),而生成方法(例如,feature-word-topic模型(15])集中在学习视觉图像和语义概念之间的关系。多数投票的最近的邻居的一个图像,一个加权的方法分配这个图像的语义概念。一个有影响力的工作是TagProp [6),采用加权近邻图学习看不见的图像的语义概念,实现竞争学习性能。这些上述方法忽略的宝贵潜伏地嵌入在图像语义的概念,简化系统的设计和相关计算。另外,其他一些有效整合统一的学习框架下的语义信息,实现概念的良好性能检测。在[16),谷歌的语义距离,提出了提取语义概念的语义和短语。在[17),提出了一种基于本体的语义层次池方法改善覆盖或训练图像的多样性。

在图像检索的研究领域,MRF-based方法也广泛使用,实现承诺的性能。Laferte et al。18)提出了一个离散MRF方法采用最大后验估计的四叉树,从而降低计算费用。麦茨勒et al。19)提出了一个MRF-based查询扩展的方法,提供了一个有效机制建模图像概念的语义依赖。在[20.),提出了一种势函数的参数估计和模型推断,该授权概念分类器的学习能力。Kawanabe et al。1]利用马尔可夫随机漫步在图形的文本标签来提高图像检索的性能。陆et al。21)利用最大似然估计训练空间马尔可夫模型,然后使用该模型对图像检测的概念。董et al。22)提出了一个sub-Markov随机游走的方法与概念图像检索之前,可以被解释为传统的随机沃克与添加辅助节点图。最传统的方法专注于single-concept-based图像检索。为一个图像multi-concept查询,他们采用单一概念的组合分类器(5,6)来检测图像multiconcept场景。

CNN-based深度学习最近在single-concept-based图像达到最先进的性能任务。Simonyan et al。23训练一个CNN称为VGG深处,实现竞争ImageNet大规模数据集上的性能。Szegedy et al。7)提出了一种更深层次的CNN架构称为GoogLeNet ImageNet实现更好的学习性能。为了提高图像检索的性能,黄平君et al。24)提出了三种屏蔽方案选择一个代表当地卷积特性的子集。Girshick et al。8)提出了一个可伸缩的目标检测方法,与CNN的特性(R-CNN)地区,应用高容量CNN自下而上的地区建议。任等。25)提出了一种区域建议网络(RPN)共享完整图像卷积特性与检测网络,从而使几乎免费的地区建议。在[26),一个Multi-Loss正规化深层神经网络(ML-DNN)框架,提出了利用多个损失函数不同的理论动机在语义概念学习减轻过度拟合。他等。27]提出了剩余的学习框架,减少神经网络的训练。王等人。28)提出了一个深刻的集成学习方法大规模数据分析。黄等。29日)提出了一个密集的卷积网络(DenseNet),连接每一层每隔一层前馈方式,加强传播特性和减少培训费用。尽管有效,但这些方法都局限于应付single-concept-based图像检索,限制了其实际的可用性。这激励我们设计一个新的模型来解决这个问题。

3所示。建议的方法

我们的方法,称为CMMR,旨在结合CNN和磁流变液multiconcept-based图像检索。假设 代表一个训练集和测试集,分别。每张图片 表示为低级视觉特征向量。给定一个词汇 独特的语义概念,每个概念 是一个概念,例如,“草”或“的人。“每个图像训练集 贴上几个语义单一概念吗 ,而测试集的图像 没有标签的概念。每个语义与multiconcept场景 ,例如,“云,天空,日落”,是一组元素的力量的 ,也就是说, 。给定一个multiconcept查询 (例如,“草,人、足球和体育”)和目标设置 ,我们的目标是找到一个结果集 与相关的图片。结果集 满足下列条件: 每一个相关的图像 包括所有目标单一的概念 ;和 , ,在那里 站的相关性得分

1展示了我们的提议CMMR框架与工作机制。我们CMMR框架包括三个主要组件:CNN框架,MRF-based融合和在线检索。CMMR旨在学习分类器的概念。通常CNN的最后一层是一个单一概念分类器。我们替换它用两种类型的分类器:一个单一概念完全连接为单一概念分类器检测和multiconcept现场完全连接为整体场景分类器检测。MRF-based融合组件学习这样的两种类型的分类器之间的语义关联,产生最终的语义给定multiconcept分数查询语义场景 联机检索获得的搜索结果 通过四个步骤。首先,CMMR生成检测环境 通过使用语义邻居的方法。然后提出了CNN一个单一概念分类器和multiconcept场景分类器学习。第三,使用MRF-based融合方法学习的最终得分语义 最后,CMMR雇佣了语义分数执行语义图像检索。

3.1。Multiconcept词汇代

每个multiconcept CMMR问候 作为一个整体,也就是说,一个整体的概念。为了避免无意义的概念排列,CMMR选择有意义的multiconcept 生成一个multiconcept词汇 根据以下同现管辖训练集 : 在哪里 的基数 ,例如, , 的multiconcept频率吗 如果大小的 太大,我们可以调整阈值 降低计算费用。通过这种方式, 包含multiconcepts 是生成的。

3.2。CNN网络的建议

通常CNN其次是完全连接有多个卷积层分类器层。卷积的功能层是学习和提取强劲的视觉特征,在分类器层分类器学习的概念。任何cnn形象的任务可以被纳入我们的框架。不失一般性,我们选择一个有影响力的模型,GoogLeNet [7),建立我们的卷积层。

图像概念检测作为一个关键的步骤,语义图像检索。大多数传统cnn专注于图像单一概念检测,因此对图像进行有效multiconcept现场检测。此外,一个原始CNN (如。GoogLeNet)旨在预测一个概念的一个看不见的形象,而在我们的例子中每个形象都与多个标记的概念。因此,我们修改GoogLeNet multiconcept适合现场检测。

首先,我们设计一个特定的完全连接分类器层适合整体场景检测,包括两种分类器:multiconcept场景分类器和一个单一概念分类器。他们共享一个卷积层,因为这个卷积层生成一个通用的可视化表示。第二,我们遵循30.)来定义我们的softmax损失函数 multiconcept学习。有了这个定义,规范化的预测 图像的 jth multiconcept 是计算 在哪里 (例如,“草,人、足球和体育”)是一个整体概念, 是激活函数, 是multiconcepts的数量。后(30.),我们使用一个修正线性单元作为非线性激活函数。我们减少Kullback-Leibler预测之间的分歧和地面真理; 被定义为 在哪里 的图片和数量吗 是地面真理的形象吗 jth multiconcept 很明显,我们有 如果 出现在 否则。

3.3。CNN的培训

训练一个CNN的过程分为两个阶段:卷积一层一层训练和分类器训练。前提取深度特性,而后者学习合理的概念分类器。这个过程很耗时间,特别是对于培训大型图像数据库。因此,公开发布pretrained GoogLeNet采用加速训练。这个过程包括三个步骤。初始化后pretrained GoogLeNet, CNN模型能够提取深度特性。接下来,这些深特性被送入分类器层,然后训练有素。最后,CNN是重新训练通过冻结卷积块底部,以及通过微调卷积块和分类器。

学习multiconcept场景 ,积极的样本集 和负样本集 构建如下: 在哪里 注释设置培训图片吗 基于以上正样本和负样本,我们训练multiconcept分类器。对传统单一概念分类器训练,图像标记的概念 就业作为正样本,其余是负样本。

3.4。检测环境代

给定一个multiconcept查询语义场景 , 概念的邻居参与检测和输出的相关性分数的概念。这些概念的邻居是紧密联系在一起的 因此可以作为检测背景,表示 一些细节在下面给出生成检测程序上下文。

首先,我们生成一组语义邻居 通过选择邻居的概念 与概率 。这种对称概率语义 措施两个概念之间的相互依存 ,这是表示为 在哪里 发生的频率 ,分别为, 是图片的数量同时包括两个multiconcepts吗 每个multiconcept 被视为自己的语义邻居因此

第二,我们所有subconcepts分配 为下组 最后,我们分配前 相关的概念 为下组 其他地区的 因此,检测环境 是生成的, 元素。相互依赖的概率 应该规范如下:

3.5。MRF-Based Multiconcept现场学习的融合

与我们的CNN,概念分类器已经学会了。这个概念分类器项目视觉图像语义概念。如果语义概念及其相关的概念经常出现在图像语义概念的相关性预测将增加在我们的模型中。给定一个multiconcept查询语义场景 ,所有概念 在检测背景下 用于评估的相关性。的相关性预测 估计如下: 的相关性预测 multiconcept分类器的预测 被视为一个的证据吗 在一个图像 ,而语义相关性 被当作一个体重的相关性预测。的承诺表现单一概念学习报告(6,7),一个单一概念分类器 是我们CNN集成到分类器层。后(6),这个单一概念的预测 之间的 可以估计如下: 在哪里 的基数 是传统的单一的概念,是由一个单一概念分类器预测

图形模型,磁流变液提供了一个上下文约束建模图像检索的基础。因此,我们采用MRF分析上述两种类型的分类器之间的语义联系,产生最终的语义分 我们首先建立一个特定的磁流变液的两种类型的分类器和查询的概念,也就是说, ,以他们的相关性模型。然后我们推断MRF-based融合图像概念检测的方法。

给定一组随机变量 磁流变液图,磁流变液的联合概率是吉布斯分布(31日]: 在哪里 是归一化因子和 是能量函数,也就是说,对所有可能的派系集团势之和。如果使用随机变量 代表缺席或存在multiconcept 对于一个图像 ,随机变量的联合概率 可以被定义为 在哪里 我们定义潜在的功能 在哪里 CMMR参数估计和吗

3.6。参数优化

一种广泛使用的技术参数优化是一种最大似然,选择参数的联合概率最大化的训练集,我们最大化对数似函数 查询的 最后的相关性预测 图像的 是由 在哪里 相当于 ,分别。因此, 被编写为 在(17)和(15)- (16)和(11)- (14),我们获得以下对数似函数 : 通过使用梯度下降法(32),对数似 优化 是最大化。的梯度 关于 ( )可以表示为如下形式: 在哪里

3.7。联机检索

CMMR集中于语义图像检索,包括single-concept-based图像检索和multiconcept-based图像检索。一个用户使用多个搜索前概念K从数据库语义相似的图像。总之,我们执行语义图像检索的四个步骤。

步骤1。采用语义邻居方法建立检测环境

步骤2。学习multiconcept场景分类器和一个单一概念分类器B由我们提出CNN。

步骤3。学习的最终相关性得分 通过使用MRF-based融合。

步骤4。执行语义图像检索利用学到的相关性分数。更高的相关性分数排名更高。

语义图像检索的详细过程提出了算法1。从算法1,我们进行复杂性分析的时间和空间。计算一组 multiconcept场景是一个离线过程,成本核算 时间。CNN也离线训练过程,包括特征提取和分类器层学习。这消耗了 时间, 是可训练的参数数量的CNN网络和图像集的大小,分别。通过初始化我们的CNN pretrained GoogLeNet和使用一个非常小的分类器层,这个号码 大大减少,提高培训效率。计算检测环境 是一个在线的过程, 时间和 空间。为每个测试图像,时间和空间复杂度的计算预测和融合的预测都是 因此,所有的测试图像花 时间和 空间。最终,通过堆排序,排名返回图像消费 时间和 空间。因此,算法的时间和空间的复杂性1 ,分别。

输入:训练集 与标签词汇 ,测试集 和查询与multi-concept场景
输出:搜索结果排名
1计算一组 multi-concept场景的方程式。(1)和(2);
2训练我们的CNN和获得multi-concept场景分类器 和单一概念分类器 ;
3建立检测环境 ;
4每一个
5使用分类器检测图像的概念 和计算相关性预测 的情商。8);
6使用分类器检测图像的概念 和计算相关性预测 的情商。9);
7执行A和B的相关性预测融合,计算最终的预测 方程式。(15)和(16);
8结束
9对所有预测执行堆排序 获得最高 图像;
10输出的图像列表 站的搜索结果 ;

4所示。实验

我们的语义图像检索实验包括multiconcept-based图像检索和single-concept-based图像检索。

4.1。数据集

我们进行了全面的实验方法在两个公共数据集:2011和NUS-WIDE米尔Flickr。因为他们包括大型词汇表,我们选择他们评估multiconcept-based图像检索的性能。这两个数据集是公开的,包含图像和地面真理为单一概念任务评估。米尔Flickr 2011包含18000张图片贴上99语义概念。我们把它10000年到8000年训练图像和测试图像。NUS-WIDE由269648张图片和81词汇的语义概念。我们总共230708张图片下载实验。这个数据集随机分为两组:138375图像进行训练,其余92333图像测试。

在2011年米尔Flickr,我们遵循文献[33),通过使用要点,猪,筛选,RGB与视觉特征直方图。比较两个特性,我们使用 距离为依据, 猪, 筛选, RGB。NUS-WIDE,我们使用六个视觉特性(13]。同样,我们使用 距离小波结构, 对于一个边缘方向, 筛选, 对实验室和HSV,用于33]。

图像的平均数量相关的一个概念是940年左右在NUS-WIDE米尔Flickr 2011年和5381年。概念与图像相关的平均数量大约是11 2011年米尔Flickr和NUS-WIDE约3。标签词汇包含几十个标签的概念,和大约三分之二的语义概念频率小于平均频率的概念。因此,场景语义检索这些不平衡数据集是具有挑战性的。

4.2。评价措施

给定一个查询语义场景 ,的地面实况 定义如下:如果一个图像描绘了吗 目标的概念 ,它被认为是相关的;否则,它是无关紧要的。语义检索的性能评估中,我们使用三个评估措施:意味着平均精度(地图),精度 (P@ ),Precision-Recall (PR)曲线。对于每个语义查询,平均精度(美联社)可以计算 ,在那里 的总数相关测试集的图像 , 在图像检索列表中排名吗 , 是一个指标函数等于 如果 相关图像 ,否则等于0, 在切断精度 ,这是定义为一个比例 和检索图像的数量。地图是APs的平均值在所有查询。为 ,高级检索图像数量的正确性。显然,地图检索性能越好越高。P@ 是精密的变体,只有顶部- 排名图像被认为是。高P@ 意味着更好的检索性能。除了地图和p@ ,我们雇佣公关曲线测量语义检索的性能。

4.3。实验配置

在(1)和(2), ,分别控制基数概念和概念的频率。从训练图像与11和3概念出现最频繁,我们集 米尔Flickr 2011和 分别为NUS-WIDE。降低计算成本的大小 限制在一个可以接受的。这意味着,如果一个概念的频率超过 ,它是放在 ;否则它就会被丢弃。我们设置 米尔Flickr 2011和 在我们的实验NUS-WIDE。因此, 分别包含了15970年和2084年multiconcepts。在(7), 用于控制的大小 ,这是由5倍交叉验证。通过测试 从候选集 ,我们注意到,当设置达到最佳性能 在米尔Flickr和2011 分别在NUS-WIDE。因此,我们相应地设置其值。此外,所有的参数方法相比转向最佳性能在相关文献报道。

我们用卷积的基本结构层(所用的是一样的7]。分类器层,它开始由紧密连接层与输出大小为1024,其次是20%的辍学生。所有层,采用修正的线性单元作为非线性激活函数。整个CNN的优化是通过随机梯度下降法与mini-batch 0.9动量大小为128。起初,CNN学习速率调整到0.01。20世纪后,使用楼梯的体重衰变。

4.4。比较

与几种先进的concept-based方法相比,我们的方法包括TagProp [6],FastTag [34],VGG [23],DBM [35],GoogLeNet [7]。作为一个经典的加权方法,TagProp使用单一概念技术解决multiconcept-based图像检索。FastTag学习两个线性分类器coregularized联合凸损失函数,可以有效地优化封闭形式的大规模数据集。其他人则影响力single-concept-based深度学习的方法。在大规模数据集NUS-WIDE尝试TagProp之后,我们发现这个方法很难扩大由于其大规模数据集 时间和空间复杂性。因此,我们对NUS-WIDE执行TagProp实验通过使用25000例。此外,在文献[6),我们使用(9)计算相关性预测,鉴于multiconcept现场查询

4.5。语义图像检索实验

查询检索性能评价,我们构建一个测试集 ,通过以下两个步骤。首先,所有单一概念的查询 被添加到 然后用multiconcept场景1500随机生成的查询 被放入 ,500 2-concepts, 500 3个概念,和500年4-concepts, 概念是multiconcept基数 通过这种方式, 是建立。在2011年米尔Flickr, 由1500 multiconcepts和99单的概念,而 包含1500个multiconcepts NUS-WIDE和81单的概念。地图和P@10s用于评价不同查询语义图像检索的长度。表12报告分数和地图P@10分数,分数和P@10地图格式地图/ P@10给出分数。


方法 所有概念
查询概念长度
2 3 4

TagProp 12.8/27.3 15.2/32.1 10.4/22.6 9.9/21.9
FastTag 13.5/27.6 15.8/31.9 10.9/23.2 10.4/22.1
VGG 17.1/32.8 19.8/37.9 14.0/27.7 13.7/27.3
DBM 17.8/35.7 20.5/40.6 15.0/30.8 14.4/30.1
GoogLeNet 19.0/35.8 21.9/40.6 15.4/30.5 15.2/30.5
我们的 21.3/39.2 24.6/45.2 17.7/34.0 16.8/31.8


方法 所有概念
查询概念长度
2 3 4

TagProp 5.5/13.8 5.5/14.9 5.2/12.8 4.5/9.8
FastTag 9.8/27.7 9.9/28.7 9.0/25.4 8.1/22.3
VGG 14.4/36.4 14.8/38.3 13.4/34.7 12.3/30.0
DBM 14.2/36.9 14.3/38.9 13.2/34.7 12.2/30.1
GoogLeNet 15.6/37.0 16.4/39.1 14.4/34.9 13.1/31.1
我们的 17.8/42.6 18.0/44.3 16.5/41.1 15.4/35.8

从结果中,我们可以看到,我们的方法,CMMR,比其他方法好。显然,multiconcept查询执行比单一概念查询数据集。这是因为检测multiconcept现场比检测一个单一概念更加困难。multiconcept现场视觉外观特点,而传统的单一概念模型的目标是实现精确的单一概念检测的结果。寻找一个整体场景,单一概念技术的传统方法结合使用。然而,在某些情况下,这可能会失去一些语义潜伏地嵌入到整体的场景。因此,只有使用单一概念分类器很难检测到复杂的multiconcept场景。这个观察激励我们共同考虑multiconcept场景分类器和单一概念分类器在设计我们的CNN。此外,MRF-based融合方法能有效学习的语义相关性multiconcept场景分类器和单一概念分类器,提高了检测的准确性语义场景。

我们进一步用不同的实验设置进行比较。更具体地说,我们构造一组比较评价,也就是说,一组困难的查询少于100相关的图像和一个简单的查询设置超过100相关的图片。实验结果如图所示2。我们可以发现我们的方法仍是搜索结果。图3显示所有的公关曲线方法对两个数据集相比,说明精度变化与不同的回忆。可以看到,我们的方法CMMR方法相比具有更好的精度比在每个级别的回忆。

4.6。实验罕见的概念查询

大多数现有的方法假设均衡概念分布或误分类代价相等。然而,一个真实的数据集通常是高度不平衡(36]。当面对复杂的不平衡数据集,这些方法无法正确表示的分配特征数据和合成提供不利的精度。MIR Flickr 2011和NUS-WIDE大多数概念的频率低于平均水平,导致分类器概念overclassify频繁出现频率高的概念学习阶段。这使得很难获得一个合适的模型罕见的概念出现频率较低。在这种情况下,概念分类器通常有良好的性能在频繁概念但非常罕见的概念表现不佳。这对于开发一个分类器,观察表明,我们应该考虑不同频率的概念。

两组实验设计:罕见的概念查询和频繁的概念查询。在第一组中,位罕见的单一概念,2-concepts - 100年罕见,顶部和顶部- 100年罕见的3个概念 选择三组各自的单一概念罕见的查询,2-concept罕见的查询,和3-concept罕见的查询,分别用吗 , , 在第二组,位频繁的单一概念,- 100 2-concepts频繁,顶部和顶部- 100频繁3个概念 分别选为一组吗 单一概念频繁的查询,一组 2-concept频繁的查询,和一组 3-concept频繁的查询。

如数据所示45、概念分类器实现的地图和P@10s较高频繁集的概念 , , 但远远低于地图和P@10s罕见的概念集 , , ,显著影响检索的性能和用户体验。罕见的概念集 , , MIR Flickr 2011,我们的方法优于方法相比,更好的提高了30%,24%,和26%在第二个最好方法的地图,分别。NUS-WIDE,也观察到类似的改进。在罕见的与语义概念检测现场 ,一组加权概念分类器的检测环境 参与概念检测通过MRF-based融合方法。在这些概念 ,一些概念 可能频繁的概念,大大提高了相关性的预测吗 并使罕见的概念 更容易被探测到。此外,我们的可能性最大化的日志语义概念的变化频率补偿的概念。因此,我们的方法可以汇概念不平衡的问题,从而提高检索性能。

5。结论

语义搜索图像高精度变成如今是重要的,因为大量的实际应用,如认知教育资源检索。作为一个关键步骤,图像场景检测语义图像检索中发挥着重要作用。在本文中,我们提出了一种新颖的CNN语义图像检索框架,结合CNN和磁流变液在小说的方式提高multiconcept现场检测的能力。与以前的方法相比,我们的CNN无缝框架包含三个组件:单一概念分类器,multiconcept场景分类器,和语义。这三个组件的组合可以提高CNN检测语义场景的能力。我们已经进行了全面的实验在两个公共数据集。有利的结果表明,我们提出的方法优于对比方法。

对于未来的工作,我们打算开发一个更好的学习和融合方法multiconcept现场检测。另外,我们还想探索之间的联系的概念,例如,概念图或语义层次结构来提高检索性能。

数据可用性

使用的数据来支持本研究的发现可以从相应的作者。

的利益冲突

作者宣称没有利益冲突有关这篇文章的出版。

确认

这项工作得到了国家自然科学基金(61370229和61370229号)、《GDUPS (2015), CSC(没有。201706755023),中国博士后科学基金会(2016 m600657和2017 t100637号)。

引用

  1. m . Kawanabe a .粘结剂、c·穆勒和w·Wojcikiewicz”综合视觉概念分类的图像通过马尔可夫随机漫步在标签”《IEEE计算机视觉的应用研讨会,第401 - 396页,2011年。视图:谷歌学术搜索
  2. 张,j .黄、h·李和d . n .迈塔克瑟白兰地”自动图像标注和检索使用组稀疏,”IEEE系统,人,控制论,B部分:控制论,42卷,不。3、838 - 849年,2012页。视图:出版商的网站|谷歌学术搜索
  3. s . Tang Y.-D。张,Z.-X。徐,周宏儒。李,Y.-T。郑,J.-T。李”,一种有效的检测系统通过整体学习稀疏概念,“Neurocomputing卷,169年,第133 - 124页,2015年。视图:出版商的网站|谷歌学术搜索
  4. z关、张l . j .彭,j .粉丝”多视点概念学习数据表示,“IEEE工程知识和数据,27卷,不。11日,第3028 - 3016页,2015年。视图:出版商的网站|谷歌学术搜索
  5. d . Grangier和美国Bengio”,歧视基于秩的方法从文本图像查询,”IEEE模式分析与机器智能,30卷,不。8,1371 - 1384年,2008页。视图:出版商的网站|谷歌学术搜索
  6. m . Guillaumin t Mensink、j . Verbeek和c·施密德”TagProp:歧视度量学习的最近邻模型图像auto-annotation”《计算机视觉国际会议,第316 - 309页,2009年。视图:谷歌学术搜索
  7. c . Szegedy w·刘,y贾et al .,“要更深的曲线玲珑,”国际会议的程序在计算机视觉和模式识别,2015年,页1 - 9。视图:谷歌学术搜索
  8. f . Radenovićg . Tolias o .密友,“CNN图像检索从弓:无人监督的微调与困难的例子,”欧洲计算机视觉的诉讼2016年,页3 -。视图:谷歌学术搜索
  9. g ., x, y, t . m .,世界卫生组织和j . Verbeek“弗兰肯斯坦:学习深面使用较小的数据表示,“IEEE图像处理,27卷,不。1,第303 - 293页,2018。视图:出版商的网站|谷歌学术搜索|MathSciNet
  10. 李x, z刘,p .罗。阿来,x,“语义解析网络,通过深度图像分割”《计算机视觉国际会议,第1385 - 1377页,2015年。视图:谷歌学术搜索
  11. c, c . c .阿来k .他和x唐,“图像超分辨率使用深卷积网络”IEEE反式。模式肛门。马赫。智能,38卷,第307 - 295页,2016年。视图:出版商的网站|谷歌学术搜索
  12. 美国诺瓦克、k·内格尔和j . Liebetrau”2011年谱号照片注释和concept-based检索任务,”谱号会议程序和实验室评估的论坛,2011年,页1 - 25。视图:谷歌学术搜索
  13. t·s·艾。蔡,j . Tang r .香港h . Li z罗,和y郑”NUS-WIDE:一个真实的网络图像数据库从新加坡国立大学”学报》国际会议上图像和视频检索,48-56,2009页。视图:谷歌学术搜索
  14. d . Wang和m .李“随机配置网络:基本面和算法,”IEEE控制论卷,47号10日,3466 - 3479年,2017页。视图:出版商的网站|谷歌学术搜索
  15. C.-T。阮:Kaothanthong、t·德山和X.-H。表象,“feature-word-topic模型图像标注和检索,“ACM网上交易(TWEB),7卷,不。3 - 24,2013页。视图:谷歌学术搜索
  16. r . l . Cilibrasi和p . m . b . Vitanyi“谷歌相似距离,”IEEE工程知识和数据,19卷,不。3、370 - 383年,2007页。视图:出版商的网站|谷歌学术搜索
  17. s .朱C.-W。非政府组织和Y.-G。江”,采样和本体池web图像视觉概念学习,”IEEE多媒体,14卷,不。4、1068 - 1078年,2012页。视图:出版商的网站|谷歌学术搜索
  18. 人类。Laferte、p·佩雷斯和f . Heitz“离散马尔可夫图像四叉树建模和推理,”IEEE图像处理,9卷,不。3、390 - 404年,2000页。视图:出版商的网站|谷歌学术搜索|MathSciNet
  19. 麦茨勒·d·w·b·克罗夫特,“潜在的概念使用马尔可夫随机域扩张,”ACM国际市立学报》上,第318 - 311页,2007年。视图:谷歌学术搜索
  20. x y,周,t·s·艾。蔡,C.-W。非政府组织”,重新生成模型的自动图像标注使用马尔可夫随机域,”《2009年IEEE计算机学会学报计算机视觉与模式识别会议研讨会、CVPR车间20092009年6月,页1153 - 1160。视图:谷歌学术搜索
  21. z Lu和h . h . s . Ip”对图像分类和标注空间马尔可夫内核,”IEEE系统,人,控制论,B部分:控制论第41卷。。4、976 - 989年,2011页。视图:出版商的网站|谷歌学术搜索
  22. x, j .沈、l .邵和l . Van干傻事,“Sub-Markov随机行走图像分割,”IEEE图像处理,25卷,不。2、516 - 527年,2016页。视图:出版商的网站|谷歌学术搜索|MathSciNet
  23. k . Simonyan和a . Zisserman”很深的卷积网络大规模图像识别,”https://arxiv.org/abs/1409.1556v6视图:谷歌学术搜索
  24. t .黄平君T.-T。做,D.-K。Le Tan, N.-M。张,“选择性深卷积图像检索功能,”学报》第25届ACM国际会议多媒体,2017毫米2017年10月,页1600 - 1608。视图:谷歌学术搜索
  25. 任,k .他、r . Girshick和j .太阳,“快R-CNN:对与地区建议网络实时目标检测,”IEEE模式分析与机器智能,39卷,不。6,1137 - 1149年,2017页。视图:出版商的网站|谷歌学术搜索
  26. c, c, x梁et al .,“Multi-loss正规化深层神经网络,”IEEE电路和系统视频技术,26卷,不。12日,第2283 - 2273页,2016年。视图:出版商的网站|谷歌学术搜索
  27. k . x张,他任美国,j .太阳,“深残余学习图像识别,”学报2016年IEEE计算机视觉与模式识别会议,CVPR 20162016年7月,页770 - 778。视图:谷歌学术搜索
  28. 王d和c崔”,随机配置网络整体具有异构特性对大规模数据分析,“信息科学卷。417年,55 - 71、2017页。视图:出版商的网站|谷歌学术搜索
  29. 黄g . l . v . Maaten z . Liu和k·温伯格,“人口回旋的网络连接,”学报2017年IEEE计算机视觉与模式识别会议(CVPR),页2261 - 2269,檀香山,夏威夷,美国,2017年7月。视图:出版商的网站|谷歌学术搜索
  30. y, y, t梁,a . Toshev和美国约飞,“深卷积排名multilabel图像注释,”https://arxiv.org/abs/1312.4894v2视图:谷歌学术搜索
  31. n . c . Wang Komodakis, n . Paragios“马尔可夫随机域建模、推理和学习在计算机视觉和图像理解:一项调查,“计算机视觉和图像理解,卷117,不。11日,第1627 - 1610页,2013年。视图:出版商的网站|谷歌学术搜索
  32. 李x“预先处理这些随机梯度下降法”,IEEE神经网络和学习系统卷,29号5,1454 - 1466年,2018页。视图:出版商的网站|谷歌学术搜索
  33. j . Verbeek m . Guillaumin t Mensink, c·施密德”图像注释与tagprop MIRFLICKR集”学报2010年ACM SIGMM国际会议上多媒体信息检索,米尔2010美国,页537 - 546,2010年3月。视图:谷歌学术搜索
  34. a . m . Chen郑,k·温伯格,“快速图像标记,”机器学习的国际会议,第1282 - 1274页,2013年。视图:谷歌学术搜索
  35. n·斯利瓦斯塔瓦和r . Salakhutdinov Multimodal学习深玻耳兹曼机,”机器学习研究杂志》上15卷,第2980 - 2949页,2014年。视图:谷歌学术搜索|MathSciNet
  36. g .香l .遗精,j .商g . Mingyun h .模块和必应,“学习class-imbalanced数据:复习的方法和应用,“专家系统与应用程序卷,73年,第239 - 220页,2017年。视图:出版商的网站|谷歌学术搜索

版权©2018 Haijiao徐等。这是一个开放分布式下文章知识共享归属许可,它允许无限制的使用、分配和复制在任何媒介,提供最初的工作是正确引用。


更多相关文章

PDF 下载引用 引用
下载其他格式更多的
订单打印副本订单
的观点1325年
下载444年
引用

相关文章

我们致力于分享发现相关COVID-19尽快。我们将提供无限的出版费用豁免接受研究文章以及案例报告和案例系列COVID-19有关。评论文章被排除在这个豁免政策。注册在这里作为一个评论家,帮助快速新提交。