Softmax损失由Softmax激活函数和一个叉损失函数。将softmax激活函数解释分类输出线性层相关类的概率,而熵损失函数量化计算分类概率和地面之间的距离真理标签。的典型配方将softmax损失函数可以表示为 (1) l 年代 = − 1 n ∑ 我 = 1 n 日志 e w y 我 T f 我 + b y 我 ∑ j = 1 C e w j T f 我 + b j , 在哪里 f 我 特征提取吗 我th选择在训练集的minibatch人形象。 w j 是 jth列最终线性层的权向量,也称为分类重量。 b j 是一种偏见。 y 我 是地面真理的标签 我th选择人的形象。 C和 n代表训练集的类数和样本数量在每个迭代中,分别。softmax损失下的优化,学习特点是配备可分离的特点。然而,原始的softmax损失主要集中在类间的比较;因此,在课堂学习功能不太注意到的紧密性。

解决缺陷所提到的,各样的改进( 5, 14, 19, 21)进行softmax损失。一个简单但有效的改进是规范分类权重和特征向量映射到超球面。这样,学特征在特征空间更有角度地分离。Softmax损失与规范化是学习好处特性( 21),它可以表示如下: (2) l N 年代 l = − 1 n ∑ 我 = 1 n 日志 e w y 我 f 我 因为 θ y 我 ∑ j = 1 C e w j f 我 因为 θ j = − 1 n ∑ 我 = 1 n 日志 e 年代 · 因为 θ y 我 ∑ j = 1 C e 年代 · 因为 θ j , 在哪里 年代代表一个比例因子。值得注意的是一个利润率术语经常被添加到获得一个更强大的约束组间和组内距离的许多研究工作。在本文中,我们使用改进的softmax损失表达( 2)分类损失和名称规范化softmax损失( 21, 30.从原始softmax损失函数来区分。

分类权重和特征都是标准化的,大小差异消除,学会了在超球面尖瘦地依赖特性。因此,与他们的余弦相似性特征可以直接测量距离。在任务人reidentification,提取的特征应该有足够的歧视。这意味着类间差异应尽可能大,而在课堂密实度应尽可能的紧。受LDA的启发,我们制定我们的损失函数的比率最大的同类距离和阶级之间的最小距离。特征和分类权重归一化以来,学习特性和分类权重分散在一个圆。因此,我们的名字该损失为圆形比损失,及其数学表达式 (3) l 比 = 1 C ∑ j = 1 C 马克斯 y 我 = j f 我 , w j 最小值 k ≠ j w k , w j + ε , 在哪里 ε 是一个缓和的因素。考虑到大多数分类权重不能获得满意的分布在最初的训练阶段,这可能会导致损失比例的干扰,我们介绍 ε 因素帮助模型学习顺利。

我们设计比损失两个主要原因。一是特征向量和分类权重向量之间的距离可以有效地测量超球面。另一个是最大的同类距离会逐渐减少,阶级之间的最小距离将逐步扩大通过最小化损失比例。的监督下损失,比学特性有一个分布在嵌入空间中,这有助于提高re-id精度。

规范化softmax可以学习尖瘦地超球面的分离特性。然而,在类约束将逐渐变得松弛和阶级之间的距离的增加。因此,学习不够有识别力的特性。因此我们提出的联合训练规范化softmax损失和损失比re-id任务保持持续约束力的类间差异,在类紧凑性。因此,最终的损失函数是制定如下: (4) l = l N 年代 l + λ l 比 = − 1 n ∑ 我 = 1 n 日志 e 年代 · 因为 θ y 我 ∑ j = 1 C e 年代 · 因为 θ j + λ 1 C ∑ j = 1 C 马克斯 y 我 = j f 我 , w j 最小值 k ≠ j w k , w j + ε , 在哪里 λ 是一个平衡参数调整比率的重量损失。作为标准化softmax损失限制超球面的特性和分类权重,损失比例可以有效地优化类间和在类特征的功能。最终的损失可以很容易地优化SGD或亚当Pytorch框架( 31日]。

验证该方法的可行性和有效性,我们做一个玩具实验基于MNIST数据集 32)设计了8层CNN网络采用相同的实验设置( 30.]。我们设置功能维度2学特性可以在二维平面上,可视化和2000个训练样本的每个类是用来训练模型。原文的可视化softmax,规范化softmax [ 30.)是用来比较的影响我们的方法(规范化softmax比损失)在图 2。

从实验结果,我们可以大致的结论如下。(1)原始softmax关注分离的样品不同的类,而不是直接学习区别的特征。所以学习功能能够达到更好的可分性的特征空间但引起大在课堂稀疏。(2)规范化softmax消除径向方向的变化优化模型,同时规范分类权重和特征。尖瘦地分离结果,学特性在一个球体和展览收紧在课堂密实度。(3)规范化softmax的基础上,提出比损失可能会进一步提高辨别力的特性通过约束组内和组内的距离的关系。它可以实现一个更严格的在课堂密实度以及比其他两个更明显的可分性损失函数。这些观测结果验证了我们的方法的有效性,为其应用提供实验支持reidentification任务的人。

市场- 1501是一个大型的人reidentification数据集收集到清华大学。1501年市场- 1501数据集,行人被六个摄像头(5 1280×1080 HD,一个720×576 SD), 1501年和32668年边界盒这些行人检测到可变形模型(DPM)的一部分。市场- 1501是由一个训练集和测试集。训练集包含751身份与12936年培训行人图像。测试组包括750与19732画廊行人图像和3368查询身份行人图像。

DukeMTMC-reID是多目标跟踪摄像机实现数据集的一个子集 36]在杜克大学校园户外收集使用8相机同步。通过选择和裁剪人行区域的视频跟踪数据集,DukeMTMC-reID 1404年有36411个行人图像身份。的组织格式DukeMTMC-reID市场- 1501是一样的。具体地说,702年与16522年行人构成训练集训练图像,和其余702行人构成了测试集2228查询图像和17661画廊图片。

CUHK03re-id数据集收集5双摄像头1467年中大校园,包含14096个行人图像身份。数据集提供了一个版本的行人检测算法检测和行人的手动贴上标签版本。值得注意的是,原始的数据集是为单发的情况而设计的。因此,钟等。 37)重组CUHK03数据集根据市场- 1501的格式。767年新的培训/测试协议,行人用于培训和其余700行人构成测试集。在我们的实验中,我们使用新的培训/测试协议CUHK03全面评估我们的方法。

实验结果给出了下面的表。公平地说,我们只做个比较和基于深度学习一些先进的方法,例如,Deep-Person [ 39]和PCB [ 6]。此外,模型训练的规范化softmax损失没有OHEM被视为基准的方法。

实验结果对市场- 1501和DukeMTMC-reID列出,分别在表 1。我们可以发现地图上增加市场——分别为1501人和DukeMTMC-reID时比损失或OHEM方案应用于基准模型。基础上,我们提出的方法最终带来+ 1.47%和+ 0.56%增量比基线的方法分别在两个数据集的映射。除此之外,我们的方法优于地图和1级最先进的方法相比,比如GSRW和PCB。

CUHK03数据集上实验结果根据新的培训/测试协议表中列出 2。我们观察到该比率损失和OHEM方案可以大大提高模型的性能。最后,与基线的方法相比,我们的方法将+ 6.38%改进地图在地图上标记版本和+ 4.22%检测到版本。此外,我们发现我们的方法的性能超过上市最先进的作品。

通过分析实验结果,我们观察到该比率可以进一步提高re-id的性能损失,这表明比损失的有效性。与此同时,我们的方法优于大多数上市最先进的工作在三个re-id数据和显示有前途的竞争力。

的参数 λ 用于调整比率的重量损失的联合训练。为了观察的影响 λ re-id性能,我们集 ε 当0.5和改变 λ 从{0.1,0.2,0.5,1.0,1.5,2.0}市场- 1501,DukeMTMC-reID和CUHK03分别。结果在图 5。从市场- 1501结果,我们发现地图上稍有增加 λ 生长和达到峰值 λ 是1.0,然后逐渐减少更大的吗 λ 。类似的地图可以观察到的趋势在DukeMTMC-reID数据集。我们还发现,地图是极大地影响 λ 在CUHK03数据集。例如,地图上增加从63.82%降至66.87% λ 在标签版本从0.1增加到1.5。

的参数 ε 可以防止干扰比损失在最初的训练阶段。同样的,我们修复 λ 1,改变的价值 ε 从0.0到0.5,0.1的步骤。结果如图所示 6。我们发现 ε 市场- 1501和DukeMTMC-reID影响不大。具体来说,地图是有限的波动0.7%(0.43%为DukeMTMC-reID市场- 1501和0.63%)。然而,地图的波动达到1.67%的标签在CUHK03版本和1.29%检测到版本。我们认为造成这一现象的主要原因是在不同的数据集样本的数量差异。在大规模数据集,如市场- 1501和DukeMTMC-reID大规模样本带来一个相对较小的扰动比损失,这有利于稳定模型的学习。相反,模型训练CUHK03可能波动率风险损失的价值地图相对不敏感 ε 。

近年来,许多优秀作品提出了提高辨别力的学习特性,例如,LMCL [ 21]和ArcFace [ 5损失函数。他们学习区别的特性,通过引入保证金的余弦角空间和空间,分别。然而,保证金需要的价值选择小心翼翼地因为一个不恰当的值会导致优化困难。在我们提出损失比例,比例配方能有效鼓励类间可分性和在类同时密实度没有额外的保证金。

详细比较,我们对市场进行reidentification实验- 1501,DukeMTMC-reID, CUHK03数据集与我们的方法和两个损失函数。在实验中,所有先前的实验设置保持不变,除了损失函数。LMCL和ArcFace,我们改变参数 米从{0.01,0.1,0.3,0.5,1.0}寻求最好的结果( 30.),并记录在表的比较结果 3。从结果中,我们可以发现我们的方法映射值高于LMCL和ArcFace市场- 1501 DukeMTMC-reID和达到类似的性能。此外,它优于LMCL ArcFace完全数据集CUHK03即使他们是最好的参数。