现有的研究表明,CNN结构的逐步深化,CNN培训结果变得更好,但同时提高的结果,它也将增加网络计算( 17]。因此,《盗梦空间》网络结构提出了GoogleNet网络,它可以充分利用特征提取每一层的网络结构可以增加网络的深度和复杂性,同时保证网络的计算复杂度。,一些网络参数的调整提出了GoogleNet网络的基本结构:(1)特性映射的输入网络的大小应该慢慢地减少了网络中避免瓶颈的特征表示图像中;(2)高维特征更容易获得比低维特征,可以加快训练速度模型;(3)相邻的神经元网络中有密切相关性,可以集成到空间关系在低维空间中。

在卷积神经网络,5<我nline-formula> ∗ 5大小卷积核是25/9 * 3的大小<我nline-formula> ∗ 3卷积。如果大的卷积内核可以叠加的多个3所取代<我nline-formula> ∗ 3大小卷积核,然后它可以使网络有更少的参数在同一视野。因此,研究中提出了一个假设。首先,一个3<我nline-formula> ∗ 3大小采用卷积滤波器处理5<我nline-formula> ∗ 5块大小获得3<我nline-formula> ∗ 3大小输出特性图。卷积后3<我nline-formula> ∗ 3大小卷积核,1<我nline-formula> ∗ 1大小输出。在这个时候,最后计算金额的18/25的直接使用5<我nline-formula> ∗ 5大小卷积核,它可以节省28%的计算量,但是网络也需要正确使用ReLu激活函数输出。在那之后,2<我nline-formula> ∗ 2尺寸采用卷积核取代3<我nline-formula> ∗ 3大小卷积核,可以节省11%的计算,但是使用一个不对称的卷积内核更好。因此,在这项研究中,1<我nline-formula> ∗ 3和3<我nline-formula> ∗ 1大小级联卷积核是用来取代3<我nline-formula> ∗ 3大小卷积核节省33%的计算,所以大卷积内核可以分解以同样的方式。在此基础上,得到一种改进的初始结构,如图 1。

ResNet的结构可以有多达152层( 18]。这个模型添加一个简单的堆叠浅相同的高速通道网络,如图 2。左边的是普通的网络,其输出值<我talic> H (x)代表任何理想的功能转换。右边的残余网络输出值<我talic> H (x) = F (x) + x网络中,需要安装什么残留<我talic> F (x)。网络中添加一个相同的快捷连接欧洲能使网络的输入映射和重叠。的输出公式剩余单位<我talic> y = F (x, {Wi}) + x,在那里<我talic> x代表输入和<我talic> y代表输出,和函数<我talic> F (x, {Wi})是通过学习获得的残余映射。从理论上讲,下面的两个网络可以逼近任意函数。但是如果网络的最优解是靠近身份映射,更容易使用剩余网络优化;如果卷积分支梯度扩散,网络还可以流的特性和梯度的分支机构身份映射,保证信息传输的可靠性。

卷积的卷积层分支<我talic> F (x, {Wi})剩余的单元可以由多个层,和剩余单位也可以修改扩展的映射分支,卷积核大小、辍学,激活函数的位置。因此,一个新的DCNN网络结构是构建基于GoogleNet网络的初始结构和残余ResNet网络结构,提高网络的计算效率和信息流通的效果。合并后的新网络结构如图 3。

深度重建网络构造的基本参数摘要如表所示 1,辍学参数<我talic> x和随后的连续调整的参数需要选择最优的辍学生值最后测试。

神经网络作为分类器经常使用Softmax深处,和三联体损失函数是一个分类器函数提出了人脸识别cnn谷歌。研究也表明,对伦敦时装周的数据集的识别率达到了99.63%,和YouTube数据集上的识别率也达到95.12% ( 19]。因此,不同的分类器的影响模型的人脸识别速度进行了分析。摘要三胞胎是由一个参考(锚点)的随机样本训练集,一个参考样本(积极的),和不同类别的样本(负)。假设样本特征提取每个样本获得的三胞胎<我nline-formula> f x 1 ,<我nline-formula> f x 2 ,<我nline-formula> f x 3 分别,然后优化的目标如下: (1) f x 1 我 − f x 2 我 2 2 + α < f x 1 我 − f x 3 我 2 2 , ∀ x 1 我 , x 2 我 , x 3 我 ∈ τ , 在这<我nline-formula> α 是同一类别的样本之间的欧氏距离特征或最小间隔不同类别的样本之间的欧氏距离特性。

此时,三联体损失的数学表达式如下: (2) l = ∑ 我 N f x 1 我 − f x 2 我 2 2 − f x 1 我 − f x 3 我 2 2 + α 。

在神经网络的训练过程,对应于每个参数的梯度方程如下: (3) ∂ l ∂ f x 1 我 = 2 f x 3 我 − f x 2 我 , (4) ∂ l ∂ f x 2 我 = 2 f x 2 我 − f x 1 我 , (5) ∂ l ∂ f x 3 我 = 2 f x 1 我 − f x 3 我 。

为了提高优化效率的模型,在线方法用于选择三胞胎的结合。同时,为了防止模型落入局部最优解的状态,<我nline-formula> α 删除在选择负样本,所以呢<我nline-formula> x n 我 只需要满足 (6) f x 1 我 − f x 3 我 2 2 < f x 1 我 − f x n 我 2 2 。

中心损失可以确保在培训过程中不同类别的样本的分离也确保同一类别的样本之间的聚合特征( 20.]。中心损失可以定义如下:在其中<我nline-formula> c y 我 功能的中心吗<我talic> 我th类别。 (7) l C = 1 2 ∑ 我 = 1 米 x 我 − c y 我 2 2 , 在哪里<我talic> l<年代ub>C 是中心的损失。<我talic> C<年代ub>易 是i类的功能中心。习是功能完整的连接层之前,和m mini-batch的大小。

因此,方程预测之间的距离之和越小的特点和功能中心中的每个示例批处理,也就是说,类内距离越小,性能越好。

的<我nline-formula> c y 我 更新更新样本集在输入网络,和更新规则如下: (8) c u v + 1 = c u v − ∑ 我 = 1 n δ y 我 = u ⋅ c y 我 − x 我 1 + ∑ 我 = 1 n δ y 我 = u , 在这<我nline-formula> δ 属于0或1。

然后,网络的误差函数可以定义如下: (9) 损失 = 损失 年代 + λ 损失 c , 在这<我nline-formula> λ 的重量损失函数。当<我nline-formula> λ 是0,Softmax分类器在网络。

在拍照的过程中,人们可能没有完全暴露他们的脸由于相机角度,光线,情绪,和设备。为了检测在不同位置或不同角度的图像,它需要首先改变滑动窗口的规模或输入图像。滑动窗口也需要扫描输入图像按照一定的步长(<我nline-formula> w );作为<我nline-formula> w 增加,判断窗口的数量和计算模型中的网络将减少几何。当输入图像DCNN时,不需要进行预处理的图像。然而,为了更好地检测大小不同的面孔,subacquisition率的原始输入图像在不同尺度缩放,然后,图像金字塔,如图 4。

摘要DCNN用于处理每个脸图像位于图像金字塔根据输入订单,和潜在的地区检测到人脸图像在同一时间。坐标点和特定区域的大小脸的图像记录。毕竟图片处理,响应点的所有地区检测到图像相对地映射到原始图像输入的输入层。然后,图像的重叠区域融合得到最终结果。随后,面对矫直阶段执行没有对齐,在不同姿势和脸部特征提取,主要部分图像周围的眼睛,嘴角,和鼻子的顶端面对图像,如图 5。

随后,欧几里得距离( 21)和学习特征匹配算法应用于特征匹配在图像,以及匹配过程如图 6。

在第一步中,有必要迅速判断很容易判断的样本图像样本匹配的脸。欧几里得距离用于样本之间的相似度,然后,两点之间的绝对距离空间中计算如下: (10) d u , v = ∑ 我 = 1 n u 我 − v 我 2 。

在第二步中,在保证功能的前提下识别率面对图像,学习算法具有更高的识别率是用来模拟面对图像的特性,和完整的脸特征的相似性匹配实现样品的精制的判断。很明显从图 55名当地价值特征的提取,需要面对形象和获得总共6 160 -维特征向量,拼接成960维面部特征向量。图像的特点是减少到160维度又由PCA降维。

除此之外,在第二步中,联合使用贝叶斯计算样本之间的相似性。假设两个面孔的联合分布<我talic> x ₁和<我talic> x ₂分别,都服从高斯分布的特性0的意思,那么这两个之间的协方差的数学表达式的脸图片如下: (11) 浸 u 我 , v j = 浸 μ 我 , μ j + 浸 ε 我 , ε j , 在这<我nline-formula> μ 性格和的身份吗<我nline-formula> ε 之间的区别是面对本身(光、表情和姿势)。

在本文中,使用Matlab软件模拟深度重建网络,和LFW数据集用于训练和测试。本文以下实验进行TensorFlow平台Linux作为操作系统和2<我nline-formula> ∗ 泰坦<我talic> XGPU。伦敦时装周的数据集共有13233脸图像,分别给出了相应的名字,总共有5749人,大多数人只有一个图片。每个图像的大小是250×250,其中大部分是彩色图像,但也有一些黑色和白色的脸的照片。摘要面对图像数据集的随机分为训练集和验证集。训练集包含10000个脸图像,和验证集包含3233张图像。当训练模型,第一次不同的参数设置(学习速率的影响<我talic> η,衰减系数<我talic> λ、培训优化算法和辍学)模型的训练效果进行了分析,并损失值,精度值,采用过度拟合率和培训时间培训效果的评估。基于该模型最优参数设置,它是应用于验证组,平均精度(mAP)的平均值用于评估模型识别效果。

为了评估算法的效果在面对菲,10140年有1150人从伦敦时装周的数据集的图像选择,和180对正面脸样本和180对负样本和测试样本对随机选择的。然后,建设网络是用于执行面对铁,和最简单的欧几里得距离是用来匹配特性相似。最后,分类精度和匹配精度是用来评估的有效性面临铁。随后,这些10140张照片是用来继续细分。有1050人选择面部特征的图像匹配算法的训练。剩下的100个人的形象,200对正样本和200对负样本是随机选择的验证。识别准确率,阳性样本误差率,负样本错误率,配对正确的速度,和配对的平均时间是用来评估面临的匹配效应特性。

在目标识别和检测和识别领域,地图通常用于评估算法检测和识别的影响( 22]。摘要错误率等基本概念,准确、精密,记得,并首次引入平均精度。出错率和准确率是最常用的测量条款分类评估、错误的错误率是比总样本,样本和准确率的比例是正确的样本总样本。假定样本数据集<我talic> 年代样品被定义为<我talic> 用户界面,样品的类型<我talic> 六世,该算法的预测结果<我talic> f (ui),然后错误率和准确性率的计算公式如下: (12) 错误 f ; 年代 = 1 米 ∑ 我 = 1 米 我 f u 我 ≠ v 我 , (13) Acc f ; 年代 = 1 米 ∑ 我 = 1 米 我 f u 我 = v 我 = 1 − 错误 f ; 年代 。

精确率的计算公式(前)和召回率(召回)如下: (14) 精准医疗 = TP TP + 《外交政策》 , (15) 回忆 = TP TP + FN , TP是真阳性,FP是假阳性,FN假阴性。

使用精确率作为纵轴和召回率作为横轴,P-R曲线。P-R曲线下的面积平均精度(美联社),和地图是美联社的平均在每个类型的分类任务指标。此外,过度拟合率(或)用来评估算法。或的计算方程如下: (16) 或 = TrainAcc ValAcc , 在TrainAcc是训练准确率和ValAcc是验证准确率。

通过调整学习速率<我talic> η,衰减系数<我nline-formula> λ 、训练方法和辍学,不同参数对精度的影响DCNN模型探讨了识别,数据库是用来训练DCNN模型和最大迭代次数设置为1000。在实验中,网络中的激活函数总是作为ReLU。首先,不同的学习速率的影响<我nline-formula> η 在模型识别率进行了比较。结果如图 7和 8。很明显从图 7,当<我nline-formula> η = 0.0004,算法的识别精度是最高的;当<我nline-formula> η = 0.001,算法的识别精度是最低的。很明显从图 8,当<我nline-formula> η = 0.0004,损失值的算法是最小的,当<我nline-formula> η = 0.001,损失值的算法是最大的。逐步增加<我nline-formula> η ,精度值逐渐降低,损失值逐渐增加。

然后,不同的学习速率的影响人脸识别算法的性能的定量比较。很明显从表 2,当<我nline-formula> η = 0.0004,该算法精度值最大(99.03%),最小的损失值(0.047),和最短的培训时间(352年代)。当<我nline-formula> η = 0.0007,该算法过度拟合率最低(1.005)。总之,当<我nline-formula> η = 0.0004,算法的性能是最好的,所以在此基础上进行后续测试。

不同的衰减系数的影响<我nline-formula> λ 在模型识别率进行比较。结果如图 9和 10。很明显从图 9,当<我nline-formula> λ = 0.0001,算法的识别精度是最高的;当<我nline-formula> λ = 0.09,算法的识别精度是最低的。很明显从图 10,当<我nline-formula> λ = 0.0001,损失值的算法是最小的;当<我nline-formula> λ = 0.09,损失值的算法是最大的。逐步增加<我nline-formula> λ ,精度值逐渐降低,损失值逐渐增加。

然后,不同的衰减系数的影响人脸识别算法的性能定量比较。很明显从表 3,当<我talic> λ= 0.0001,算法的精度值是最大的(99.03%),和损失值是最小的(0.047)。当<我talic> λ= 0.0007,算法的训练时间最短(342年代)。当<我talic> λ= 0.0001和0.0009,过度拟合的算法是最小的(1.006)。总之,当<我talic> λ= 0.0001,算法的性能是最好的,所以后续测试是在此基础上进行的,在这个模型中使用的分类器确定三联体损失函数。

在比较不同训练方法对模式识别的影响率,结果如图 11和 12。很明显从图 11SGD训练方法时,算法的识别精度是最高的;当Adagrad训练方法,算法的识别精度最低。很明显从图 12SGD训练方法时,算法的损失值是最小的;训练方法是Adagrad时,算法的价值是最大的损失。

然后,不同训练方法对人脸识别的影响,定量比较算法的性能。很明显从表 4SGD训练方法时,该算法最大的Acc值(99.03%),最小的损失值(0.047),最低的过度拟合率(1.006)。RMSprop训练方法时,该算法的训练时间是最短的(351年代)。总之,SGD训练方法时,算法的性能是最好的,所以后续的测试是在此基础上进行。

最后,不同的辍学值对模型的影响识别率比较。结果如图 13和 14。很明显从图 13辍学= 0.1时,该算法的识别精度最高;辍学= 0.6时,算法识别精度最低。很明显从图 14辍学= 0.1时,算法的损失值是最小的,辍学= 0.6时,算法的损失值是最大的。逐渐增加的辍学值,算法的精度值逐渐降低,和损失值逐渐增加。

然后,不同的辍学值的影响人脸识别算法的性能的定量比较。很明显从表 5辍学= 0.1时,该算法最大的Acc值(99.03%),最小的损失值(0.047),最低的过度拟合率和辍学= 0.2 (1.006)。辍学= 0.6时,该算法的训练时间是最短的(337年代)。总之,辍学= 0.1时,算法的性能是最好的,所以在此基础上进行后续测试。

它是集<我talic> η= 0.0004,<我talic> λ= 0.0001深重建网络,建设SGD选择训练方法,和辍学= 0.1。然后,不同的激活函数对模型的影响识别率比较,如图 15和 16。很明显从图 15的识别准确率最高ReLu激活函数时,识别准确率是激活函数是乙状结肠时最低。从图 16,很明显,损失值是最低的ReLu激活函数时,和损失价值最高时激活函数是乙状结肠。

然后,不同的激活函数的影响人脸识别算法的性能的定量比较。很明显从表 6ReLu激活函数时,该算法的Acc价值是最大的(99.03%)、损失值是最小的(0.047),和过度拟合率最低(1.006)。当激活是双曲正切函数,该算法的训练时间是最短的(341年代)。总之,当ReLu激活函数,算法的性能是最好的,所以后续测试基础上进行的。

基于上述结果,在深度重建网络构建本文<我nline-formula> η = 0.0004,<我nline-formula> λ = 0.0001,训练方法设置为SGD,辍学= 0.1,人脸识别验证,和识别效果与LetNet-5相比,GoogleNet, AlexNet VGG-16 VGG-19, ResNet网络。很明显从图 17P-R曲线下的面积的算法构建本文是最大的;映射的值是最大的。不同模型的映射值排名,结果是论文中的算法> ResNet > AlexNet > VGG-19 > GoogleNet > VGG-16 > LetNet-5。

本文提出的人脸识别和有限元算法应用于伦敦时装周的数据提取和匹配特性。结果如图所示 18。很明显,本文提出的算法能有效地提取特征的脸图像,可以完全匹配相同的特性,然后实现相同的识别和检测的脸。

然后,本文构造深度重建网络算法应用于铁和人脸图像中特征匹配,性能与其他模型相比。很明显从表 7当本文的施工方法训练,训练集上的分类准确率为97.94%,高于LetNet-5, VGG-16,和VGG-19算法,准确率是2.1%,0.94%,和1.16%,分别,但低于GoogleNet, AlexNet, ResNet算法的准确率是0.14%,0.58%,和0.46%,分别。验证设置,本文算法构造的正确匹配率为84.72%,高于LetNet-5, VGG-16,和VGG-19算法,正确匹配率是6.94%,2.5%,和1.11%,但低于GoogleNet AlexNet,和ResNet算法,正确匹配率是0.56%,1.39%,和1.95%,分别。

匹配的人脸图像特征提取的效果比较。总识别率的比较结果如表所示 8。之后,很明显,联合使用贝叶斯方法在本文提出的算法,验证集的正确识别日志率最高(88.75%),高于LetNet-5, GoogleNet, AlexNet, VGG-16, VGG-19,和ResNet算法,正确识别利率是4%,1.25%,0.75%,3.75%,3.25%,和0.25%,分别。

的影响只使用联合贝叶斯方法和本文算法的匹配效果脸上特性进行比较,结果如表所示 9。显然,本文提出的算法有更快的匹配时间(206.44秒)和正确匹配率(88.75%)高于联合贝叶斯方法。