几何分布重量信息建模使用径向基函数与分数阶线性判别分析方法

文摘

Fisher线性判别分析(FLDA)是一个典型的线性特征提取和降维方法进行人脸识别。众所周知,几何分布权重信息的图像数据中扮演一个重要的角色在机器学习方法。然而,FLDA并不使用面部图像的几何分布重量信息在培训阶段。因此,其识别精度将受到影响。为了提高分类的力量FLDA方法,本文利用径向基函数(RBF)与分数阶模型训练样本的几何分布的重量信息,提出了一种新颖的基于几何分布重量信息Fisher判别准则。随后,基于几何分布重量信息LDA (GLDA)算法,并成功地应用于人脸识别。两个公开面对数据库,即ORL和FERET数据库,选择进行评估。与一些LDA-based算法相比,实验结果展示,我们GLDA方法性能优越。

1。介绍

在过去的二十年里,人脸识别(FR)已经取得了很大的进步与计算机和计算能力的增加已经成为一个最重要的biometric-based身份验证技术。FR算法的关键问题是面部特征提取降维。根据不同的面部特征提取过程,人脸识别算法一般可以分为两类,即(本地)基于几何特征和外观(整体)(1]。几何特征的方法是基于面部的形状和位置组件(如眼睛、眉毛、鼻子和嘴),这是表示人脸几何特征向量提取。然而,对于外貌的方法,这取决于全球面部像素特征,利用,形成一个整体的面部特征向量的分类。主成分分析(PCA) (2)和线性判别分析(LDA) (3)是两个著名的外貌的线性特征提取与降维方法。又被称为Eigenface方法和Fisherface方法在人脸识别,分别。主成分分析的目的是找到正交原理组件(PC)的方向和保护的最大方差信息训练数据在PC的方向。主成分分析可以使用所有Eigenfaces重建每个面部图像。由于PCA不觉判别信息,它不适合分类任务。LDA是一种监督学习方法,寻求最优投影映射下费舍尔准则,这样的比率interdistance intradistance达到最大。因此,从分类的角度,LDA应该给更好的性能比PCA。LDA理论上声音。然而,它仍然有两个问题。首先,LDA经常遇到小样本大小(3 s)问题,它总是发生在输入样本空间的维数大于训练面部图像的数量。 Under this situation, LDA cannot be performed directly. To solve the 3S problem, a large number of LDA-based approaches have been proposed [4- - - - - -16]。其中,Fisher线性判别分析(FLDA)方法,也称为Fisherface FR方法,是一个两阶段算法。它首先利用PCA降维保证类间散布矩阵是满秩,然后可以实现LDA PCA-mapped低维的特征空间。直接LDA (6](DLDA)是另一种LDA-based方法使用同时对角化技术(173 s)来解决问题。DLDA的基本思想是以前丢弃的零空间类间散布矩阵然后继续在类散射矩阵的零空间。尽管DLDA效率计算,它遭受的性能限制尤其是训练图像数量的增加。这是因为丢弃的零空间也会丢弃的零空间间接。文献[5)显示的零空间包含最判别信息。另一方面,这些LDA-based方法是基于经典的费舍尔准则,不考虑几何分布的重量训练数据的信息。所以,他们的识别性能会退化。

加强LDA-based的判别能力的方法,提出了一种新颖费舍尔则通过考虑几何分布重量训练面部数据的信息。人们很自然地认为intradata附近它的类中心是代表类的功能更重要。因此,该方法试图强加一个点球重量(小重量)intradata如果intradata远离自己的类中心。同时,如果两个不同的类中心接近对方,他们将得到一个小重量。为此,我们应该提取几何分布重量训练数据的信息。近年来,大量的基于分数阶的方法(18- - - - - -25)提出了领域的动态系统,图像处理,人脸识别等等。本文将采用径向基函数(RBF)与分数阶21- - - - - -23)模型的几何分布重量训练样本的信息,因此我们能够建立一个新的费舍尔准则合并与数据几何分布重量信息。根据修改后的Fisher判别标准,几何分布的体重信息基于线性判别分析(GLDA)提出了人脸识别方法。我们GLDA方法是测试两个脸上数据库,即ORL数据库和FERET数据库。和FLDA方法和DLDA方法相比,实验结果表明,该GLDA方法优于FLDA和DLDA方法。

本文的其余部分组织如下。部分2简要介绍了相关的工作。节3,利用RBF与分数阶模型数据几何分布重量信息。然后建立新的费舍尔标准使用训练数据的几何分布重量信息,和GLDA算法设计。实验结果两个脸上数据库报告部分4。最后,部分5结论。

2。相关的工作

在本节中,我们将介绍一些相关的线性特征提取与降维算法用于人脸识别。

2.1。一些符号

让是原样品的尺寸,让空间样例类的数目。的th类包含训练样本,所有训练数据的总数,在那里表示th样本在课堂上。假设是类的中心;也就是说,,整个的意思。在PCA算法,总散射矩阵也称为协方差矩阵,定义

在LDA算法,在课堂散射矩阵和类间散布矩阵分别定义如下:

径向基函数与分数阶给出如下

前面的RBF可以看作是分数阶的归一化径向内核。

2.2。主成分分析

主成分分析算法也被称为Karhunen-Loeve转换。它旨在找到主成分正交方向的散射所有预计样品在大主成分方向是最大的。主成分分析理论是基于总散射矩阵可以通过公式计算(1)。主成分分析的投影矩阵是由以下准则: 在哪里和。

问题(4)相当于解决eigen-system:,在那里与和。主成分分析的投影矩阵可以选择()。列向量被称为“eigenfaces人脸识别。可以看出,PCA不使用类标签的信息。主成分分析是一种无监督学习方法,及其在分类性能不好的任务。

2.3。费舍尔LDA

线性判别分析的目标是找到一个低维的特征空间intradata紧密聚集和interdata彼此远离。因此,LDA应该获得一个最优投影矩阵最大化类间的比例分散和课下散射;也就是说,

前面的问题等于解决以下eigen-system: 在哪里是一个对角矩阵特征值与特征值降序排序。投影矩阵形成与相对应的特征向量最大特征值。在人脸识别中,列向量被称为Fisherfaces。然而,LDA经常遭受小样本量的问题当训练样本的数量小于样本向量的维数。在这种情况下,在类散射矩阵是可逆的,和eigensystem (6)不能得到解决。这意味着LDA不能直接执行。所以,费舍尔LDA (FLDA)提前使用PCA降维。

2.4。直接LDA

Yu和杨6)提出了一种直接LDA (DLDA)方法用同时对角化技术(17]。直接LDA实际上是子空间方法来克服3 s LDA的问题。它试图获得最优投影矩阵在子空间并满足以下方程: 在哪里意味着的零空间,表示的补子空间,是一个单位矩阵。对角矩阵可能包含0和一些小的对角特征值。细节可以发现在6]。

我们可以看到一些有用的判别信息将被丢弃在舞台中间PCA DLDA FLDA或同时对角化阶段。此外,FLDA方法和DLDA方法不利用几何分布重量训练样本的信息。这些因素将影响他们的识别性能。

3所示。提出GLDA方法

本节将提出一个新颖的判别标准,它将使用几何分布重量训练样本的信息。基于新的判别准则,我们GLDA方法提出。细节讨论如下。

3.1。提出了判别准则

利用几何分布的重量信息模式空间,我们重新定义在类散射矩阵和类间散布矩阵分别如下: 在哪里和是径向基函数定义为(3)。和分数阶参数,可以更灵活地调整,以获得最优参数。它可以看到从(8),如果样本之间的距离和重量大,它将处以罚款。同样,如果类中心是附近的中心,那么我们也给它一个小重量。否则,将会有一个大的重量。

基于前面的分析,基于我们的几何分布重量信息Fisher判别函数被定义为

获得最优投影矩阵如下: 我们同样可以解决以下eigensystem: 在哪里是一个对角矩阵特征值与特征值降序排序。投影矩阵形成与最大特征向量对应特征值。

3.2。算法设计

本节将开发我们的GLDA算法基于几何分布重量信息Fisher判别标准(9)。细节如下。

它很容易看到两个散射矩阵和分别可以改写下列形式: 在哪里 在哪里

因为总散射矩阵,如果我们定义,然后可以写成

eigensystem解决问题(11)和比较该GLDA和FLDA算法在同等条件下,本文也将使用PCA降维,并保证在散射矩阵几何信息的基础是满秩。这意味着GLDA可以进行PCA-transformed低维的特征空间。因此,我们GLDA算法设计如下。

步骤1。进行奇异值分解,我们有,在那里是一个标准正交矩阵,与。表示,,然后让。

步骤2。进行奇异值分解 在哪里和是正交矩阵,与和。

步骤3。如果,然后让,,去一步4。否则,更新根据规则,让,去一步2。

步骤4。进行特征值分解,在那里是一个对角矩阵的特征值递减的顺序和其对角元素是一个标准正交特征向量矩阵。让。

第5步。最后GLDA最优投影矩阵

4所示。实验结果

本节将评估的性能提出GLDA人脸识别的方法。两个LDA-based算法,即FLDA [3]和DLDA [6)算法,在相同的实验条件下选择的比较。在接下来的实验中,给出了分数阶参数的值和。他们是手动确定使用全搜索方法。

4.1。人脸图像数据库

两个受欢迎的和公开的数据库,即ORL数据库和FERET数据库,选择的评价。在ORL数据库,有40人,每个人由10图像不同的面部表情,小尺度的变化,和方向。每个图像的分辨率和每像素256灰色的水平。图像数据库中的一个人变化如图所示1。对于FERET数据库,我们选择120人,6为每个单独的图像。六个图像提取4套不同,即Fa, Fb, Fc和复制。Fa和Fb套相同的相机拍摄的图像在同一天,但不同的面部表情。俱乐部是一组不同的摄像机拍摄的图像。复制是一组拍摄的图像在6 - 12个月后,英足总,神奇动物照片。每个组的特征的细节可以在找到26]。所有图片的中心是一致的眼睛和嘴,然后归一化与解决。这项决议是一样的,在ORL数据库。图像从两个人在图所示2。对于所有面部图像,以下的预处理步骤。(我)所有图像都与眼睛和嘴的中心。面临调整的方向旋转(飞机上),这样眼睛平行的线加入中心设在。(2)图片的尺寸是使用Daubechies减少了四分之一的D4小波滤波器。所有图片的分辨率下面的实验。(3)对于每一个面部图像样本,是规范化使用以下公式:

在识别阶段,采用最近邻方法的分类,这是基于欧式距离的测量测试图像和类之间的中心。

4.2。在ORL数据库比较

ORL数据库上实验设置如下。我们随机选择从每个培训和其他图像图像的测试。为了有一个公平的比较,所有方法使用相同的训练和测试的面部图像。此外,实验重复10次,然后平均精度计算,避免统计差异。平均精度记录和列在下表中1并绘制在图3。TN表1意味着训练样本的数量。可以看出,每种方法的识别精度提升训练图像数量的增加。GLDA方法的识别精度从79.98%增加2训练图像与9 99.00%训练图像。然而,对于FLDA和DLDA方法,其精度从66.13%和78.69%增加2训练图像与9 97.75%和96.25%训练图像,分别。实验结果表明,我们的GLDA方法提供了最佳性能在ORL数据库。

我们也希望看到每个方法的详细的性能,这是图形插图使用累积(CMC)匹配特征曲线和接受者操作特征曲线(ROC)。中央军委曲线显示了识别精度等级,和ROC曲线显示错误接受率(远)与真正的录取率(雀鳝)。高精度或高雀鳝远较低意味着良好的性能。

对于每个数量的训练图像,CMC曲线和中华民国曲线绘制在图4((TN = 2)——(TN = 9))和图5((TN = 2)——(TN = 9)),分别。可以看出,我们的方法给出了所有情况下的最佳性能。

4.3。在FERET数据库比较

实验设置FERET数据库与ORL数据库相似。随着图像数量的每个人是6,训练图像的数量范围从2到5。实验重复10次,然后计算平均精度。的平均精度记录和列在下表中2并绘制在图3,分别。用于测试2训练图像时,我们的方法的识别率为72.94%,而那些DLDA和FLDA方法是62.85%和70.25%,分别。每个方法的性能也改善训练图像数量的增加。当训练图像的数量等于5,GLDA方法的精度提高到89.83%,而FLDA方法和DLDA方法分别是89.42%和85.58%,分别。可以看出,该方法优于FLDA方法和FERET DLDA方法数据库。

像ORL数据库,显示了每种方法的详细性能使用CMC和ROC曲线。他们是绘制在图6和图7分别训练图像的数量从2到5。

数据6和7证明我们的GLDA方法在FERET数据库性能优越。

5。结论

为了提高传统的判别能力LDA-based FR算法,提出了集成的几何分布重量信息训练样本为费舍尔标准和开发出一种新颖的基于几何分布重量信息LDA (GLDA)的人脸识别方法。几何分布的重量信息是学会了使用径向基函数和分数阶。拟议中的GLDA方法是使用两个脸的数据库测试,即ORL和FERET面对数据库。和FLDA方法相比,实验结果表明我们的GLDA方法具有最佳性能。

确认

本文部分支持的国家自然科学基金委(61272252)和深圳市科技计划项目(JC201105130447A JCYJ20130326111024546)。作者要感谢奥利维蒂研究实验室和艾米研究实验室提供面部图像数据库。

引用

1. r·布鲁内利和方法”,人脸识别:特征与模板”,IEEE模式分析与机器智能,15卷,不。10日,1042 - 1052年,1993页。视图:出版商的网站|谷歌学术搜索
2. m·a . Turk和a . p . Pentland“使用eigenfaces人脸识别,”《IEEE计算机学会学报计算机视觉与模式识别会议1991年6月,页586 - 591。视图:谷歌学术搜索
3. p . n . Belhumeur j.p. Hespanha, d . j . Kriegman”Eigenfaces vs fisherfaces:识别使用类特定的线性投影,”IEEE模式分析与机器智能,19卷,不。7,711 - 720年,1997页。视图:出版商的网站|谷歌学术搜索
4. a . m .马丁内斯和a·c·谷湖PCA与LDA。”IEEE模式分析与机器智能,23卷,不。2、228 - 233年,2001页。视图:出版商的网站|谷歌学术搜索
5. L.-F。陈,H.-Y。m·廖M.-T。Ko, J.-C。林,G.-J。,“新LDA-based人脸识别系统,可以解决小样本大小问题,“模式识别,33卷,不。10日,1713 - 1726年,2000页。视图:出版商的网站|谷歌学术搜索
6. h . Yu和j·杨,”直接LDA算法对于高维数据与应用人脸识别,”模式识别,34卷,不。10日,2067 - 2070年,2001页。视图:出版商的网站|谷歌学术搜索|Zentralblatt数学
7. W.-S。陈,p . c .袁和j .黄”一个新的正则化线性判别分析方法来解决小样本大小的问题,“模式识别与人工智能》国际期刊上,19卷,不。7,917 - 935年,2005页。视图:出版商的网站|谷歌学术搜索
8. 和h p .霍德兰j . Wang公园,“解决小样本大小问题在人脸识别使用广义判别分析,“模式识别,39卷,不。2、277 - 287年,2006页。视图:出版商的网站|谷歌学术搜索
9. w·s·陈,p . c .袁j .黄和b方,“两步单参数正则化fisher判别人脸识别方法,”模式识别与人工智能》国际期刊上,20卷,不。2、189 - 208年,2006页。视图:出版商的网站|谷歌学术搜索
10. j·d·Tebbens p·施莱辛格,“改善实现线性判别分析的高维度/小样本大小的问题,“计算统计和数据分析,52卷,不。1,第437 - 423页,2007。视图:出版商的网站|谷歌学术搜索|Zentralblatt数学|MathSciNet
11. k . Das和z . Nenadic”,一个高效discriminant-based解决小样本问题,“模式识别,42卷,不。5,857 - 866年,2009页。视图:出版商的网站|谷歌学术搜索|Zentralblatt数学
12. h·胡,张平,f . De la Torre”人脸识别使用增强线性判别分析,“专业计算机视觉,4卷,不。3、195 - 208年,2010页。视图:出版商的网站|谷歌学术搜索|MathSciNet
13. d .楚和g s Thye”,一个新的和快速实现基于零空间的线性判别分析,“模式识别,43卷,不。4、1373 - 1379年,2010页。视图:出版商的网站|谷歌学术搜索|Zentralblatt数学
14. W.-S。陈,p . c .袁,谢x”内核基于机器rank-lifting正规化判别分析的人脸识别的方法,”Neurocomputing,卷74,不。17日,第2960 - 2953页,2011年。视图:出版商的网站|谷歌学术搜索
15. 沙玛和k . k . Paliwal“面部识别的两级线性判别分析,”模式识别的字母,33卷,不。9日,第1162 - 1157页,2012年。视图:出版商的网站|谷歌学术搜索
16. f . Dornaika和a . Bosaghzadeh”指数当地判别嵌入人脸识别及其应用,”IEEE控制论,43卷,不。3、921 - 934年,2013页。视图:出版商的网站|谷歌学术搜索
17. 英国的巨大,介绍了统计模式识别、计算机科学和科学计算、学术出版社,波士顿,质量,美国,第二版,1990年版。视图:MathSciNet
18. c .刘”Gabor-based内核PCA人脸识别与部分权力多项式模型,”IEEE模式分析与机器智能,26卷,不。5,572 - 581年,2004页。视图:出版商的网站|谷歌学术搜索
19. c . Cattani和a . Ciancio”分离过渡密度混合模型对肿瘤免疫系统竞争,”计算和数学方法在医学610124卷,2012篇文章ID, 6页,2012。视图:谷歌学术搜索|Zentralblatt数学|MathSciNet
20. c . Cattani a Ciancio b .钟表,“免疫竞争的数学模型,应用数学的信,19卷,不。7,678 - 683年,2006页。视图:出版商的网站|谷歌学术搜索|Zentralblatt数学|MathSciNet
21. m·李和w·赵”,表示随机交通界。”IEEE并行和分布式系统,21卷,不。9日,第1372 - 1368页,2010年。视图:出版商的网站|谷歌学术搜索
22. m·李”逼近理想滤波器系统的分数阶。”计算和数学方法在医学365054卷,2012篇文章ID, 6页,2012。视图:谷歌学术搜索|Zentralblatt数学|MathSciNet
23. w·m . Li赵,c . Cattani“延迟绑定:分形交通通过服务器。”数学问题在工程。在出版社。视图:谷歌学术搜索
24. 美国x, z . w .廖,w·f·陈,“正弦图恢复低剂量x射线计算机断层扫描使用分数阶perona-Malik扩散,”数学问题在工程文章ID 391050卷,2012年,13页,2012。视图:谷歌学术搜索|Zentralblatt数学
25. 美国x,“外部分数阶梯度向量Perona-Malik扩散为正弦图恢复低剂量x射线计算机断层扫描,”数学物理的发展ID 516919条,卷。2013年,14页,2013。视图:谷歌学术搜索
26. p . j .菲利普斯h .月亮,s . a . Rizvi和p . j . Rauss“FERET评价方法对人脸识别算法,IEEE模式分析与机器智能,22卷,不。10日,1090 - 1104年,2000页。视图:出版商的网站|谷歌学术搜索

版权

版权©2013 Wen-Sheng陈等。这是一个开放的分布式下文章知识共享归属许可,它允许无限制的使用、分配和复制在任何媒介,提供最初的工作是正确引用。