《电子技术应用》
您所在的位置:首页 > 嵌入式技术 > 设计应用 > 基于谱回归判别分析的LPP算法
基于谱回归判别分析的LPP算法
来源:微型机与应用2012年第16期
杨 凡, 张银玲, 牛 静
(浙江师范大学 数理与信息工程学院,浙江 金华321004)
摘要: 判别局部保持投影DLPP算法在计算过程中需要解决稠密矩阵特征分解问题,这使得该算法在时间和内存上消耗都非常高。谱回归判别分析SRDA算法可以有效的节省时间和内存的消耗。基于SRDA,提出一种改进的局部保持投影LPP算法——谱回归判别局部保持投影算法SRDLPP。实验结果表明,该算法可以提高识别率,同时降低时间和内存消耗。
Abstract:
Key words :

摘  要: 判别局部保持投影DLPP算法在计算过程中需要解决稠密矩阵特征分解问题,这使得该算法在时间和内存上消耗都非常高。谱回归判别分析SRDA算法可以有效的节省时间和内存的消耗。基于SRDA,提出一种改进的局部保持投影LPP算法——谱回归判别局部保持投影算法SRDLPP。实验结果表明,该算法可以提高识别率,同时降低时间和内存消耗。
关键词: 判别局部保持投影; 局部保持投影算法; 谱回归判别分析; 人脸识别

    人脸识别中的维数约简是一个关键问题,流行的维数约简方法包括主成分分析PCA(Principal Component Analysis)[1]、线性判别分析LDA(Linear Discriminant Analysis)[2]、局部保持投影LPP(Locality Preserving Projection)[3]等。LPP被认为是一种有效的维数约简方法,它在保持数据集的局部结构的同时,通过邻接图来确认流形结构模型的一种线性变换,它已经成功应用于许多邻域[4]。LPP的目的是寻找一个投影矩阵,在投影后,两个样本点的距离最小,然而,它却忽略了样本间的判别信息。参考文献[5]中,Yu提出了判别局部保持投影DLPP(Discriminant Locality Preserving Projection)算法,他在LPP算法中加入了判别信息来提高识别率。但是,在DLPP算法计算过程中,需要解决密度矩阵的特征分解问题,这给时间和内存方面带来了非常高的计算成本。参考文献[6]中,Cai证明了LDA的空间复杂度为:O(mnt+t3),并且占用内存为:O(mn+mt+nt),其中m是样本的个数,n是类个数,t=min(m,n)。当m和n很大时,应用到较大的数据集上,几乎是不可行的。最近,谱方法作为一种有效的维数约简方法已经运用到人脸识别中。参考文献[6]中,Cai提出一个新的判别分析算法, 即谱回归判别分析SRDA(Spectral Regression Discriminant Analysis)。通过使用谱图分析,SRDA将判别分析投射到回归框架上,它只需要解决一系列正则化的最小二乘问题,而不需要计算特征向量,节省了时间和内存的消耗,在计算方面明显地优于LDA算法。本文提出了一种新的改进算法——谱回归判别局部保持投影SRDLPP(Spectral Regression Discriminant Locality Preserving Projection)。其在LPP算法中加入了谱回归判别分析算法,这样可以避免解密度矩阵特征分解时带来的高昂的内存和时间的消耗。分别在Yale、Orl和扩展Yale_B人脸库上进行实验,实验结果表明,本算法优于其他算法。


    DLPP的识别率优于本文提出的算法和LPP算法。但是它同时也消耗了大量的时间。计算平均数据集每一次所占用的时间消耗,最高的达到50 s。
3.3 扩展 Yale_B人脸库

 


 扩展的Yale_B人脸数据库包含16 128幅人脸图像,共38类,9种姿态65种细节下进行,本文选择正面且所有的图片细节不同,每人得到64图片。所有人脸图片剪裁为32×32像素,256灰度级。特征(像素值)在[0,1]之间(除以256)。实验结果如表5、表6所示。

    表5、表6为在扩展的Yale_B人脸库上的识别率和时间消耗。可见,DLPP的识别率比较高,但是占用了太多的时间,平均识别一次所需要时间最高达到900 s。本文提出的算法最高识别率达到95.91%.
    综合以上3个实验结果可知,本文提出的算法,在一定程度上提高了识别率,特别是时间消耗方面具有明显的优势,尤其是在数据集较大的情况下,优势越明显。
    本文提出一种新的人脸识别算法——谱回归判别局部保持投影算法SRDLPP(Spectral Regression Discriminant Locality Preserving Projection)。它利用谱回归判别分析的思想加入到局部保持投影中。实验结果表明,虽然DLPP的识别率有较好的效果,但是由于它需要计算密度矩阵求解特征问题,占用了很大的时间和内存消耗,在实际运用中存在弊端。谱回归判别分析算法只需要解决一系列正则化的最小二乘问题,而不需要计算特征问题,这大大地节省了时间和内在的消耗。SRDLPP算法不仅提高了识别率而且时间和内存的消耗都比较少。分别在Yale、Orl及扩展Yale_B人脸库上进行实验,结果表明该算法具有高效的识别率、低的时间及内存消耗。
参考文献
[1] MARDIA K V, KENT J T, BIBBY J M. Multivariate analysis[M]. Academic Press, 1980.
[2] SWETS D L, WENG J Y, Using discriminant eigenfeatures for image retrieval[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence,1996,18(8):831-836.
[3] He Xiaofei, NIYOGI P. Locality preserving projections[A]. Neural Information Processing System[C]. Vancouver: MIT  Press,2003.
[4] FOLEY D H, SAMMON J W Jr. An optimal set of discriminant vectors, IEEE Transactions on Computer, 1975, C-24(3):281-289.
[5] Yu Weiwei, Teng Xiaolong, Liu Chongqing. Face recognition using discriminant locality preserving projections[J]. Image and Vision Computer, 2006(24):239-248.
[6] Cai Deng, He Xiaofei, Han Jiawei. SRDA:an efficient algorithm for large scale discriminant analysis[J].IEEE Transactions on Knavledge and Data Engineering, 2008, 20(1):1-12.
[7] FUKUNAGA K. Introduction to statistical pattern recognition 2nd edition[M]. Academic Press, 1990.
[8] TORKKOLA K. Linear discriminant analysis in document classification[C]. Proceedings of IEEE ICDM Workshop  Text Mining, 2001.
[9] HOWLAND P, PARK H. Generalizing discriminant analysis sing the generalized singular value decomposition[J]. IEEE Transactions on Pattern Analysis and Machine Intelligence, 2004,26(8):995-1006.
[10] YE J.Characterization of a family of algorithms for generalized discriminant analysis on undersampled problems[J]. Journal of Machine Learning Research,2005(6):483-502.
[11] FRIEDMAN J H. Regularized discriminant analysis[J].Journal of the American Statistical Association,1989,84(405):165-175.
[12] CHUNG F R K. Spectral graph theory[M]. AMS, 1997.
[13] HASTIE T, TIBSHIRANI R, FRIEDMAN J. The elements of statistical learning: data mining, inference, and prediction[M]. New York: Springer-Verlag, 2001.
 

此内容为AET网站原创,未经授权禁止转载。