基于RBF神经网络的人脸识别研究

基于RBF神经网络的人脸识别研究文章编号：1674—7070(2010)044)307—07 基于 RBF神经网络的人脸识别研究摘要针对人脸识别技术中存在的高维问题、小样本问题和非线性问题展开研究．围绕人脸特征提取，采用基于主成分分析和 Fisher线性鉴别来克服在人脸识别中的小样本问题，同时将人脸图像从高维空间映射到低维空间从而解决了高维问题；在分类识别方面，采用具有很强的非线性映射功能的 RBF神经网络进行模式分类，能够解决人脸识别中的非线性问题．在 ORL人脸数...

文章编号：1674—7070(2010)044)307—07 基于 RBF神经网络的人脸识别研究摘要针对人脸识别技术中存在的高维问题、小样本问题和非线性问题展开研究．围绕人脸特征提取，采用基于主成分分析和 Fisher线性鉴别来克服在人脸识别中的小样本问题，同时将人脸图像从高维空间映射到低维空间从而解决了高维问题；在分类识别方面，采用具有很强的非线性映射功能的 RBF神经网络进行模式分类，能够解决人脸识别中的非线性问题．在 ORL人脸数据库上进行的仿真实验表明，该方法进行人脸识别具有较高的识别率．关键词人脸识别；特征提取；主成分分析； Fisher线性鉴别；RBF神经网络中图分类号 TP391．41 文献标志码 A 收稿日期 2010473—24 资助项目国家自然科学基金与中国民用航空总局联合资助项目(60776816)；广东省自然科学重点基金(251064101000005) 作者简介吴畏，男，硕士生，主要研究方向为智能计算与计算机应用．risako@vip．qq．corn 肖南峰(通讯作者)，男，博士，教授，博士生导师，主要研究方向为智能计算与计算机应用．xiaonf@scut．edu．cn 1华南理工大学计算机科学与工程学院，广卅I．510006 吴畏肖南峰 0 引言 Introduction 人脸识别是利用分析比较人脸视觉特征信息进行身份鉴别的计算机技术，其应用涉及图像处理、机器视觉、模式识别、神经网络等诸多学科．研究人脸识别技术的目的是使计算机具有人类一样对人进行识别的能力，人脸识别技术在人机交互、身份鉴别、安全监控、图像视频处理等领域有着广阔的应用前景．然而，人脸识别系统的识别率往往受到一些“非面部”因素的影响，诸如光照的变化、表情、发型、脸部佩戴物(如眼镜)、脸部姿态等，除此之外，还涉及人脸检测和跟踪、实时检测等一系列相关技术问题．人脸识别主要包括但不限于以下 4个方面的研究内容：人脸检测、人脸图像规范化、人脸特征提取、人脸分类识别．本文将针对人脸特征提取和分类识别 2个方面进行研究． 1 人脸特征提取 Face feature extraction 在人脸识别系统中，人脸图像特征提取直接影响到系统的识别性能．特征选择的过程至关重要，如果选择了包含充分分类能力的特征，将极大地简化分类器的设计，且能提高分类性能．本文采用一种基于主成分分析和 Fisher线性鉴别的特征提取方法——Fisherface，该方法由 Belhumeur等提出，已经在模式识别领域中得到了广泛应用． 1．1 主成分分析 (PCA) 主成分分析 (Principal Component Analysis，PCA)法的基础是 Karhunen—Loeve变换(简称 K—L变换)——一种常用的正交变换．PCA 可将高维度的资料(如人脸图像)进行压缩，它是最小均方误差下的最优维数据压缩技术，而且 PCA法所提取特征之间是互不相关的， Turk等最早将 PCA用于特征脸的提取．设人脸图像样本的总数为Ⅳ，每个人脸图像样本的大小为 m×n，因此，所有样本可以用一个 M×N(M=m×n)的矩阵来表示： X =(X1，X2，⋯，XN)∈R ． (1) 其中，每个列向量代表一个人脸样本． PCA的算法步骤如下： 1)构造所有训练样本的协方差矩阵 308 C=— 1∑(Xi一 )(Xi— ) =AA ∈R ． (2) 其中：为平均人脸，即所有训练样本的均值；A = [ 一，一，⋯，一 ]∈R 为所有样本与平均脸的差构成的矩阵． 2)计算矩阵L =ATA∈R 的特征向量 t'i和特征值，则C的特征向量为 =Av ∈R ，特征值仍为． 3)计算得到的 C的所有特征向量[ ，咖：，⋯， ]是按特征值[ ，。，⋯， ]从大到小排列的正规化特征向量．若要求 PCA变换后的数据降为k维，则选取特征值最大的 k个特征向量构造特征空问 U=[ ，，⋯， ]∈R x k． 4)所有的样本在基底上的投影为 Z =U (3) 基于 K．L变换的 PCA方法在最小均方误差下能够得到最好的信息压缩，然而，最大特征值对应的特征向量未必具有最佳的分类能力，并且 PCA方法的无监督训练使得 PCA的训练过程无法利用样本的类别信息．在很多情况下，PCA方法未必能在低维空间内取得最大的分类性能，因此，需要对 PCA方法得到的特征空间进行进一步地特征提取． 1．2 Fisher线性鉴别(FLD) 在图像识别中，由于 Fisher线性鉴别分析(Fish— er具有 Linear Discriminant，FLD)极佳的分类能力，当图像投影到 Fisher特征空问时，同类样本聚集在一起，而不同类样本会被分开，即类问距离与类内距离的比值最大化，因此它能得到比 PCA更好的识别效果．FLD方法中使用了2个散布矩阵的定义．设样本中包含 C个人的人脸样本，即共有 c类，则： 1)类内散布矩阵(Within—Class Scatter Matrix) = ∑∑( 一 i)( 一 ) ． (4) 其中：是第 i类样本的均值，显然，s 代表同一类样本相聚的程度． 2)类间散布矩阵(Between—Class Scatter Matrix) ： ∑．7v ( 一 )( 一 )。。’． (5) 其中：是第 i类样本的均值，是所有样本的均值，ⅣJ是第 i类样本的数目． FLD的目的是找到使／最大化的投影。引， Wo a~gmax = WI,W2,'",Wc_1j．(6) 吴畏，等．基于 RBF神经网络的人脸识别研究． WU Wei，et a1．Research on face recognition based ON RBF neural networks．式(6)可以看成以下特征值问题： SbW ：A S W ， i=1，2，⋯ ，c一1． (7) 即A 和 W 分别为矩阵 s s 的特征值和特征向量，该矩阵最多只有 C一1个非零特征值．如果希望映射到 FLD空间的特征向量的维数为 r，则同样选择最大的r个特征值对应的特征向量作为 FLD空间的基底，即 wo =lW1，W2，⋯，W 一1]， 0d i ( ，f)且 l d 一df}≤d i ( ，z)，类与其他类相交；d +df> d⋯( ，f)且 l d 一d l≥d i ( ，Z)，类包含其他类或被其他类包含．对于第一种情况，类与其他类不存在重叠，不需要进行划分；对于后一种情况，需要根据 5)对类进行划分判断． 5)如果类完全包含其他类 Z，即 d +d > d i ( ，Z)且 I d 一d I≤d i ( ，Z)则类需要被划分成2类；否则，如果类包含其他类的特征超过 1 个，则类需要被划分成 2类． 6)重复执行 2～5步直到所有的聚类都不需要被划分． 2．3．2 高斯宽度的估计为了保证隐层神经元的覆盖范围尽可能的大，又尽可能的不相互重叠，需要合理地选取各中心的高斯宽度．根据文献[7]给出的估计算法： =max( k ， )．其中：； (15) 丽； = X d i ( ，z)． (16) 卢为置信度，0．5≤卢≤1，可按以下公式计算 d ． (1一／) 一． (1 J ∑dmi．( ，f) 310 2．4 RBF神经网络的混合学习算法 RBF神经网络的隐层节点的参数调整是一个非线性过程，输出层连接权的调整则是一个线性的过程．鉴于这两个学习过程的差异，本文采用一种混合学习算法 (Hybrid Learning Algorithm，HLA) ’ 对 RBF神经网络进行训练． 1)采用线性最小二乘法 (Linear Least Square， LLS)，调整输出层的连接权． 2)采用梯度下降法，调整隐层神经元的中心和高斯宽度． 2．4．1 计算连接权输入矩阵为X∈R 时，隐层的输出矩阵为R∈ R ，输出层的输出矩阵为 Y∈R“ ，其中Ⅳ为训练样本的总数． RBF网络的待定输出层权值 W∈R “，则隐层输出矩阵、输出层权值、网络输出矩阵有如下关系： Y=W ×R． (18) 设样本的目标输出为 T∈R ，则为了使目标输出与网络实际输出之间的误差最小，可以采用线性最小二乘法(LLS)，通过的伪逆求出 w： W ：R X (19) 2．4．2 调整隐层中心及宽度隐层的中心和宽度采用监督学习算法进行训练，所有的参数都经历一个误差修正的学习过程．本文中，采用梯度下降法引进行训练，该方法过程如下：定义误差函数 E=÷∑E 。 (20) 式中，Ⅳ为样本数，E 为输人第凡个样本时的误差，定义为 = ∑(《一 ) ． (21) 为使误差函数最小化，参数的修正量应该与其负梯度成正比，即： △ = ， △ = ． (22) 展开后得到的具体计算公式为 △ N ㈣k -(23) = 2rh塞 n=l毫啪) ) 在输入完所有样本后，使用该修正公式对参数进行调整，迭代公式为 C (m+1)=C (m)+△C，， (25) 吴畏，等．基于 RBF神经网络的人脸识别研究． WU Wei，et a1．Research on face recognition based on RBF neural networks． ( +1)： (m)+Ao-／． (26) 其中，m为迭代次数，和叼分别为中心和高斯宽度的学习速率，为了保证分类器性能，采用的高斯宽度的学习速率通常大于中心的学习速率(一般取 = 2rl1)． 2．4．3 RBF神经网络的学习过程 RBF神经网络的学习过程如图3所示：导入全部样本 ● 初始化隐层单元，并用L1 s计算初始连接矩阵计算初始误差E ‘ 梯度F降法调整c和， I J J 求连接矩阵w 加载训练样本，计算并记录误差E(m1 - 终止训练 L J 图3 RBF神经网络的学习过程 Fig．3 Learning procedure of RBF neural network 3 实验与分析 Simulation& analysis 本文采用剑桥大学 AT&T实验室创建的 ORL 人脸库(图4)上使用 Matlab进行仿真实验，该数据库包含40个人的每人 10幅，总共400幅面部图像，实验中将人脸图片分为训练集和测试集 2组，其中 200幅用于训练，200幅用于测试．实验分别对不同的 PCA子空间维数、FLD子空间维数以及不同的学习次数、学习速度、置信度进行反复实验，并讨论不同参数对分类器性能的影响．在未作说明的情况下，学习速率指高斯宽度的学习速率，中心的学习速率为它的一半．实验中对性能的主要评判标准是平均错误率，其定义如下： ∑凡c¨i E．vo ‘ (27) 其中，nfⅢi 为第t次仿真时的错误识别数，n 。为每次仿真时的测试样本数，实验中每次仿真采用同样数未信垂学学报：自然科学版，2010，2(4)：307—313 Journal of Nanjing University of hfformation Science and Technology：Natural Science Edition，2010，2(4)：307—313 量的测试样本，为仿真次数．图4 ORL人脸库中的人脸样本图像 Fig．4 Samples of facial images in ORL database 3．1 PCA-I-FLD中的特征数对识别率的影响固定学习速率为 0．1，置信度 0．7，训练次数 200． 3．1．1 PCA子空间维数对识别率的影响固定 FLD子空间的维数为25，调整 PCA子空间的维数，并分别进行2次仿真实验，结果如表 1所示．表 1 PCA子空间维数对平均错误率的影响 Table 1 E ⋯ for different dimensions of PCA subspace PCA子空间维数 E ／％ 9．O 7．0 5．5 6．O 10．5 l9．0 71．O 从表 1结果可以看出，如果在 PCA方法中提取 311 了过多的特征，会导致分类器性能的急剧下降．PCA 子空间维数为50～90之间时，有较好的分类性能． 3．1．2 FLD子空间维数对识别率的影响固定 PCA子空问的维数为70，调整FLD子空间的维数，并分别进行 2次仿真实验，结果如表 2 所示．表2 FLD子空间维数对平均错误率的影响 Table 2 E⋯ for different dimensions of FLD subspace FLD子空间维数 E ／％ 7．5 7．O 5．5 5．O 6．5 7．5 11．0 从结果看出，FLD中子空间的维数在 25和 30 时，平均错误率低至5％左右，而维数过高或过低，都会不同程度地影响 RBF的分类性能． 3．2 RBF分类器分类性能分析在采用2．3中的方法初始化RBF隐层中心并通过 2．4中的方法进行学习后，设置不同的参数对分类器的性能进行分析． 3．2．1 置信度启的选取固定训练次数 200、中心学习速率 0．025、高斯宽度学习速率 0．05、PCA子空间维数为 7O，对不同的置信度和不同的FLD子空间维数进行多组实验统计错误识别数及网络训练完成的截止误差．结果如表 3所示．综合所有不同特征向量下的结果，不难发现，在置信度为0．6～0．7时，RBF分类器具有较好的识别效果．表 3 不同置信度和不同FLD子空间维数下的性能分析 Table 3 Performances under different confidences and FLD subspace 如加 m ∞ 如加 312 3．2．2 学习速率卵的选取本实验使用不同的卵值对学习算法进行实验，固定置信度为0．6，PCA子空间维数为 70，FLD子空间维数为 25．为直观表明学习率对学习过程的影响，设置训练次数为3O，使用3组差别较大的卵值进行测试，图5a给出3条不同学习速率下的误差变化曲线(横坐标为学习次数)．这里的 '7是高斯宽度的学习速率，中心的学习速率选为 r／／2．为了进一步分析最优的学习速率，增大训练次数，微调学习速率进行实验，得出图5b的实验结果．可以看出，学习速率为 0．12时，在训练开始阶段保持下降趋势，到最后发生了误差反弹，学习速度为 0．10和0．08时，都没有发生反弹．因此，在本文方法中，学习速率控制在 0．10左右比较合适．学习次数 a一3条不同学习速率下的误差变化曲线学习次数 b 增大训练次数，微调学习速率时的误差图5 学习速率对网络误差的影响 Fig．5 Network errors with respect to learning rates 3．2．3 学习次数 Epochs的选取固定学习速率为0．1，对同一组样本进行学习次数为20、100、150、200、500、800进行了6次仿真，结果如表4所示．吴畏，等．基于 RBF神经网络的人脸识别研究 WU Wei．et a1．Research on face~eognition based on RBF neural networks 表4 学习次数 Epochs对错误分类数和网络误差的影响 Table 4 Performances under different Epochs 由表中可以看出，学习次数为 200以上，虽然误差有所下降，但错误分类数没有减少．事实上，过高的训练次数会降低分类器的泛化性能从而导致分类器性能的下降． 3．2．4 分类器的抗噪性能分析为了更好地测试分类性能，给测试集的人脸图像加上随机噪声(图6)进行测试． ■ b．噪声强度=30％图6 加入不同强度的噪声后的人脸图像 Fig．6 Samples of facial images with different noise amplitude 取 PCA、FLD空间维数分别为 70和 25、学习次数 200、学习速率 0．1、置信度 0．6进行实验，得到的结果如图7所示．结果表明：分类器有良好的抗噪性能，在高强度的噪声下，也能保持较高的识别率．图7 不同噪声强度对分类器性能的影响 Fig．7 Error rate with respect to different noise amplitude 信垂学学报：自然科学版，2010，2(4)：307—313 Journal of Nanjing University of Information Science and Technology：Natural Science Edition，2010，2(4)：307—313 4 结论和展望 Conclusion& future work 经过实验，本文的方法在 PCA子空问维数 70、 FLD子空问维数 25、学习次数 200、学习速率0．1、置信度0．6的情况下，取得了95．5％的识别率．图8给出了识别测试的一部分结果，其中每行最右边一张为该行误识人脸的实际输出结果．由图8可以看出，在具有较大的角度变化、附属物(如眼镜)等情况下，分类器均能正确识别，具有较好的鲁棒性． ■■■■■■ 一一一一一■ ■■■■ 习速率和判定学习终止条件．参考文献 Referenees [2] [3] [4] [5] [6] [7] 图8 部分识别测试的结果 Fig·8 s pl。。f。 p。rim。“ 。 ul [8] 下一步将要进行的工作是：1)考虑将特征提取的线性鉴别分析改进成为加权的核 Fisher鉴别分析，使样本向中心靠拢以避免类与类之间重叠，从而提高识别率；2)选取一个好的方法来动态计算学 313 Belhumeur P N．Hespanha J P．Kriegma D J．Eigenfaces vs． Fisherfaces：recognition using class specific linear projection[J]． IEEE Transactions ou Pattem Analysis and Machine Intelligence， 1997，19(7)：711-720 Turk M，Pentland A．Eigenfaces for recognition[J]．Journal of Cognitive Neuroseience，1991，3(1)：71-86 ET M J，Wu S Q，Lu J W，et a1．Face recognition with Radial Basis Function(RBF)neural networks[J]．IEEE Transactions on Neu． ral Networks，2002，3(3)：697-709 韩立群．人工神经网络教程 [M]．北京：北京邮电大学出版社．2006 HAN Liqun．Artificial networks[M]．Beijing：Beijing University of Posts and Telecommunications Press，2006 Theodoridis S，Koutroumbas K．模式识别[M]．2版．北京：电子工业出版社，2004 Theodoridis S，Koutroumbas K．Pattern recognition[M]．2th ed． Beijing：Publishing House of Electronics Industry，2004 Kumar S．Neural networks『M1．New York：McGraw Hil1．2005 王忠．基于 Gabor小渡与 RBF神经网络的人脸识别技术研究 [D]．福州：福州大学机械工程及自动化学院，2005 WANG Zhong．Research on face recognition based on gabor wave． 1et and RBF neural networks[D]．Fuzhou：School of Mechanical Engineering and Automation，Fuzhou University，2005 刘晓亮，王福龙，黄诚，等．一种加权的核 Fisher鉴别分析在人脸识别中的应用[J]．广东工业大学学报，2009，26(4)：65-69 LIU Xiaoliang，WANG Fulong，HUANG Cheng，et a1．The applica— tion of a wei ghted kernel Fisher diseriminant analysis applied in face recognition[J]．Journal of Guangdong University of Technolo— gY，2009，26(4)：65-69 Research on face recognition based on RBF neural networks wu Wei XIAO Nanfeng 1 School of Computer Science＆ Engineering，South China University of Technology，Guangzhou 510006 Abstract In this paper，feature extraction and recognition of facial images is studied in order to resolve the high- dimension problem，small size samples problem and non—linear separable problem that exist in face recognition tech— nology．The proposed feature extract method based on Principal Component Analysis(PCA)and Fisher’s Linear Discriminate(FLU)can solve the small size samples problem and the high-dimension problem by mapping the samples from a high—dimension space to a low—dimension Eigen space．In the recognition stage，RBF neural network， which represents a brilliant performance on small training set，non—linear separable and high—dimension pattern ree— ognition problems，is used for pattern classification．Simulation results on the ORL face database indicate that the proposed method for face recognition yielded a good recognition rate． Key words face recognition；feature extraction；principal component analysis；Fisher’s linear discriminate；RBF nelJra1 n twork

                    本文档为【基于RBF神经网络的人脸识别研究】，请使用软件OFFICE或WPS软件打开。作品中的文字与图均可以修改和编辑，
                    图片更改请在作品中右键图片并更换，文字修改请直接点击文字进行修改，也可以新增和删除文档中的内容。 
 该文档来自用户分享，如有侵权行为请发邮件ishare@vip.sina.com联系网站客服，我们会及时删除。

                    [版权声明] 本站所有资料为用户分享产生，若发现您的权利被侵害，请联系客服邮件isharekefu@iask.cn，我们尽快处理。

                    本作品所展示的图片、画像、字体、音乐的版权可能需版权方额外授权，请谨慎使用。

                    网站提供的党政主题相关内容(国旗、国徽、党徽..)目的在于配合国家政策宣传，仅限个人学习分享使用，禁止用于任何广告和商用目的。
                

下载需要：免费已有0 人下载

立即下载

基于RBF神经网络的人脸识别研究

你可能还喜欢