LVQ神经网络在人脸朝向识别中的应用毕业论文.doc

1、华北科技学院毕业论文2012 届华北科技学院本 科 毕 业 论 文论文题目： LVQ神经网络在人脸朝向识别中的应用 学生姓名： 丁佳 学 号： 200809014125 系(部、院)： 基础部 专 业： 信息与计算科学 班 级： 计算B081 指导教师： 李强丽 2012年06月15日III目录摘要IIIAbstractIV第1章 绪论11.1人脸朝向识别的研究意义11.1.1现实意义11.1.2学术价值21.2国内外研究现状21.2.1国外研究现状21.2.2国内研究现状3第2章 LVQ神经网络与MATLAB工具箱简介52.1 LVQ神经网络模型与学习方法52.1.1 LVQ神经网络结构52

2、.1.2 LVQ神经网络的学习算法62.2MATLAB神经网络工具箱简介72.2.1 LVQ神经网络学习算法的MATLAB实现72.2.2 BP神经网络学习算法的MATLAB实现82.3MATLAB图像处理工具箱简介8第3章 LVQ神经网络在人脸朝向识别中的应用113.1 问题描述113.2 设计思路与步骤113.3 人脸特征向量的提取113.4 训练集/测试集产生143.5 创建LVQ网络153.6 训练LVQ网络163.7 人脸识别仿真测试163.8 结果显示与分析16第4章 LVQ神经网络与BP神经网络在人脸朝向识别中的对比分析184.1 BP神经网络简介184.2 BP神经网络在人脸朝

3、向识别中的应用19第5章 结论22参考文献23附录A 人脸图像24附录B 程序源代码29附录C 程序运行结果35LVQ神经网路在人脸朝向中的应用摘要：人脸识别技术（FRT）是当今模式识别和人工智能领域的一个重要研究方向。虽然人脸识别的研究已有很长的历史，各种人脸的识别技术也很多，但由于人脸属于复杂模式而且容易受表情、肤色和衣着的影响，目前还没有一种人脸识别技术是公认快速有效的。人脸朝向识别是一个复杂的模式识别问题，当人脸朝向不同的方向时，眼睛在图像中的位置差别较大。本文将图片中描述眼睛位置的特征信息通过Sobel边缘算子提取出来作为LVQ神经网络的输入，人脸朝向作为神经网络的输出，利用Matl

4、ab工具箱通过对训练集的图片进行训练，得到具有预测识别功能的网络，从而可以对任意给出的人脸图像进行判断和识别。同时，本文还采用了BP神经网络与LVQ神经网络对人脸朝向识别进行了对比分析，得出LVQ神经网络相对于BP神经网络在人脸识别和图像处理方面具有一定的优势。关键字：人脸朝向识别；LVQ神经网络；BP神经网络；Matlab工具箱LVQ neural network application in the facial orientationAbstract: The face recognition technology (FRT) is an important research direc

5、tion in the field of pattern recognition and artificial intelligence today.Although the research of human face recognition has a long history,a variety of face recognition technology has a lot,but due to face is a complex pattern and vulnerable to the impact of facial expressions, skin color and clo

6、thing.There is still not a face recognition technology which is recognized as quickly and efficiently.The recognition of human face is a complex pattern of recognition.When the orientation of face is different, the position of the eyes in the different image differ quite a bit. This paper will descr

7、ibe the characteristics of eye position in the picture by Sobel edge operator which is extracted as the input of the LVQ neural network.The recognition of human face is extracted as the output of the neural network. Using the Matlab toolbox training through the training set of the pictures,we can ob

8、tain the network with predicted recognition function which can be for any given face image extraction and recognition. The paper also uses the BP neural network with the LVQ neural network to a comparative analysis towards the identification of the face.Compared the LVQ network to the BP network,the

9、re is certain advantages in face recognition and image processing.Keywords:face towards the identification;LVQ neural network;BP neural network;Matlab toolbox华北科技学院毕业论文第1章 绪论人脸识别作为一个复杂的模式识别问题，近年来受到广泛的关注，识别领域的各种方法在这个问题上各显所长，而且发展出了许多新方法，大大丰富和拓展了模式识别的方向。人脸识别、检测、跟踪、特征定位等技术近年来一直是研究的热点。人脸识别是人脸应用研究中重要的第一步，

10、目的是从图像中分割出不包括背景的人脸区域。由于人脸形状的不规则性以及光线和背景条件多样性，现有的人脸研究算法都是在试图解决某些特定实验环境下的一些具体问题，对人脸位置和状态都有一定的要求。而在实际应用中，大量图像和视频中人脸的位置、朝向和旋转角度都不是固定的，这就大大增加了人脸识别的难度。在人脸识别领域的众多研究方向中，人脸朝向分析一直是一个少有人涉及的领域。在以往的研究成果中，一些研究者谈及了人脸朝向问题，但其中绝大多数都是希望在人脸识别过程中去除人脸水平旋转对识别过程的不良影响。但是，实际问题要复杂得多，人脸朝向是一个无法避免的问题。因此，对于人脸朝向的判断和识别，将会是一件非常有意义的工

11、作。1.1人脸朝向识别的研究意义1.1.1现实意义研究人脸识别在理论和技术上都有重要的意义：一是可以推进对人类视觉系统本身的认识；二是可以满足人工智能应用的需要。采用人脸识别技术，建立自动人脸识别系统，用计算机实现对人脸图像的自动识别有着广阔的应用领域和诱人的应用前景。 同时人脸识别作为一种生物体征识别与其它较成熟的识别方法（如指纹、虹 膜、DAN检测等）相比有以下几个优点：（1）无侵犯性。人脸图像的获取不需要被检测人发生身体接触，可以在不惊动被检测人的情况下进行。（2）低成本、易安装。人脸识别系统只需要采用普通的摄像头、数码摄像机或手机上的嵌入式摄像头等被广泛使用的摄像设备即可，对用户来说也

12、没有特别的安装要求。（3）无人工参与。整个人脸识别过程不需要用户或被检测人的主动参与，计算机可以根据用户预先的设置自动进行。由于具有以上优点，近几年来，人脸识别技术引起了越来越多科研人员的关注。1.1.2学术价值人脸检测研究具有重要的学术价值。人脸是一类具有相当复杂的细节变化的自然结构目标，此类目标的检测问题的挑战性在于：（1）人脸由于外貌、表情、肤色等不同，具有模式的可变性；（2）一般可能存在眼镜、胡须等附属物；（3）作为三维物体的人脸的影像不可避免地受由光照产生的阴影的影响。因此，如果能够找到解决这些问题的方法，成功构造出人脸检测与跟踪系统，将为解决其它类似的复杂模式检测问题提供重要的启示

13、。1.2国内外研究现状 1.2.1国外研究现状当前很多国家展开了有关人脸识别的研究，主要有美国、欧洲国家、日本等著名的研究机构，如：美国MIT的Media lab，AI lab，CMU 的 Human-ComputerInterface Institute，Microsoft Research，英国的 Department of Engineering in University of Cambridge 等。 20 世纪 90 年代以来，随着高速高性能计算机的出现，人脸识别方法有了重大突破，进入了真正的机器自动识别阶段。国外有许多大学在此方面取得了很大进展，他们研究涉及的领域很广，其中有从感

14、知和心理学角度探索人脸识别。美国 Texas at Dallas 大学的 Abdi 和 Toole 小组，主要研究人脸感知机理的规律；由Stirling 大学的 Bruce 教授和 Glasgow 大学的 Burton 教授合作领导的小组，主要是研究人类大脑在人脸认知中的作用，并在此基础上建立了人脸认知的两大功能模型，他们对熟悉和陌生人脸的识别规律以及图像序列的人脸识别规律也进行了研究；英国 Aberdeen 大学的 Craw 小组，主要研究人脸视觉表征方法，他们对空间频率在人脸识别中的作用也进行了分析；荷兰 Groningen 大学的 Petkov 小组，在此基础上发展了并行模式识别方法。更

15、多的学者则从事利用输入图像进行计算机人脸识别的研究工作。 在人脸识别的领域中，国际上逐步形成了以下几个研究方向： （1）基于几何特征的人脸识别方法，主要代表是 MIT 的 Brunelli 和 Poggio 小组，他们采用改进的积分投影法提取出用欧氏距离表征的 35 维人脸特征矢量用于模式分类； （2）基于模板匹配的人脸识别方法，主要代表是 Harvard 大学 Smith-Kettlewell 他采用弹性模板来提取眼睛和嘴巴的轮廓，Chen 和 Huang 研究中心的 Yuille，则进一步提出用活动轮廓模板提取眉毛、下巴和鼻孔等不确定形状； （3）基于 K-L 变换的特征脸的方法，主要研究

16、者是 MIT 媒体实验室的 Pentland ；（4）基于隐马尔可夫模型的方法，主要代表有 Cambridge 大学的 Samaria 小组和 Georgia 技术研究所的 Nefian 小组； （5）基于神经网络识别的方法，如 Poggio 小组提出的 HyperBF 神经网络识别方法，英国 Sussex 大学的 Buxton 和 Howell 小组提出的 RBF 网络识别方法等； （6）基于动态链接结构的弹性图匹配方法，主要研究者是由 C.Von derMalsburg 领导的德国 Bochum 大学和美国 Southern California 大学的联合小组； （7）利用运动和颜色信息

17、对动态图像序列进行人脸识别的方法，主要代表是 Queen Mary 和 Westfield 大学的 Shaogang Gong 小组1。1.2.2国内研究现状国内关于人脸自动识别的研究始于二十世纪 80 年代，主要的研究单位有清华大学，哈尔滨工业大学，中科院计算所，中科院自动化所，复旦大学，北京科技大学等，并都取得了一定的成果。国内的研究工作主要是集中在三大类方法的研究：基于几何特征的人脸正面自动识别方法、基于代数特征的人脸正面自动识别方法和基于连接机制的人脸正面自动识别方法。 四川大学的周激流教授实现了具有反馈机制的人脸正面识别系统，运用积分投影法提取面部特征的关键点并用于识别，获得了比较满

18、意的效果2。他同时也尝试了“稳定视点”特征提取方法，即为使识别系统中包含 3D 信息，他对人脸侧面剪影识别做了一定的研究，并实现了正侧面互相参照的识别系统3。 中国科技大学杨光正等提出一种基于镶嵌图的人脸自动识别方法，采用基于知识的三级金字塔结构对人脸进行基本定位，前两级建立在不同分辨率的镶嵌图基础上，第三级用一种改进的边缘检测方法进一步检测眼睛和嘴巴4。 清华大学彭辉、张长水等对特征脸的方法做了进一步的发展，提出采用类间散布矩阵作为产生矩阵，进一步降低了产生矩阵的维数，在保持识别率的情况下，大大降低了运算量5。 南京理工大学杨静宇等主要是采用奇异值分解方法进行人脸识别研究，如用 Daubec

19、hies 正交小波变换对人脸图像作预处理，得到不同频带上的 4 个子图像，对它们分别提取奇异值，然后用最近邻方法进行分类，同时设计一种适用于多分类结果融合的群体决策算法，并且对分类结果有选择的进行融合6。张辉，周宏祥，何振亚采用对称主元分析神经网络，用去冗余和权值正交相结合的方法对人脸进行特征提取和识别。该方法所用特征数据量小，特征提取运算量也较小，比较好地实现了大量人脸样本的存储和人脸的快速识别7。 北京科技大学的王志良教授主要研究人工心理，建立了以数学公式为基础的心理学模型8。中科院计算所与成都银晨网讯于 2000 年 5 月联合创立了国内首家专门从事面像识别核心技术研究与开发的实验室，主

20、要研究领域涉及计算机视觉、模式识别、机器学习等，尤其关注于人脸识别以及多模式人机交互技术。他们关注的核心技术主要包括：实时精确的人脸检测与跟踪，快速精确的面部特征定位，准确快速的人脸识别/确认方法等，尤其关注复杂环境下（光照、姿态、表情、 老化等）的人脸识别问题9。第2章 LVQ神经网络与MATLAB工具箱简介2.1 LVQ神经网络模型与学习方法2.1.1 LVQ神经网络结构学习向量量化LVQ(Learning Vector Quantization)神经网络，属于前向神经网络类型，在模式识别和优化领域有着广泛的的应用，其网络结构图如图2-1所示。图2-1 LVQ网络结构图输入向量输入层隐含层

21、输出层参考向量LVQ神经网络由三层组成，即输入层、隐含层和输出层，网络在输入层与隐含层间为完全连接，而在隐含层与输出层间为部分连接，每个输出层神经元与隐含层神经元的不同组相连接。隐含层和输出层神经元之间的连接权值固定为1。输入层和隐含层神经元间连接的权值建立参考矢量的分量（对每个隐含神经元指定一个参考矢量）。在网络训练过程中，这些权值被修改。隐含层神经元（又称为Kohnen神经元）和输出神经元都具有二进制输出值。当某个输入模式被送至网络时，参考矢量最接近输入模式的隐含神经元因获得激发而赢得竞争，因而允许它产生一个“1”，而其它隐含层神经元都被迫产生“0”。与包含获胜神经元的隐含层神经元组相连接

22、的输出神经元也发出“1”，而其它输出神经元均发出“0”。产生“1”的输出神经元给出输入模式的类，由此可见，每个输出神经元被用于表示不同的类。2.1.2 LVQ神经网络的学习算法LVQ神经网络算法是有教师状态下对隐含层进行训练的一种学习算法，是从Kohonen竞争算法演化而来的。向量量化的思想是将几个数据归到一起，进行模式分类，因此LVQ算法可以认为把自组织特征映射算法改良成有教师学习的算法。LVQ神经网络算法可分为LVQ1算法和LVQ2算法两种。1. LVQ1算法LVQ网络与自组织特征映射网络相同，为双层网络结构。因为LVQ网络是以模式分类为目的，一般第2层比第1层的神经元个数少，同一层的神经

23、元之间没有结合。在LVQ中，第2层各个神经元有各自的领域。根据第1层和第2层之间的权值，输入向量可以被分到任意一个领域。Kohonen把自组织特征映射法改良成有教师学习算法，首先设计了LVQ1算法。LVQ1算法具体步骤如下：（1）网络初始化 用较小的随机数设定输入层和隐含层之间的权值初始值。（2）输入向量的输入 将输入向量送入到输入层。（3）计算输出层与输入层向量的距离 输出层第个神经元和输入向量的距离，与自组织化映射的情况相同，由下式给出： （2-1）式中输入层的神经元相映射层的神经元之间的权值。（4）选择与权值向量的距离最小的神经元 计算并选择使输入向量和权值向量的距离最小的神经元，如为最

24、小，则把其称为胜出神经元并标记为。（2-2）更新连接权值时，正确分类和不正确分类的权值调整更新公式是不同的，公式如下：（2-3）式中学习系数。如果是正确分类时，权值调整量采用式(2-2)。否则权值调整量采用式(2-3)。（5）是否满足预先设定的精度要求，满足时算法结束，否则返回（2），进入下一轮学习。2. LVQ2算法当LVQ1出现识别错误时，即当不应该胜出的神经元以微小的差别成为胜出神经元时，用LVQ2对其加以改良。这相当于输入向量恰好临近到两个神经元的领域的交界附近，以微小的差别进入到错误一方。具体算法中，（1）（4）与LVQ1算法相同。（1）更新链接权值 网络在正确识别时与LVQ1的情况

25、相同，根据式(2-2)进行权值的更新，当不应该胜出的神经元1以微小的差别成为胜出神经元2，且满足以下条件时： 神经元2是正确的。 神经元2与胜出神经元的差很小。对胜出神经元1和因微小差别而没有胜出的神经元2，根据式(2-3)进行权值的更新。（2）是否满足预先设定的精度要求，满足时算法结束，否则返回（2），进入下一轮学习10。2.2 MATLAB神经网络工具箱简介Matlab是美国MathWorks公司开发的用于教育、工程与科学计算的软件产品，它向用户提供从概念设计、算法开发、建模仿真到实时实现的理想集成环境。无论是进行科学研究、产品开发，还是从事教育事业，Matlab产品都是非常有效的工具。神

26、经网络工具箱是在Matlab环境下开发出来的许多工具箱之一。它以人工神经网络理论为基础，利用Matlab编程语言构造出许多典型神经网络激活函数，如S型、线性、竞争层、饱和线性等激活函数，使设计者对所选定网络输出的计算转变为对激活函数的调用。另外，可以根据各种典型的修正网络权值的规则，加上网络的训练过程，利用Matlab语言编写各种网络权值训练的子程序。2.2.1 LVQ神经网络学习算法的MATLAB实现MATLAB神经工具箱中提供的与算法相关的LVQ神经网络工具函数和基本功能如表2-2所示。在MATLAB的命令行窗口中输入“help lvq”，便可得到与LVQ神经网络相关的函数，进一步利用he

27、lp命令又能得到相关函数的详细介绍。表2-1 LVQ神经网络的重要函数和基本功能函数名功能函数名功能newlvq()建立一个LVQ神经网路函数ind2vec()将单值矢量组变换成下标矢量learnlv1()LVQ1权值学习函数plotvec()用不同的颜色画矢量函数2.2.2 BP神经网络学习算法的MATLAB实现MATLAB神经工具箱提供的与算法相关的BP神经网络工具函数和基本功能如表2-3所示。在MATLAB的命令行窗口中输入“help backprop”，便可得到与BP神经网络相关的函数，进一步利用help命令又能得到相关函数的详细介绍。表2-2 BP神经网络的重要函数和基本功能函数名功

28、能函数名功能newff()生成一个前馈BP网路logsig()对数S型（Log-Sigmoid）传输函数tansig()双曲正切S型（Tan-Sigmoid）传输函数traingd()梯度下降BP训练函数2.3 MATLAB图像处理工具箱简介图像处理工具箱（Image Processing Toolbox）提供一套全方位的参照标准算法和图形工具，用于进行图像增强、图像去模糊、特征检测、降噪、图像分割、空间转换和图像配准。该工具箱中的许多功能支持多线程，可发挥多核和多处理器计算机的性能。图像处理工具箱支持多种多样的图像类型，包括高动态范围、千兆像素分辨率、ICC兼容色彩和断层扫描图像。图形工具可

29、用于探索图像、检查像素区域、调节对比度、创建轮廓或柱形图以及操作感兴趣区域（ROI）。工具箱算法可用于还原退化的图像、检查和测量特征、分析形状和纹理并调节图像的色彩平衡11。 1. 图像采集与导出图像采集工具箱提供了大量的函数用于采集图像和视频信号。该工具箱支持的硬件设备包括工业标准的PC图像采集卡和相应的设备。Matlab的Image Processing Toolbox支持多种图像数据格式，这些图像文件格式主要有JPEG、TIFF、HDF、HDF.EOS和DICOM。同时，Matlab中还可以导入/导出AVI格式的数据文件，支持其他工业标准的数据文件格式。2. 图像分析与增强Matlab的

30、Image Processing Toolbox提供了大量的用于图像处理的函数，利用这些函数，可以分析图像数据，获取图像细节信息，并且设计相应的滤波算子，滤除图像数据所包含的噪声。图像处理工具箱还提供了Radon变换（来重构图像，而离散余弦变换（JPEG图像压缩核心算法）可以作为实现新的压缩算法的核心。 在图像处理工具箱中还包含了众多数学形态学函数，这些函数可以用于处理灰度图像或者二值图像，可以快速实现边缘检测、图像去噪、骨架提取和粒度测定等算法。此外还包含一些专用的数学形态学函数，例如填充处理、峰值检测、分水岭分割等，且所有的数学形态学函数都可以处理多维图像数据。3. 图像处理图像处理工具箱

31、提供了很多高层次的图像处理函数，这些函数包括排列、变换和锐化等操作。同样，利用这些函数能够完成裁减图像和尺寸变换等操作。4. 数据可视化Matlab本身就是功能强大的数据可视化工具，可以通过各种形式显示分析数据，例如灰度直方图、等高线、蒙太奇混合、像素分析、图层变换及材质贴图等。利用可视化的图形，不仅能够评估图形图像的特性，还能够分析图像中的色彩分布情况。5. 算法开发与发布Matlab允许用户自己开发算法，并且将其封装起来，不断扩展到工具箱函数中。此外，也可以在支持Matlab的平台上共享用户所开发的算法，并将算法同已有的C代码结合在一起，完成算法的发布工作。除此之外，Matlab还可以将用户开发的GUI、图像处理算法等应用程序发布为C或者C+源代码，进而编译生产COM组件或者Java接口，将Matlab开发的算法同其他开发工具结合起来。Matlab为用户提供了特殊的函数