矩阵及其特征值计算.pdf

矩阵及其特征值计算.pdf

《矩阵及其特征值计算.pdf》由会员分享，可在线阅读，更多相关《矩阵及其特征值计算.pdf（105页珍藏版）》请在冰点文库上搜索。

第第55章章矩阵及其特征值计算矩阵及其特征值计算第第55章章矩阵及其特征值计算矩阵及其特征值计算11特征值性质及其估计特征值性质及其估计2幂法及反幂法幂法及反幂法2幂法及反幂法幂法及反幂法3QR方法方法3QR方法方法矩阵计算的基本问题矩阵计算的基本问题线性方程组解线性方程组解?

线性方程组解线性方程组解?

超定方程组的二乘解超定方程组的二乘解bAx=2|bAxmin?

超定方程组的二乘解超定方程组的二乘解?

矩阵特征值和特征向量矩阵特征值和特征向量xAx=2|bAxmin?

矩阵特征值和特征向量矩阵特征值和特征向量xAx=一一、问题问题一一、问题问题矩阵的特征值与特征向量理论有着非常广泛的应用矩阵的特征值与特征向量理论有着非常广泛的应用，矩阵的特征值与特征向量理论有着非常广泛的应用矩阵的特征值与特征向量理论有着非常广泛的应用，如工程技术领域中的振动问题和稳定性问题，数学领域如工程技术领域中的振动问题和稳定性问题，数学领域中方阵的对角化、偏微分方程组的求解等问题都会用到中方阵的对角化、偏微分方程组的求解等问题都会用到该理论该理论。

该理论该理论。

4矩阵特征值矩阵特征值AxAx=?

求绝对值最大的特征值?

求全部特征值5设设为为阶方阵阶方阵，如果存在数如果存在数和和维维非零非零向量向量二、特征值与特征向量二、特征值与特征向量设设A为为n阶方阵阶方阵，如果存在数如果存在数和和n维维非零非零向量向量X则称数则称数为方阵为方阵A的的特征值特征值，非零使得，非零使得AX=X，向量向量X称为称为A的属于特征值的属于特征值的的特征向量特征向量。

注意注意

（1）特征值可以为零；比如，若X是矩阵A的属于特征值0的特征向量，

（2）属于同一个特征值的特征向量不是惟一的。

比如，若X是矩阵A的属于特征值0的特征向量，则也是A的属于特征值0的特征向量。

）0（kXk6定义1定义1已知n阶矩阵A=（aij），则（ij）det）det（）（2222111211aaaaaaAInnLLdet）det（）（21=aaaAILMOMM）2（）（1221121的项次数+=的项次数+=naaaaaannnnnnnnL称为A的特征多项式.A的特征方程一般有个根实的或复的，重根按重数计算称为的A的特征方程）1.1（0）det（）（=AI一般有n个根（实的或复的，重根按重数计算）称为A的特征值.用（A）表示A的所有特征值的集合.特征值用（）表示的所有特征值的集合注：

当A为实矩阵时，（）=0为实系数n次代数方程，其复根是共轭成对出现.8设为A的特征值，相应的齐次方程组设为A的特征值，相应的齐次方程组）2.1（0）（=xAI）（）（的非零解x称为矩阵A的对应于的特征向量.9例例1求A的特征值及特征向量，其中012例例1求A的特征值及特征向量，其中=210131A210解解矩阵A的特征方程为131012）det（）（AI解解矩阵的特征方程为210131）det（）（=AI.0）4）

（2）（1（814723=+=+=求得矩阵A的特征值为：

求得矩阵A的特征值为：

.4,2,1=对应于各特征值矩阵A的特征向量分别为：

对应于各特征值矩阵A的特征向量分别为：

111.12,10,11321=xxx111计算问题计算问题关于计算矩阵A的特征值问题，当n2,3时，我们还可按行列式展开的办法求（）=0的根.但当n较大们还可按行列式展开的办法求（）0的根.但当n较大时，如果按展开行列式的办法，首先求出（）的系数，再求的根，工作量就非常大，用这种办法求矩阵再求（）的根，工作量就非常大，用这种办法求矩阵的特征值是不切实际的，由此需要研究求A的特征值的特征值是不切实际的，由此需要研究求的特征值及特征向量的数值解法.下面叙述有关特征值的一些结论：

三、基本性质三、基本性质定理1设为ARnn的特征值,且Ax=x（x0），下面叙述有关特征值的一些结论：

则有为的A特征值（0为常数）；-p为A-pI的特征值，即（A-pI）x=（-p）x；c为的cA特征值（c0为常数）；-p为A-pI的特征值，即（A-pI）x（-p）x；k为Ak的特征值，即Akx=kx；为的特征值，即；设A为非奇异矩阵，那么0,且-1为A-1的特征值，即A-1x=-1x.定理2设i（i=1,2,L,n）为n阶矩阵A=（aij）的特征值，则有则有）（Atraniiinii=11称为A的迹；ii=11.nAL21=定理3设ARnn，则有定理3设AR，则有.）（）（AAT=定理4设A为分块上三角矩阵，即定理4设A为分块上三角矩阵，即mAAAL11211,=mAAAMOL222mmA其中每个对角块Aii均为方阵，则.）（）（iiniAAU1=15定理5设A与B为相似矩阵（即存在非奇异矩阵P使B=P-1AP），则使BP-AP），则A与B有相同的特征值；如果是的特征向量，则是的特征向量如果y是B的特征向量，则Py是A的特征向量.定理5说明，一个矩阵A经过相似变换，其特征值不变值不变.定理6ARnn可对角化，即存在非奇异矩阵定理6ARnn可对角化，即存在非奇异矩阵P使=APP211,=nAPPO的充分必要条件是A具有n个线性无关的特征向量.n如果ARnn有m个（mn）不同的特征值1,2,L,m，则对应的特征向量x1,x2,L,xm线性无关.定理7（对称矩阵的正交约化）设AR为对称定理7（对称矩阵的正交约化）设ARnn为对称矩阵，则A的特征值均为实数；A有n个线性无关的特征向量；存在一个正交矩阵P使的1A有n个线性无关的特征向量；,=TAPPO2且为A的特征值，而P（uuu）列向量n且1,2,L,n为A的特征值，而P（u1,u2,L,un）列向量uj为A的对应于j的单位特征向量.下面讨论矩阵特征值界的估计四、特征值估计四、特征值估计定义3设n阶矩阵A=（a），令下面讨论矩阵特征值界的估计.定义3设n阶矩阵A（aij），令）（niarnL21=；）.,（niarijjijiL211=；集合称为复平面上以a为圆心，以r为半径的n阶矩阵A的n）,（,|niCzrazzDiiiiL21=为复平面上以aii为圆心，以ri为半径的n阶矩阵A的n个Gerschgorin（格什戈林）圆盘.定理8（Gerschgorin圆盘定理）定理8（Gerschgorin圆盘定理）设n阶矩阵A（a），则A的每一个特征值必属n设n阶矩阵A（aij），则A的每一个特征值必属于下面某个圆盘之中）.,（niaranijjijiiiL211=ij或者说A的特征值都在n个圆盘的并集中.如果A有个圆盘组成一个连通的并集S，且S如果A有m个圆盘组成一个连通的并集S，且S与余下n-m个圆盘是分离的，则S内恰包含A的m个特特别地，如果A的一个圆盘Di是与其它圆盘分离征值.特别地，如果A的一个圆盘Di是与其它圆盘分离（即孤立圆盘），则Di中精确地包含A的一个特征值.这说明，A的每一个特征值必位于A的一个圆盘中，并且相应的特征值一定位于第k个圆盘中（其中k中，并且相应的特征值一定位于第k个圆盘中（其中k是对应特征向量x绝对值最大的分量的下标）.21利用相似矩阵性质，有时可以获得A的特征值进一步的估计，即适当选取非奇异对角阵一步的估计，即适当选取非奇异对角阵111,121=DO1n并做相似变换适当选取jijaADD1）21（niL=并做相似变换.适当选取可使某些圆盘半径及连通性发生变化.nnijjADD=1）,2,1（niiL=例估计矩阵的特征值范围，其中014例2估计矩阵A的特征值范围，其中.411101=A411解矩阵A的3个圆盘为.24:

2:

14:

321+DDD）.,（niaranijiiiL21=）.,（niaraijjijiii211=由定理，可知的个特征值位于个圆盘的并由定理8，可知A的3个特征值位于3个圆盘的并集中，由于D1是孤立圆盘，所以D1内恰好包含A的一集中，由于D1是孤立圆盘，所以D1内恰好包含A的一个特征值1（为实特征值），即53.531的其它两个特征值包含在的并集中A的其它两个特征值2,3包含在D2,D3的并集中.24现在取对角阵现在取对角阵0100011D,9.0000101=D做相似变换014.490900191011=ADDAA49.09.0矩阵A1的3个圆盘为.8.14:

919:

14:

321+EEE显然，3个圆盘都是孤立圆盘，所以，每一个圆盘都包含A的一个特征值（为实特征值），且有估计盘都包含A的一个特征值（为实特征值），且有估计,531,919919,21.2.28.5993定义4设ARnn为对称矩阵，对于任一非零向量x，称,）（）,（）（xAxxR=）,（xx为对应于向量x的瑞利（Rayleigh）商.为对应于向量的瑞利（yg）商定理9设ARnn为对称矩阵（其特征值次序记定理9设ARnn为对称矩阵（其特征值次序记为12Ln），则1.（对任何非零xRn）；1）,（）,（xxxAxn2.；）,（）,（maxxxxAxxRxn01=x03.）,（）,（minxxxAxxRxnn0=x0281特征值性质及其估计特征值性质及其估计2幂法及反幂法幂法及反幂法2幂法及反幂法幂法及反幂法3QR方法方法3QR方法方法幂法与反幂法都是求实矩阵的特征值和特征向量幂法与反幂法都是求实矩阵的特征值和特征向量的向量迭代法，幂法幂法是计算矩阵的主特征值（矩阵按模最大的特征值称为主特征值，其模就是该矩阵的谱半径）和相应特征向量的一种向量迭代法，反幂法反幂法则是计算非奇异可逆矩阵按模最小的特征反幂法反幂法则是计算非奇异（可逆）矩阵按模最小的特征值和相应特征向量的一种向量迭代法下面分别介值和相应特征向量的一种向量迭代法.下面分别介绍幂法与反幂法.一、幂法（又称乘幂法）一、幂法（又称乘幂法）设实矩阵A=（aij）有一个完全的特征向量组，即A有n个线性无关的特征向量，设矩阵A的特征值为A有n个线性无关的特征向量，设矩阵A的特征值为1,2,L,n,相应的特征向量为x1,x2,L,xn.已知A的主特征值1是实根，且满足条件）12（|）,2,1（nixAxiiiL=）1.2（|,|21nL现讨论求1及x1的方法.）,2,1（nixAxiii实例实例：

实例实例：

31A矩阵=,22A矩阵：

.23-111-4，：

；它对应的特征向量为，特征值：

21机向量我们对矩阵乘以一个随=55x假如：

325110531,011001055223101=Axx,15.02020100102231022=xAx617010311200223,7670607020102231033=xAx,26252602507031044=xAx33,126260260602204xAx?

幂法是利用矩阵的高次幂乘上一个向量，它一般将随着幂次的增大而转化成特征向量。

随着幂次的增大而转化成特征向量。

?

幂迭代的动机是通过乘以一个矩阵来把向量朝主特征向量方向移动。

征向量方向移动。

34幂法的基本思想是:

任取非零的初始向量v0由矩幂法的基本思想是:

任取非零的初始向量v0,由矩阵A构造一向量序列vk,201=vAAvvAvv）2.2（.,012=vAAvv,011=+=+vAAvvkkk称为迭代向量，由假设，v0可唯一表示为.）3.2（）,0（122110+=axaxaxavnn设设L称为迭代向量，由假设，0可唯一表示为于是于是22211101kkkkkkxaxaxavAAvv+=L）（）/（22211101knkknnnkkxaxaxaxaxaxavAAvv+=+）.（）/（11121111kiiiixaxaxa+=其中）/（nk其中.）/（21=iikiikxa由假设故从而）32（1/niL=,0lim=k由假设故从而）,3,2（1/1nii=|2|L|n|，则对任何非零向量v0（a10），幂法的算式成立则对任何非零向量v0（a10），幂法的算式成立.如果A的主特征值为实的重根,即1=2=L=r,且又设A有n个线性无关的特征向量，1对应的r个线性|r|r+1|L|n|，又设A有n个线性无关的特征向量，1对应的r个线性无关的特征向量为x1,x2,L,xr，则由（2.2）式有,）/（110+=nikiiriikkkxaxavAv11+=riirrkv设设）.0（lim111=iiiiiikkkxaxav设设为A的特征向量，这说明当A的主特征值是实的重根时，定理5的结论还是正确的定理5的结论还是正确的.41应用幂法计算的主特征值及其对应的特征向二、规范化二、规范化应用幂法计算A的主特征值1及其对应的特征向量时，如果|1|1（或|1|111kkvx1|1,1|10,|2|L|n|，则对任意非零初始向量（0），有幂法计算公式为0向量v0=u0（a10），有幂法计算公式为）92（,0100=kkAuvuv（）9.2（）,2,1（,max=向量的规范化kk/vukvL.=向量的规范化kkk/vu则有lim1xu=,）max（lim1xukk=.lim1=k.lim1kk用幂法求例例335.011用幂法求例例3322505025.011=A.225.05.0特征向量的按模最大特征值及其A=110.5;11.25;.5.252u=1,1,1v=A*u,v1=max（v）,u=v/v1直到k20时的计算结果见下表直到k=20时的计算结果见下表kUk（规范化向量）Max（vk）kUk（规范化向量）Max（vk）015（111）（0.90910.81821）（07651066741）2.75000002558791851020（0.76510.66741）（0.74940.65081）（07482064971）2.55879182.53800292536532320（0.74820.64971）2.5365323,5365323.21得到特征值：

从而（）Tx1,6497.0,7482.01相应的特征向量为：

三、幂法的加速方法三、幂法的加速方法1、原点平移法1、原点平移法由前面讨论知道，应用幂法计算A的主特征值的收敛速度主要由比值|/|来决定，但当接近于1收敛速度主要由比值r=|2/1|来决定，但当r接近于1时，收敛可能很慢.这时，一个补救办法是采用加速收敛的方法.引进矩阵A-其中p为参数，设A的特征值为i，则对矩阵B的特征引进矩阵B=A-pI.其中p为参数，设的特征值为i，则对矩阵的特征值为i-p，而且A,B的特征向量相同.如果要计算A的主特征值只要选择合适的数p，如果要计算A的主特征值1,只要选择合适的数p，使1-p为矩阵B=A-pI的主特征值，且22maxppini112pni那么，对矩阵B=A-pI应用幂法求其主特征值1-p,收那么，对矩阵-p应用幂法求其主特征值1-p,收敛速度将会加快.这种通过求B=A-pI的主特征值和特征向量，而得到A的主特征值和特征向量的方法叫原征向量，而得到A的主特征值和特征向量的方法叫原点平移法.对于A的特征值的某种分布，它是十分有效的.例4设AR44有特征值例4设AR有特征值）,4,3,2,1（15=jji比值做变换比值r=|2/1|0.9.做变换B=A-12I（p=12）,则B的特征值为1012.1,0,1,24321=应用幂法计算B的主特征值的收敛速度的比值为应用幂法计算B的主特征值1的收敛速度的比值为1p.9.021121212L则对实数，使矩阵-的主特征值为-或-时，则对实数p，使矩阵A-pI的主特征值为1-p或n-p时，当我们计算1及x1时，首先应选取p使ppn1且使收敛速度的比值当我们计算1及1时，首先应选取p使且使收敛速度的比值2pp.min,max112=ppppn显然，当2-p=-（n-p）时，即P=（2+n）/2P*时为最小值，这时收敛速度的比值为为最小值，这时收敛速度的比值为.222nnpp=22111npp当A的特征值都是实数，满足且能初步估计出来，我们就能确定P*的近似值nn121L且2,n能初步估计出来，我们就能确定P*的近似值.当希望计算时，应选取当希望计算n时，应选取p=（1+n-1）/2P*使得应用幂法计算n得到加速.57用带原点平移的幂法求2例例用带原点平移的幂法求250115.0112A例例225.05.025.011=A则解：

作变换。

量。

取的主特征值及其特征向pIAB75.0=p25.025.015.010.25B=应用幂法。

对B25.125.05.0应用幂法。

对BkUk（规范化向量）Max（vk）0（111）567（0.75160.65221）（0.74910.65111）（07488065011）1.79140111.788844317873300789（0.74880.65011）（0.74840.64991）（0.74830.64971）1.78733001.78691521.7866587，的主特征值为的主特征值为可以看出可以看出7865914.1B110（0.74820.64971）1.7865914）特征向量为特征向量为（的主特征值为的主特征值为，的主特征值为的主特征值为可以看出可以看出164970748205365914.275.0A7865914.1B111=+=+）特征向量为特征向量为：

（16497.07482.0原点位移的加速方法，是一个矩阵变换方法.这种变换容易计算，又不破坏矩阵的稀疏性，但的种变换容易计算，又不破坏矩阵A的稀疏性，但p的选择依赖对A的特征值分布的大致了解。

选择依赖对的特征值分布的大致了解。

2、瑞利商（Rayleigh）加速设ARnn为对称矩阵，称2、瑞利商（Rayleigh）加速设AR为对称矩阵，称.）（）,（）（xAxxR=）,（）（xx为向量x的瑞利商，其中（xx）=xTx为内积由定理11为向量x的瑞利商，其中（x,x）=xTx为内积.由定理11知道，实对称矩阵A的特征值1及n可用瑞利商的极限值表示.下面我们将瑞利商应用到用幂法计算实对称矩阵A的主特征值的加速上来对称矩阵A的主特征值的加速上来.定理设为对称矩阵，特征值满足定理14设ARnn为对称矩阵，特征值满足L对应的特征向量xi满足（xi,xj）=ij（单位正交向量），,121nnL对应的特征向量i满足（i,j）ij（单位正交向量），应用幂法公式（2.9）计算A的主特征值1，则规范化向量的瑞利商给出的较好的近似值为向量uk的瑞利商给出1的较好的近似值为（）kA2（）（）（）（）+=+=kkkkkuuuAuuR121,（）kk1,由此可见，R（uk）比k更快的收敛于1.幂法的瑞利商加速迭代公式可以写为幂法的瑞利商加速迭代公式可以写为=kkAuv1=kkkkkkuv）,2,1（）（）,（11L=kkkkkkvuuu/）（）,（11kkk其中A为n阶实对称矩阵.对给定的误差限，当|kk-1|nnLxxAxAx11其相应的特征向量x1,x2,L,xn线性无关，则A-1的特征iiiiiixxAxAx=值为1/i，对应的特征向量仍为xi（i=1,2,L,n）.此时A-1的特征值满足从而求得A的按模最小此时,A-的特征值满足111从而求得A的按模最小特征值11111Lnnn1/k因此,对A-1应用幂法,可求出其主特征值和对应的特征向量可求出其主特征值1/nkxnuk，/nk和特征向量这种求A-1的方法就称为反幂法xnuk.为反幂法.反幂法的迭代公式为11=uAvkk反幂法的迭代公式为（）,2,1（maxL=k/vkk=/vukkk为了避免求A-1,可通过解线性方程组Avk=uk-1得到vk，采用LU分解法，即先对A进行LU分解A=LU此时反幂采用LU分解法，即先对A进行LU分解A=LU,此时反幂法的迭代公式为=zuLz求出求出解解（）21,1=kvzUvzuLzkkkkkk求出解求出解求出求出解解kn,1（）（）L,2,1/max=kvuvkkknkux/=vukkk67对给定的误差，当|kk-1|n|0，则对任意非零初始向量u0（an0），由反幂法计算公式构造的向量序列v，u满足式构造的向量序列vk，uk满足,limnkxu=,）max（limnkkxu1）max（limv=.）max（limnkkv=在反幂法中也可以用原点平移法加速迭代过程，或求在反幂法中也可以用原点平移法加速迭代过程，或求其它特征值与其对应的特征向量.如果矩阵（A-pI）-1存在，显然其特征值为,1,1,121pppnL21pppn如果p是A的特征值j的一个近似值，且设j与其它pjj特征值是分离的，即）（ji70）,（jippij对应的特征向量仍然是，现对矩阵-应对应的特征向量仍然是x1,x2,L,xn，现对矩阵（A-pI）-1应用幂法，得到反幂法的迭代公式0=vu初始向量初始向量）122（）21（,）（,01100L=kupIAvvukk初始向量初始向量）12.2（）.,2,1（）max（/.L=kvu）max（/=vukkk就是说1/（j-p）是矩阵（A-pI）-1的主特征值，可用反幂法（212）计算特征值及特征向量法（2.12）计算特征值及特征向量.设ARnn有n个线性无关的特征向量x1,x2,L,xn，12n则n）,0（10=jiiiaxau,）（）（）1（0IAupIAvkkk=）max（0）1（upIAk）（0upIAuk,）max（00upIAukk=其中n.）（）（10=niikiikxpaupIA同理可得：

定理16设ARnn有n个线性无关的特征向量，矩阵A的特征值及对应的特征向量分别记为i及xi（i=12Ln），而p为的近似值，（A-pI）-1存在，且（i=1,2,L,n），而p为j的近似值，（A-pI）-存在，且.）（|jippijnL

（2）A有标准型AXDX1其中Ddi（）

（2）A有标准型A=XDX-1,其中D=diag（1,2,Ln）,且设X-1有三角分解X-1=LU（L为单位下三角阵，U为上三角阵），则由QR算法产生的Ak本质上收敛于上三角矩阵，即角矩阵，即1L）（2时当时当本质上本质上=kRAkMOLn若记A（k），则若记Ak=（aij（k），则

（1）;lim）（ka

（1）;lim）（iiika=

（2）当ij时，）3.4（;0lim）（=kijka（）jijk当ij时aij（k）的极限不一定存在.88定理21如果对称矩阵对称矩阵A满足定理20的条件,则由QR算法产生的A收敛于对角阵D=diag（L）QR算法产生的Ak收敛于对角阵Ddiag（1,2,Ln）.131012QR的全部特征值方法求利用=A例4例4410QR=qr（A）,A=R*Q,90二、二、Gram-schmidt正交正交12,（）（12）nTAnAaaaaaaajn=LLL设为阶非奇异实矩阵，记其中12（,）（1,2,）.jjjnjaaaajn=LL/baa=取1112122211212/.,baaaabaabbaa=取22211212121,aaa212111,/aaaabbbbbbb=取则2221212/,1,0.bbbbbbb=取则1,kkkkiibaabb=一般地取1/（2,3,）ikkkbbbkn=L12,1（1,2,）nkbbbbkn=LL则向量组正交，且即1111,kkkkkkkaabbabbbb=+L即921212,nnAaaabbb=LL于是12121211,nnnaababbabL22,nbabQR=LOM11,nnnnbabbQRnbSchmit这就是用正交化方法对矩阵进行的分解。

93基本QR方法