第二章正交变换KL变换与离散余弦变换.docx
《第二章正交变换KL变换与离散余弦变换.docx》由会员分享，可在线阅读，更多相关《第二章正交变换KL变换与离散余弦变换.docx（12页珍藏版）》请在冰点文库上搜索。
第二章正交变换KL变换与离散余弦变换
第二章
正交变换.K-L凭换
与离散余弦凭换
Chapter2OrthogonalTransform,K-L
TransformandDiscreteCosineTransform
本章主要内容
•信号矢量空间的概念
•正交分解和正交变换
•K丄分解
-DCT变换
1信号矢量空间的概念
1.1空间的基本概念
-从数学的观点看，“集合”等效于空间。
比如，实数集合构成一维实数空间，记为R1,复数集合构成一维复数空间，记为CI。
-一般我们研究的是带有一沱规律的“空间”，最常见的是“线性空间"。
粗略的说，线性空间指这样一种集合，其中任意两元素的线性组合得到集合内的另一元索。
-把集合中的元索和信号之间建立对应关系，我们就町以把线性空间理解为信号欠呈空间。
1.2常见的线性空间
N维实数空间RN和N维复数空间CN连续时间信号空间厶定义在复数或实数域上，时间变fi为实数；无穷维空间离散时间信号空间/，定义在复数或实数域上，自变量为整数：
无穷维空间或有限维空间
1.3范数（norm）
•范数足欠呈长度的度址，与信号的能量特性和关
=0iff.v=0
-线性空间中元索X的范数以符号1出1表示，满足以下公理
（1）半正定性：
X>0,
（3）三角不等式：
|卜亠片引卜卜|卜
1.4RN和CN的范数
•空间元素*=（.—••,6）的P（卩为实数）阶范数定义为：
-常用范数为一阶，二阶和无穷阶范数，其中在两维或三维实数空间中，二阶范数就是矢S的长度，称为欧式（Euclidean）范数或欧式矩。
1.5乙和/的范数
supx（f）.
1・6信号空间1、2和oo阶范数的
物理意义
-信号作用的强度
xU）dr
-信号的能量
-信号的幅度
=sup{x（Z）}
1.7赋范线性空间
-定义了范数的线性空间称为赋范线性空间。
-常见的信号空间：
J={-V:
S<8几IlI为/y
2V8>},XJX（/7）iiZ7j12
乙9={兀：
-注意：
厶和/不是赋范空间，必须按照范数〃在的三条公理是义了某种形式的范数才使得相应的线性空间成为赋范线性空间C
1・8内积（innerproduct）
-范数是矢®氏度概念的推广，是信号矢虽口身的重耍性质。
为研究信号欠暈之间的相互关系，需要引入内积的概念。
-内积的泄义：
对线性空间中任M两个元索X和”存在一个数VX』＞（对泄义在实数域上的空间，这是一个实数.対定义在复数域上的空间，这是一个复数），这个数满足一些特泄的公理，我们称＜A；y＞是X和y的内积O
1・9定义在实数域的空间
内积满足的公理
•口内积正定性：
〈’Qn（）；〈*,Q=（）疗x=（）
・交换律：
〈兀,"=〈”X
•齐次性（齐性）：
〈兄2〉=殆」）・*€尺
•分配律2〈K+儿Z）=gz〉+〈儿》＜足空间刃•个元素
1.10定义在复数域的空间
内积满足的公理
•口内积正定性：
=（）///•x=0
•共純交换律：
•齐次性（齐性）:
（Ax,.V）=Z（.v,y）.VA€C
•分配律J〈・•+y・z）=〈K・z〉十〈儿乙＞:
足空间刃•个元索
1.11内积空间
-定义了内积的线性空间成为内积空间，定义在实数域上的内积空间称为实线性空间,也叫欧儿里徳空间（EuclideanSpace）；定义在复数域上的内积空间称为复线性空间,也叫酉空间（UnitarySpace）。
1・12希尔伯特空间（H空间）
•A：
1.13厶和Z的内积
V'）=J^x（z）V*（Z）J/
&，y〉=艺兀（财）〉「（并）
-出沱义可见：
信号自内积运算必为实数，并Ft等于它的二阶范数的平方。
1.14关于内积的柯西■施瓦茨不等式
•吝町知，对于厶和/空间，任意两
争S伙屮积有可能为无穷大，W此，厶和/第软怦气甲空眇而对于能最受限的厶2化2仝冋，其二阶范数都是育限值，因泌内积白限，构成内积空间。
2信号的正交函数分解
2.1正交函数及正交分解定义
-在信号矢呈空间内，若两函数内积为零则构成正交函数。
-若有一组函数｛摘⑴化"），…化（川，任意两函数的内积为零，则其构成一个正交函数集。
•在同一空间内，任一函数町由这《个互相止交的函数线性组合逼近：
/（/）忌C|g|（f）+C2£2（f）+…
-:
rt中系数山下式确定：
〈"）也（小
*仏"）・尺f（f）〉
2・2完备正交函数集
•如果增加止交函数的个数并，用更多项数來逼近/⑴，如杲A2（可以为无穷人）足够人时,逼近的误差等F零，则称这一组正交函数集是完备的。
-常见的完备止交函数集：
三角西数集，复指数函数朵，勒让德（Legendre）多项式，切比雪夫（Chebyshev）多项式，沃尔什（Walsh）函数集。
2.3H空间中的正交变换
•设X和Y为两个H空间，欠量xex,欠SyeY,若将X变换到y,有关系式
y=AX
•4为线性算了，完成的是线性变换，若有
=vx,x>=vy,y>,贝ij变换前后，二阶范数保持不变，这是一种止交变换，止交变换保持了变换前后的能量相同。
-若X和y都是NX1的矢a,那么算了A实际上是一个NXN的矩阵，对于正交变换，它足一个正交矩阵。
•如來矩阵C是实对称的，则必冇正交矩阵A存在，使得
.V-1
英中入是矩阵C的实特征值0
-正交变换是线性变换，门•变换前后能量不变（Parseval/i^理）
•反变换存在且唯一
•反变换矩阵是变换矩阵的转置，计算方便
•止交变换町以将一个实对称矩阵对角化，便于进行数据压缩
3K・L变换
•K-L变换是Karhunen-Loeve变换的简称，通常被称为“垠住变换"，这是因为K-L变换能彻底左除涪号中的相关性，R具有瑕佳统计特性。
-K丄变换的思想：
寻求正交矩阵A使变换后信号对应的协方差矩阵为对角矩阵。
对于均值为从的平稳随机向量X,协方差矩阵定义为（注意它的对称性和半止定性）
C,=£［（兀一“,）（兀一“丿「］
c
JN-XN-\
Jj=一“x）（x（J）-“丿］
3.1K丄变换步骤:
①由久的N阶多项式|V-Cvl=0,求矩阵Cx的特征值
心入N-1；心>入］>嘉>…>I；
②C3/=M,-求矩阵G的n个特征向量
A。
，AI,...,An・i；
③4o，…，4n・i归一化，令〈C=l,z=O,...,A^-l；
④构成4,A=So,…，An-iF
⑤由尸实现对信号的K・L变换。
3.2K-L变换的性质
逆变换可表示为：
X—A^y—IA0JAIJ...,^N-ily
=y（O）Ao+y
（1）A】+…+.y（N・1Mg
N-\
=ZW）比
f=0
数据压缩截断后为:
m
1=0
均方误差定义为：
8-E[{x—{x-X）]
对零均值平稳过程，截断的最小均方谋差为:
N-1
^,nin=Z几i兄1>久2>->入Z
3.3K-L变换的优缺点
优点:
①完全去除原信号兀中的相关性;
②进行数据压缩时将y（n）截短所得的均方课差最小；
③人）>九1>入2>…>兀，将入血1以后舍去,保留了最人的能量，即保留了原信号的最大能S。
①特征值与特征向量计算比较困难;
②尚无快速算法。
4离散余弦变换
4.1定义：
Ahmed和给出（1974）,对给定序列_v（n）,n=0丄…AM'ttDCT为（DCT-II型定义）
{1二'
Xc（O）=—V-v（zi）
yjN„.o
I二*（2h+1）M
!
Xc（k）=a〒Zx（"）cos―—仏=1,2,…，N-1）
或写成
N7
XcZ=Zq”"”）
zi=O
变换的核函数Cr/为
（2"+l）眩RJ二0丄N-1
2N
写成矩阵形式:
2=8
J7[cos7;r/16cosl05;r/16]
IDCT,
4.2DCT的特点（对相邻元素相
关性较强的•阶Markov过程）
（1）有效去除原信号中的相关性,是K・L变换的有效近似；
（2）进行数据压缩时，将变换序列截短所得的均方误差较小；
那么将X如，…，Xn・]舍
X|,…，Xm保留了最
（3）若将DCT变换结果按大小顺序排列，即X（EX[2…二XN.1,左丿11,将余卜iKjXo，大的能量。
这一点是用DCT变换进行数据压缩的基本原理。
此外，山丁T>CT变换有快速算法，因而DCT变换已成为广为应用的一类正交变换，冃前0（3丁在语音、图彖的处理屮已取得了显苦的成果。
4.32N点FFT来实现DCT
令天（加=O,n=N,…2N-1
DCTiiJ写成（k>0）
2N-I
-Jkfr/2N
rt=o
上式告诉我们，计算一个N点的DCTiiJ通过
2N点FFT来实现，步骤是：
⑴将兀S）补N个零形成2N点序列PnS）；
（2）用FFT求勺血）的DFT,得幻；
⑶将X2血）乘以丘一恥处，然后取实部,得畑幻；
（4令x,.（（））=2,（））
X川2点X显）
即完成N点的DCT计算
4.4N点FfT来实现DCT
Ats/V—1/cI\/
'（2/Z+1）眩
F伙）=〉x（/?
）cos斤=（）丄…，iV-l
J7AZ
rt=O乙/V
F伙）和X"）的差别只在于定标系数，现由x（n）构应一个N点新序列y（九）,
y（/7）=x（2n）
）'（N—1—兀）=x（2n+1）舁=（）,1,…,N/2—1
显然，yS）的前半部（（）〜N/2・l）是x（z2）屮的偶序号点，后半部（N/2~N—1）是班“）的奇序号点，但次序要倒排，这样
F心f）心⑷5叮壬皿亠讥。
严
二•2N幺2N
对后一项做变量代换，令r=N-\-n
（4z7+l）Jt;r氢*（4r+l）Jt;r
>>（«）cos+Xy（r）cos
匕2N仏2N
二（4n+V）k兀
F（k）=yy（H）cos
J.2N
N-I-i—nk
H（k）=yy{n）e"
zi»O
厂伙）=Re{H（k）}
将F伙）乘以定标因子，即得DCTXd◎这样用N点DFT可实现N点DCT的快速计算
5作业
•用MATLAB牛成一段信号，信号由一个单频信号和噪声叠加而成，分别通过K-L变换,DCT变换和DFT变换处理该信号，对处理结果进行截取，再进行反变换，看看反变换结果和原信号差异有多大。
改变单频信号的频率，重复上述过程观察三种变换结果的差开。
升级会员 