现代数字信号处理-第二章-2016.pptx

现代数字信号处理-第二章-2016.pptx

《现代数字信号处理-第二章-2016.pptx》由会员分享，可在线阅读，更多相关《现代数字信号处理-第二章-2016.pptx（73页珍藏版）》请在冰点文库上搜索。

1,第二章维纳滤波与卡尔曼滤波,2.1Wienerfilter介绍2.2Wienerfilter时域解2.3WienerfilterZ域解2.4Wienerfilter预测2.5Kalmanfilter,2,3,2.1Wienerfilter介绍,滤波与预测,滤波定义所谓滤波,是指在含噪信号x（k）=s（k）+v（k）或其矢量信号x（k）=s（k）+v（k）中尽可能排除噪声v（k）或v（k）干扰，而将有用信号s（k）或s（k）分离或提取出来。

滤波、预测与平滑设基于观测过程x（k）或矢量观测过程x（k），对s（k+）或s（k+）作最优估计，那么若=0，就是滤波问题。

若0，就是预测问题。

若0，就是平滑问题。

4,2.1Wienerfilter介绍,维纳滤波与卡尔曼滤波,维纳滤波（Wiener）设信号s（k）或s（k）及观测过程x（k）或x（k）是广义平稳的,且已知其功率谱或自相关函数的知识，则基于观测过程x（k）或x（k），按线性最小均方误差估计准则，对信号s（k）或s（k）所作的最优估计称为维纳滤波,卡尔曼滤波（Kalman）设已知信号的动态模型测量方程，则基于过程x（k）及初始条件，按线性无偏最小方差递推估计准则,对状态s（k）所作的最优估计称为卡尔曼滤波.,5,2.1Wienerfilter介绍,维纳滤波与卡尔曼滤波的特点维纳滤波和卡尔曼滤波都是随机情况下最优滤波,特点是:

维纳滤波:

参数固定,适用于平稳随机情况下的最优滤波且实现简单；卡尔曼滤波:

参数时变,适用于非平稳随机情况下最优滤波且性能优越；维纳滤波与卡尔曼滤波的局限性只有在信号和噪声统计特性先验已知的情况下,这两种滤波器才能获得最优滤波。

在实际应用中,往往无法得到这些统计特性的先验知识,或统计特性随时间而变,这时就无法用这两种滤波器实现最优滤波。

6,一、随机信号的最优预测和滤波,自适应滤波器,自适应滤波器的特点在信号和噪声统计特性先验未知的情况下,自适应滤波器也能够提供卓越的滤波性能。

该滤波器的特点如下。

可自动调整其自身参数，使系统特性满足要求；只需很少或根本无需任何关于信号和噪声的先验知识；实现差不多象维纳滤波那么简单，性能接近卡尔曼滤波自适应滤波器的应用系统辨识与均衡（如信道估计与均衡）；雷达和声纳波束形成（beamforming）;噪声中信号的检测、跟踪、增强等；信号或时间序列的自适应预测；语音和图像的自适应预测编码。

7,问题描述考虑一般的线性离散时间滤波器。

设该滤波器的输入由x

（1）,x

（2）,组成，滤波器的脉冲响应w

（1）,w

（2）,。

令y（n）代表滤波器在时间n时的输出,希望它是期望响应d（n）的估计值。

估计误差e（n）定义为期望响应d（n）与滤波器输出y（n）之差,即对滤波器要求是使估计误差在某种统计意义下“尽可能小”。

2.2Wienerfilter时域解,8,2.1Wienerfilter介绍,线性最优滤波器（续）,对滤波器的约束滤波器是线性的。

一是为了使信号通过滤波器后不致于发生“畸变”；二是为了便于对滤波器进行数学分析.滤波器是离散时间的，便于系统数字硬件或软件实现.,设计准则:

估计误差在某种条件意义下尽可能小的滤波器称为这一统计意义下的最优滤波器。

最常用的最优准则是使某个代价函数最小化。

最典型的代价函数有：

估计误差的均方值（最常用的统计优化准则,即MMSE准则）估计误差绝对值的期望值估计误差绝对值的三次幂或高次幂的期望值,在此处键入公式。

9,10,WienerHopf方程,有约束条件，无法运用卷积定理z变换求解h（k）！

所以分因果和非因果没K0的约束，非实时：

IIRwiener实时情况则用长为N的有限长度序列来逼近计算量大！

增加h（n）的长度来提高精度，FIRwiener,11,2.3wiener滤波器Z域解,12,维纳滤波器输入输出关系,13,利用白化的方法求解维纳霍夫方程,14,15,噪声密度越大，H越小,16,IIR因果wiener滤波器,17,18,19,2.4Wiener预测,惯性：

x（n）各点相关，形成惯性预测可能一步预测,20,N步纯预测v（n）=0,最小均方差随N增大而增大W（n）对X（N）（s（n）的影响就统计平均为0，估算时只需考虑B（z）的惯性，默认有最小均方误差。

21,22,一步时域预测：

23,Wiener判定,24,25,26,27,TFRofeachHRECGrecordsEnsembleavg.ofeachTFR,Computeensembleavg.TFRofensembleavg.,EnhanceTFRstoattenuateVar&Interferenceterms,Cal.H（t,f）toapplyTFRofensembleavg.,ReconstructtimedomainsignalfrommodiefiedlinearTFR,2.5Kalman滤波器,以发明者Rudolf.E.Kalman而命名，但是在Kanlman之前，ThorvaldNicolaiThiele和PeterSwerling已经提出了类似的算法StanleySchmidt首次实现了Kalman滤波器。

在一次对NASAAmesResearchCenter访问中，卡尔曼发现他的方法对于解决阿波罗计划的轨迹预测很有用，后来阿波罗飞船导航电脑就使用了这种滤波器。

Swerling（1958）,Kalman（1960）,Kalman和Bucy（1961）发表的论文。

时域滤波器,28,29,问题定义,系统状态无法直接测量需要从测量模型中取得最佳估计,MeasuringDevices,Estimator,MeasurementErrorSources,SystemState（desiredbutnotknown）,ExternalControls,ObservedMeasurements,OptimalEstimateofSystemState,SystemErrorSources,System,BlackBox,30,船位置不知位置函数：

y（t）速度恒定测量分布符合高斯分布,y,31,T1测量:

Mean=z1andVariance=z1位置最佳估计:

（t1）=z1估计方差:

2x（t1）=2z1船t2时的位置-Predictedpositionisz1,ConceptualOverview,-（t2）测量值t2:

Mean=z2andVariance=z2根据测量值修正预测（t2）,预测-（t2）,测量z（t2）,修正所得即位置最佳估计新方差小于预测及测量方差,测量z（t2）,修正最佳估计（t2）,预测-（t2）,根据之前数据预测-,-,测量zk,z,最佳估计（）=预测+（KalmanGain）*（测量预测）,方差估计=方差预测*（1KalmanGain）,t3,船移动速度为dy/dt=u,（t2）,NavePrediction-（t3）,dy/dt=u+w,（t2）,NavePrediction-（t3）,预测-（t3）,测量t3修正预测重复前面步骤,预测-（t3）,测量z（t3）,修正最佳预测（t3）,38,测量仪器,Estimator,测量误差源,系统状态,外部控制,测量观察值,OptimalEstimateofSystemState,系统误差源,系统,黑盒子,39,问题小结,起始条件（k-1andk-1）预测（-k,-k）用起始条件和模型（例如匀速率）作预测测量（zk）修正（k,k）用测量值修正预测最佳估计,Kalman滤波器,40,41,42,43,BlendingFactor,Ifwearesureaboutmeasurements:

Measurementerrorcovariance（R）decreasestozeroKdecreasesandweightsresidualmoreheavilythanpredictionIfwearesureaboutpredictionPredictionerrorcovarianceP-kdecreasestozeroKincreasesandweightspredictionmoreheavilythanresidual,44,Kalman滤波,特点:

数学公式用状态空间描述解是递推计算，与wiener滤波不一样，期望响应未知采用最小二乘法,45,一个是n-1对n时刻估计值，一个是n时刻的测量值，估计值和测量值都存在误差，且误差都假设满足独立的高斯分布Kalman滤波器就是充分结合了估计值和测量值得到n时刻更接近真值的估计结果Kalman滤波器引入状态空间的目的是避免了“像Wiener滤波器一样需要对过去所有0,n-1时刻协方差先验知识都已知”，而直接可以通过上一时刻即n-1时刻的状态信息和均方误差信息就可递推得到n时刻的估计。

n-1对n时刻的估计实际上使用到了所有前0,n-1时刻的信息，信息一直通过最小均方误差进行传递到n-1时刻。

基于此，Kalman滤波也需要先验知识，即-1时刻的初始值。

46,假设状态空间的n-1时刻估计值和观测空间的n时刻测量值都满足独立高斯分布，Kalman滤波器就是通过高斯分布的乘积运算将估计值和测量值结合，获得最接近真值的n时刻估计。

高斯分布乘积运算的结果仍为高斯分布，高斯分布的均值对应n时刻的估计值，高斯分布的方差对应n时刻的均方误差。

47,48,49,QuickExampleConstantModel,LargervalueofRthemeasurementerrorcovariance（indicatespoorerqualityofmeasurements）,Filterslowertobelievemeasurementsslowerconvergence,50,Kalman滤波本质,并不直接估计观测信号，先估计状态信号获取wiener解的第归过程从某个初始状态启动,经迭代运算，最终达到稳态wiener状态,51,52,主要内容,随机信号的最优预测和滤波最优滤波理论与维纳滤波器横向LMS自适应数字滤波器横向RLS自适应数字滤波器自适应格型滤波器快速横向滤波（FTF）自适应算法无限脉冲响应自适应滤波器盲自适应信号处理自适应滤波器应用,53,自适应信号处理分类：

自适应天线及自适应滤波器自适应滤波器包括两个过程：

滤波过程和自适应过程。

此仅考虑后者,即滤波器的自适应实现问题；且主要考虑FIR滤波器的自适应实现，其关键是自适应算法。

FIR滤波器的自适应实现指的是：

M阶FIR滤波器的抽头权系数w1,wM-1可以根据估计误差e（n）的大小自动调节，使得误差在某个统计最优准则下最小。

滤波器设计最常用的准则是MMSE准则，即是使滤波器实际输出y（n）与期望响应d（n）之间的均方误差最小;最终达到Wiener解。

三、横向LMS自适应数字滤波器,基本原理,自适应滤波原理,自适应预测可用于语音编码，谱估计，谱线增强，信号白化,54,自适应建模,正向建模自适应控制系统，数字滤波器设计，相干估计和地球物理逆向建模自适应控制，语音分析,信道均衡，数字滤波器等,55,56,自适应抵消原理,57,58,自适应滤波器设计,首先确定滤波器结构-FIR？

IIR？

格型？

设计自适应算法调整滤波器参数使得某一特定的代价函数最小,59,自适应线性组合器,60,自适应线性组合器：

参数可调的FIR输入信号X（n）的L+1个元素可以是同一时刻不同信号源所得，也可是同一信号源以前L+1时刻得到固定权系数Y（n）等于输入矢量x（n）的各元素线性加权调整权系数的过程叫自适应过程自适应线性组合器输出就不再是输入信号的线性函数，还包括误差信号e（n）,61,62,63,式中w（n）为第n步迭代（亦即时刻n）的权向量，为第n步迭代的更新步长，v（n）为第n步迭代的更新方向（向量）,三、横向LMS自适应数字滤波器,基本原理（续）,最广泛使用的自适应算法是“下降算法”,下降算法的两种实现方式-自适应梯度算法：

LMS算法及其改进算法-自适应高斯牛顿算法：

RLS算法及其改进算法本节介绍LMS类算法，下一节介绍RLS类算法。

64,LMS算法核心思想：

用平方误差代替均方误差权系数调整有噪声-权矢量在最近权矢量附近随机起伏。

收敛：

每次迭代调整权矢量，获得多个x（n）,并统计平均根据梯度平均值来调整权矢量，则必然得到理想的最佳权矢量,65,66,表示滤波器在n时刻的估计误差，并定义均方误差:

三、横向LMS自适应数字滤波器,基本LMS算法,算法推导,为代价函数；它相对于滤波器抽头权向量w的梯度为,它是式（4）的向量形式。

若上式中的数学期望项用它的瞬时值代替,即得真实梯度向量的估值（瞬时梯度）：

令,67,其中,三、横向LMS自适应数字滤波器,基本LMS算法,算法推导（续）设用最速下降法更新滤波器权向量，则有如下算法：

式（14）所示算法就是著名的最小均方自适应算法，简称LMS算法。

它由Widrow在20世纪60年代初提出的。

68,而且可以证明LMS自适应滤波器的权向量收敛于维纳解：

三、横向LMS自适应数字滤波器,基本LMS算法,算法收敛性容易验证，瞬时梯度向量是真实梯度向量的无偏估计：

条件是,LMS算法还必须兼顾收敛速度和失调,它来自梯度估计误差:

（是的最大特征值）,69,三、横向LMS自适应数字滤波器,LMS算法的改进,LMS算法的几种变形基本LMS算法归一化LMS算法步长自适应的LMS算法从LMS算法导出牛顿法,70,若自适应产生，则称为自适应步长的LMS算法,三、横向LMS自适应数字滤波器,LMS算法的改进,LMS算法的几种变形,若常数，则称为基本LMS算法,若,则称为归一化LMS算法,结论：

这些算法通常称为LMS类算法梯度算法。

71,三、横向LMS自适应数字滤波器,LMS算法的改进,从LMS算法导出牛顿法前面已导出维纳最优解为,它由梯度得出，其中,用左乘上式两边,并将结果代入维纳解公式,得,写成更一般的迭代形式（即牛顿迭代公式）：

72,三、横向LMS自适应数字滤波器,LMS算法的改进,从LMS算法导出牛顿法（续）,上式可写成更一般的迭代形式：

这就是所谓牛顿法基本迭代式。

令,称为牛顿方向。

统一算法LMS法与牛顿法可统一为更一般的下降算法:

取不同的就构成不同的自适应算法。

73,几个问题,LMS独立性假设:

输入向量u

（1）,u

（2）u（n）是彼此统计独立的向量序列.在时刻n,输入向量u（n）与所有过去时刻的期望响应d

（1）,d

（2）d（n-1）正交;时刻n的期望响应d（n）与n时刻的输入向量u（n）相关,但与过去时刻的输入向量统计独立输入向量u（n）和期望响应d（n）对所有n组成联合高斯分布的随机变量.决定收敛速度快慢.,