维纳滤波器
1线性最优滤波问题 ........................................................................................................................ 1
2 正交原理....................................................................................................................................... 2 3 维纳-霍夫方程 ............................................................................................................................. 3 4 维纳-霍夫方程的矩阵形式 ......................................................................................................... 5
5 最小均方误差 ............................................................................................................................... 5
1线性最优滤波问题
un()yn()dn() 线性滤波器 ,,
endnyn()()(),, 图1 维纳滤波
线性滤波问题如图1所示,其中为滤波器的输入,在实际应用中,un()un()来自传感器或通信接收机,所以又称为输入观测数据。经过线性滤波器处理un()
之后得到输出。线性最优滤波问题就是在某种最优化条件下用作为yn()yn()
的估计,所以称为期望输出。实际上也是整个系统的输入,是可dn()dn()dn()
w以通过传感器观测的。与之差称为估计误差,表示为。表示线dn()yn()en()n
w性滤波器的冲激响应,往往也称为滤波器的权重系数。 n
在线性滤波问题中,假定是来自某个零均值广义平稳随机过程的观测样un()
本。同时也假定是来自某个零均值广义平稳随机过程的观测
样本
保单样本pdf木马病毒样本下载上虞风机样本下载直线导轨样本下载电脑病毒样本下载
。不难想dn()
到,应该与有一定的统计相关性,否则就不可能用作为有意un()dn()yn()dn()义的估计。
线性最优滤波问题的关键是定义一个最优化判据,以衡量估计的优劣。最优
2Een[|()|]化判据存在多种选择,例如可以要求估计误差的均方值最小,也en()
可以要求最小,甚至可以要求的更高次幂的数学期望最小。选择Een[|()|]|()|en
2Een[|()|]均方误差最小作为最优化判据更加有利,一方面,均方误差在许多实际应用中有较为明确的意义,另一方面,它使问题的数学处理更加简单。关于这个问题,将在后面详细陈述。选择均方误差最小作为最优化判据的线性最优滤波问题称为维纳滤波。
2 正交原理
从物理可实现的角度,要求线性滤波器是一个因果性的滤波器,这时,输出
可以表示成如下卷积和: yn()
,*ynwunk()(),, (1) ,kk0,
上式中*号表示取复数共轭。
在维纳滤波问题中,用作为的估计。估计误差定义为 yn()dn()
(2) endnyn()()(),,
而均方误差则定义为
2* (3) JEenenEen,,[()()][()]
EJ其中表示取数学期望。在最优化理论中,又称为代价函数,它描述了用yn()作为的统计估计所必须付出的代价。根据最优化理论,代价函数必须是非dn()
负的。显然,按(3)式定义的代价函数确实是非负的。
Jw显然,是权重系数的函数,所以最优维纳滤波实际上就是找到最优权重n
J系数使得均方误差最小。如考虑一般的复信号问题,则权重系数也可能是复的,可写成
wajbk,,,,0,1,2,… (4) kkk
,k我们或许可以定义一个梯度算子,它是一个矢量算子,其第个分量定义为
,, (5) ,,,,jk,0,1,2,…k,,abkk
,JJ,JJ梯度矢量的方向就是变化最快的方向,而的模描述了沿这一方向的变
,Jk化率。按照上述梯度算子的定义,梯度矢量的第个分量为
,,JJ (6) ,0,1,2,,Jjk,,,…k,,abkk
J当最小时,梯度矢量为零,其各分量同时为零,即
,Jk,,0,0,1,2,… (7) k
将(3)代入(6),并利用(2)和(1),可以得到
*,JEunken,,,2[()()] (8) k
Jen()当达到最小值时的估计误差表示为,则由上述两式可得 o
*Eunkenk[()()]0,0,1,2,,,,… (9) o
的估计误差上式说明:当线性滤波器在最优化条件下运行时,在任意时刻en()no与该时刻及以前进入滤波器的输入不相关,或者说en()与正unkk(),0,1,2,,,…o
交。这一结论称为正交原理。
由(1)可以看到,只不过是的线性组合,所以yn()unkk(),0,1,2,,,…yn()与的互相关可表示成 en()
,,*****EynenEwunkenwEunken[()()][()()][()()],,,, (10) ,,kkkk00,,
yn()如用表示滤波器在最优化条件下运行时的输出,则由上列两式不难导出如o
下结论:
*Eynen[()()]0, (11) oo
yn()en()也就是说,输出与估计误差不相关,或者说它们彼此正交。这是正交oo
原理的重要推论。
d(n)
u(n-1)
ee(n)(n)o
(n)o yy(n)
u(n)
图2 正交原理
关于正交原理,可以作简单的几何解释,如图2所示。张unkk(),0,1,2,,,…成一个线性空间u(n),由于是的线性组合,故位于yn()unkk(),0,1,2,,,…yn()
en()yn()线性空间U(n)。在最优化条件下,与该线性空间正交,而是在dn()oo
yn()该空间的正交投影,也就是说,是的最优逼近。 dn()o
3 维纳-霍夫方程
将(1)、(2)代入正交原理表达式,有
,**Eunkdnwunik{()[()()]}0,0,1,2,,,,,,… ,oii0,
其中w表示在最优条件下的线性滤波器的第个权重系数。将上式稍加整理可得 ioi
,**wEunkuniEunkdnk[()()][()()],0,1,2,,,,,,… (12) ,oii0,
上式左边的数学期望表示维纳滤波器输入信号的自相关,如输入是平un()un()稳的,则其自相关只与时间差有关,而与时间起点无关,即
*rikEunkuni()[()()],,,, (13) 其中,表示的自相关。(12)式右边的数学期望则是与的互相rm()un()un()dn()关,如输入与期望输出联合平稳,则有 un()dn()
*pkEunkdn()[()()],,, (14) 根据上列两式的定义,(12)式可写成
,
wrikpkk()(),0,1,2,,,,,… (15) ,oi0i,
上式称为维纳-霍夫方程。它是维纳滤波器实现最小均方误差意义下线性滤波的充分必要条件。实际上,它是关于最优权重系数的线性联立方程组。
维纳滤波器既可以是具有无限冲激响应的IIR滤波器,也可以是具有有限冲激响应的FIR滤波器。(15)式给出了最优IIR维纳滤波器冲击响应必须满足的方程组。如选择FIR滤波器,则最优FIR维纳滤波器冲激响应满足的方程组可写成:
M,1
wrikpkkM()(),0,1,2,1,,,,,…, (16) ,oii,0
其中M表示FIR滤波器的阶数。上式是关于M个权重系数的线性联立方程组。
回顾上面的叙述,由于选择最优化判据是均方误差最小,从而得到满足最优化的充分必要条件表达式(9),即正交原理表达式。再从正交原理出发,导出最优维纳滤波器权重系数的维纳-霍夫方程(15)或(16)。正是由于选择均方误差最小的最优化判据,维纳-霍夫方程是线性联立方程组,数学求解相对来说比较容易。
由(16)式很容易看到,如维纳滤波器的输入与期望不相关,则维un()dn()纳-霍夫方程没有非零解。这意味着我们不可能通过对的线性滤波得到的un()
来对进行有意义的估计。 yn()dn()
4 维纳-霍夫方程的矩阵形式
定义输入信号列矢量和权重系数列矢量如下:
T (17) u()[(),(1),,(1)]nunununM,,,,…
T (18) w,[,,,]www…ooooM,01,1
维纳-霍夫方程(16)左边的系数矩阵可写成
rrrM(0)(1)(1)…,,,
,,*rrrM(1)(0)(2)…,H,, (19) Ruu,,Enn[()()],,
,,**rMrMr(1)(2)(0),,…,,
R称为输入信号的自相关矩阵,上标H表示取共轭转置矩阵。而方程右边的互相关可以写成如下列矢量
T*pu,,,,[(0),(1),,(1)][()()]pppMEndn… (20) p称为输入信号和期望输出的互相关矢量。这样就可以将维纳-霍夫方程写成如下矩阵形式
Rw=p (21) o
下面将说明自相关矩阵是可逆的,所以维纳-霍夫方程有唯一的非零解,且可写成如下形式:
-1w=Rp (22) o
5 最小均方误差
下面用矩阵形式导出最优维纳滤波器所能达到的最小均方估计误差。根据估计误差的定义,在最优条件下,
dnynen()()(),, oo
利用正交原理表达式(2.11),计算期望输出的方差如下:
2***,,,,EdndnEynynEenen[()()][()()][()()] doooo
上式右边第2项正是最优维纳滤波器所能达到的均方估计误差,即最小均方估计
J误差,以表示之,则有 min
*22 (23) JEenen,,,[()()],,oodymino
2其中,表示最优维纳滤波器输出信号的方差。如滤波器是M阶FIR滤波器,,yo
则由(1)式,滤波输出可以写成权重系数矢量和输入信号矢量的内积,即
M,1*Hynwunkn()()(),,,wu (24) ,ookok,0
由于两个列矢量的内积是一个标量,所以
*TH*ynnn()()(),,wuuw (25) ooo
于是有
2*HHHHH,,,,,EynynEnnEnn[()()][()()][()()]wuuwwuuwwRw yooooooooo
2将(21)代入上式,注意到是一个实数,则有 ,yo
2HH ,,,wppwyooo
将上式代入(23),最后得到
221HH-J,,,,,,pwpRp (26) mindod