printed是什么意思nted在线翻译读音例句

1

第四章线性预测

我们可以预测未来吗答案是可以。但是不一定能完全准确地预测将来。通常，事件之间

有内在的结构关系和惯性，因此我们的确可以基于对过去和现在的知识来估计将来。

这和图像压缩又有何关系我们的目标是用简洁有效的方式描述随机信号。线性预测有助

于降低信号的冗余度，用较少的比特表示波形。实质上，线性预测就是最小均方估值理论的

一个特例。但由于它在图像压缩中的重要地位，我们单独用一章来讨论。

主要内容：

1、估值原理基础

2、带有限存储器的线性预测器

3、前向预测和后向预测

4、随机过程的表示

2

估值原理基础

预测是从观察的某随机变量估计一个或多个随机变量的统计估值。被估计的变量关系到

“将来”，而观察的变量关系到“过去”（或过去及现在）。最常用的估计是从观察的

n

个先

前的样值估计该平稳过程的现在样值。另外，在图像压缩应用中，从“先验”的图像样值块

估计当前的图像样值块。或者在信号压缩应用中，从一个或

n

个矢量预测某矢量。

观察随机矢量预测第二个随机矢量

给定随机矢量T

N

XXX,,

1

，要预测的矢量T

K

YYY,,

1

，两个矢量的维数

不必完全相同。例如，1K是最常见的情况，即从N个观察样值集合预测一个随机变量。

为便于概率分析，设这些随机矢量由概率分布函数

YX

P

,

描述（概率分布可以根据经验分布

来估计）。

最佳预测总是基于某个“最佳”准则，我们选择使用最为广泛的均方误差准则（MSE）。

设预测值为Y

，则定义均方误差为：























K

i

ii

TYYEYYYYEYYEY

1

2

2

2



MSE准则可以反映通过预测来减小误差信号能量的程度。因为预测的目的就是要去除可

预测的信息，所以MSE越小则预测器的性能越好。当给定预测器的MSE最小时，则为最佳预

测器。

两种常用的特殊情况。T

Nnnn

XXXX



,,,

21

表示一个平稳随机过程的N

个相继样值，

n

XY是下一个（或者“未来”）样值，已知有限个过去值，寻找最佳的一

步预测器。另一种情况，Y是图像中的一个子块，X包含Y上面及左边的图像子块，目的

是利用已经解码的图像区域预测该图像中新的区域，如图所示，用子块A、B和C预测D。

AB

CD

图所李陵 示，用子块A、B和C预测D

最佳线性预测

(1)简单情况——随机变量的估计

当随机过程均值为0时：

随机矢量T

N

XXX,,

1

，用随机变量

N

XXX,,,

21

的线性组合来估计随机

变量Y，其估计值用Y

表示：

3

NN

XaXaXaY

2211

由最小均方误差准则（MMSE）确定

i

a，落红不是无情物化作春泥更护花比喻什么 Ni,,1，即，

min

2

2YYEa

其中，T

N

aaaa,,,

21

。根据拉格朗日极值定理，将对

i

a求偏导，并使其为0，

得：

NjXYYE

j

,,1,0



这个等式就是线性均方估值的正交原理——误差YYe

与所有随机变量

j

X

在统计上正交。或者记为Xe。

当随机过程均值不为0时：







N

i

ii

bXaY

1

不难证明，式仍然成立。但估值方程变成含1N个未知数。因此，对式也要附加如下

方程：

0]

[YYE

(2)普遍情况：

已知N维矢量T

N

XXX,,

1

，希望预测一个K维矢量T

K

YYY,,

1



，估计矢

量为Y

，则，

AXY

其中，T

KNK

aaA,,

1





，

1,,

,

kkK

a



是预测系数矢量，它是N维列矢量。也可以

将式写成：

KkXaYT

kk

,,1,



均方误差：







K

k

T

kk

XaYEY

1

2

2



要得到最佳线性预测器，则寻找使均方误差最小的矩阵A。显然，当各项误差

2

2XaYEaT

kkk

都最小时，其误差总和也达到最小值。令

kkk

YYe

，则根据

等式单个随机变量

k

Y的最佳估计有：

KkNnXeE

nk

,,1;,,1;0

4

这就是矢量最佳线性预测的正交原理。

下面利用正交原理求解最佳线性预测系数方程。将代入得到：





KkNjXXEaXYE

XXaEXYE

XXaYE

j

T

kjk

j

T

kjk

j

T

kk

,,1;,,1,0





∴KkNjYXEXXEa

jj

T

k

,,1;,,1,

写成矩阵的形式：

KkYXERaT

X

T

k

,,1

其中，NikXXEikRXXER

ikX

T

X

,,1,;,是矢量

T

N

XX欲寄彩笺兼尺素下一句 X,,

1

的自相关矩阵。如果自相关矩阵是非奇异矩阵，则，

1

X

T

k

T

k

RXYEa

因为自相关矩阵及其逆矩阵都是对称矩阵，所以又可写成，

XYERa

kXk

1

或1

X

TRYXEA

定理：最小均方误差线性预测器AXY

的系数矩阵是如下方程的解：

T

X

YXEAR

其中，T

k

aaaA,,,

21

。

带有限存储器的线性预测器

线性预测最重要的一个应用就是给定一个平稳随机过程的

m

个过去样值，预测其将来

的样值。设离散实值平稳随机过程

n

X,当零均值时的自相关函数为：



jnnXj

XXEjRr





其方差

0

2r

X

，因过程为零均值，自相关函数与自协方差函数相同。

已有文献证明，零均值平稳随机过程的谱密度和自相关函数是一对付里叶变换对，即，







m

fmj

m

erfS2

5

其中，f是归一化处理后的角频率，fS是f的周期函数，周期为2。这一结论在

以后的讨论中将用到。

通常，信号样值之间的相关性不为零，这表明已知一个样值可以得到另外一个样值的部

分信息。具体地说，观察随机过程过去样值可以得到关于现在样值的部分知识。一步预测器

就是基于对过去样值,,

21nn

XX的观察，来估计当前样值

n

X。用第一节中的数学语言

统一书写，则观察矢量T

nn

XXX,,

21

，待估计矢量

n

XY。这里的观察样荠菜图片及识别方法 值是无

限长的。限制预测器存储器长度为

m

，我们就能直接利用上一节的结论。令：









m

i

inin

XaX

1

其中，

i

a烈火焚烧若等闲的意思 是线性预测系数，负号的引入是为了方便预测误差的表示。预测误差表示为：









m

i

ininnnn

XaXXXe

1

将前面公式中的

k

Y用

n

X替换、X用T

mnn

XX



,,

1

替换、K用

m

替换、a用

T

m

aa,,

1

替换，得到：

vaR

m



其中：

T

m

aaaa,,,

21

是预测器的系数矢量；

T

m

T

mnnnn

rrrXXEXXEv,,,,,

211





；

矩阵

m

R是平稳随机序列

n

X的

m

阶自相关矩阵：

mm

mm

m

m

m

rrr

rrr

rrr

R



































021

201

110









是Toeplitz矩阵，即每条对角线上的所有数都相同。（关于平稳随机过程的所有理论都

是以Toeplitz矩阵和函数为基础的。）

当

m

R非奇异时，等式也可写成，

vRa

m

1

总之，最佳线性预测器系数的归一化方程（也被称为有限长Wiener-Hopf方程）为：

6

mjrra

m

i

jiji

,,2,1,

1







该最佳预测器的等价正交原理表述为：

mjXe

jnn

,,2,1,



即mjXeE

jnn

,,2,1,0



或mjXXEXXEaXXaE

jnn

m

i

jninijn

m

i

ini

,,1,

11





































同样，我们用均方误差来度量该有限长度线性预测器的性能。用

n

X替换Y得到，

2

nnm

XXED

下标

m

表示预测器的存储器长度。另外一个常用的性能指标是预测增益：

m

X

mD

G

2



将等式、代入整理得：















































m

i

m

j

jjii

m

i

ii

m

i

ininm

ararar

XaXED

111

0

2

1

2

aRavar

m

TT2

0

式表明，均方误差是预测系数矢量a的二次方程。外室撩人苏鎏 最佳化问题也就是求关于矢量a的最

小二次方程的问题。设1

0

a，T

T

m

aaaac),1(,,,

10

，将式改写为：

cRcD

m

T

m1



m

D的最佳化就是求解矢量c使上式最小。最佳的c等效于求最佳的a。

由式，当a取最佳化系数，将式代入得最小均方误差：







m

i

iim

T

m

ravRvrD

0

1

0

值得指出的一种重要观点是，将预测误差看成是输入序列

n

X经过传输函数为zA的

FIR滤波器而生成的另外一个平稳随机序列，则从式可立即得到：

7







m

i

i

i

zazA

0

称为预测误差滤波器，它在语音信号处理中很重要，也蕴涵了我们后面将讨论的另一种

随机过程表示的基本思想。

前向预测和后向预测

下面从一个不同的角度来讨论有限长线性预测的问题，推导出重要的计算技术——

Levinson-Durbin算法，以及格状滤波器结构，这对于线性预测、自适应滤波和频谱成形等

应用中特定滤波器的实现起重要作用。

nnnmnmn

XXXXX

121







观察值

图前向预测和后向预测

给定离散时间信号的

m

个观测值，

mnnn

XXX

背字组词 

,,,

21

，现在

n

X的预测值为：









m

k

knkn

XaX

1

它是利用过去值（观察值）来预测现在值（时间轴上是正向的），称为前向预测。如图

所示。相反地，用同样的观测值估计观测样点之前的信号值

1mn

X，被称为后向预测，预

测值为：









m

k

knkmn

XbX

1

1

k

b是后向预测系数。用

nnn

XXe



表示前向预测误差，则最佳线性预测的正交条

件为：

miXe

inn

,,2,1





得到miXXa

in

m

k

knk

,,2,1

0









其中

1

0

a。

类似地，用

11





mnmnn

XXe表示后向预测误差，则









1

1

m

k

knkn

Xbe

8

其中1

1



m

b。最佳线性预测的正交条件为：

mjXe

jmnn

,,2,1

1







得到mjXXb

jn

m

s

sns

,,2,1

1

1











因此，前向预测和后向预测是相同观测值集合的线性组合，它们唯一的区别是预测系数

不同。但它们之间完全不同吗对于平稳随机过程，和可以分别表示为：

1,,2,1;0

0

0





amiikRa

m

k

Xk



1,,2,1;0

1

1

1









m

m

s

Xs

bmjjsRb

可证明满足：

1,,2,1

1





msab

sms



则和式可简化为一个方程。

证明：

对式作变量代换：smk1，利用式和自相关函数的对称性得：

mjkjmRajsRa

m

k

Xk

m

s

Xsm

,,2,1;10

0

1

1

1











上式用i代替jm1，则变为式。因此，反向预测系数值等于时间反向的正向预测系

数值。

下面说明我们研究后向预测的意义。假设已知一个长度为

m

的最佳线性预测器，如何

充分利用已知的预测系数

m

aaa,,,

21

来确定长度为1m的最佳线性预测器在求解之前，

首先要明确的是，a对于长度为

m

的线性预测器是最佳系数，但对于长度为1m的线性预

测器通常就不再是最佳的。由等式可见，矢量a与

m

的大小有关。但是，无须一切从头开

始，我们可以从已知的

m

阶最佳线性预测器快捷地得到1m阶最佳线性预测器的预测系

数。

用

n

X

~

表示从1m个观测值前向一步预测

n

X的估计值，则











1

1

~m

k

knkn

XaX

1m阶线性预测器的预测系数为1,,2,1,0,



mia

i

，1

0





a。其前向预测误差，













1

0

~

~庆宫春姜夔

m

k

knk

nnn

Xa

XXe

9

1m阶线性预测器与m阶线性预测器的区别在哪儿区别在于1m阶线性预测器多了

一个样值

1mn

X的信息来帮助估计当前样值

n

X。样值

1mn

X中包含的新信息是不能由m

个观测值线性组合得到的信息——恰是从这

m

个观测值得到的后向预测误差

n

e。因此，

n

X

的1m阶线性预测值

n

X

~

可以表示为：



nnn

KeXX

~

其中第一项是

m

阶最佳线性预测误差，第二项正比于观测值

1mn

X带来的新信息。因

此无须重采莲曲王昌龄的意思 头计算所有的系数，唯一待定的参数是比例常数K。

在式的两边同时用

n

X去减，得到预测误差形式的等价式：



nnn

Keee

~

表明

n

X

~

是1m个观测值

11

,,

mnn

XX的线性组合。而要满足1m长度最佳线性

预测的正交条件，必须有

miXe

inn

,,2,1

~





1

~





mnn

Xe

显然已经满足了。要使成立，将代入求解满足条件的K：

0

11











mnnmnn

XeKEXeE

或者

m

mK







其中，

111

00

mm

mnnmknknmkmk

kk

EeXaEXXar

























m

j

jj

m

k

mnknkmnnm

raXXEbXeE

0

1

1

11



即

mm

D

所以

m

m

D

K





参数K称为反射系数，

m

可以由式方便地解出。将和代入得到1m阶最佳线性预

测器的预测系数：

10

1,,2,1



miKbaa

iii



其中，0

1



m

a。利用消去后向系数得到迭代等式

1,,2,1

1







miKaaa

imii



同理推导均方误差的迭代公式：

因为

mm

m

i

iim

m

i

ii

m

i

iinm

KDraKraraeED

















1

1

1

0

1

0

2

1

~

且

mm

KD,得到简洁的均方误差迭代式：

)1(2

1

KDD

mm





观察该式可以发现一些重要的结论。首先注意到，如果1K，则

0

1



m

D，这显然

是不可能的；如果1K，则

0

1



m

D，这对于非确定性过程是不可能的，即自相关矩阵

m

R

是非奇异的随机过程。因此，非确定性过程的反射系数的幅度总是小于1。另外，0K意

味着最佳预测器从

m

阶增长到1m阶没有预测性能上的提高。在这种情况下，最佳1m

阶预测器的系数和

m

阶预测器是一样的。

等式、给出了预测系数及均方预测误差的迭代公式，通常被称为Levinson-Durbin迭代

（Levinson-Durbin算法见附录A）。它是格状滤波器（或者梯形滤波器）结构的基础，这些

滤波器常被用来实现预测误差滤波器zA或zA1。定义后向预测误差滤波器为







1

1

)(

m

i

i

i

zbzB

根据等式有

11mzzAzB

后向预测误差滤波器可以完全由前向预测误差滤波器zA确定。

如何由

m

阶的zA和zB得到1m阶的前向、后向预测误差多项式zA



和zB



利

用可立即得到

zKBzAzA



在中用1m代替

m

得到

12





zAzzBm

利用得到

1212



zBKzzAzzBmm

11

再利用得到

zBzzAKzzB11



根据迭代等式生成图所示的格状（或者，双乘法器梯状）滤波器。

将具有特定反射系数K的格状滤波器级联可以用于处理输入随机信号

k

X以生成其m

阶预测误差随机过程

k

e，或反之。

图2：Levision-Durbin迭代格状滤波器

12

附录A：