北大随机过程课件：第 5 章 第 1 讲 高斯随机变量

随机过程

高斯分布随机变量及其性质

¾ ¾ ¾ ¾ ¾

中心极限定理 高斯分布的随机变量

N维高斯随机变量的统计独立特性 高斯随机变量的线性变换

高斯分布的随机变量的条件分布和边缘分布

1．引言．中心极限定理

给定n个独立的随机变量xi,

i=1,2,"n，它们的和为：x=x1+x2+"+xn，x的均

2

2

2

2

值为η=η1+η2+"+ηn，方差为σ=σ1+σ2+"+σn，在一定的条件下，当n趋于无穷时，x的概率密度函数f(x)趋向于具有相同均值和方差的高斯(正态)分布：

f(x)≈

(x η)22σ2

中心极限定理逼近的性质以及对一个给定误差所需的随机变量的数目n依赖于概率密

度函数fi(x)。

2高斯分布的随机变量

典型高斯分布的随机变量的概率密度与特征函数的描述。

fξ(x)，

Φξ(u)=E{ejuξ}=∫ejuxfξ(x)dx

∞∞

2.1一元高斯随机变量

一元高斯随机变量Ｎ(0,1)，均值为零、方差为1，其概率密度和特征函数：

fξ(x)=Φξ(u)=e

12π

u22

e

x22

随机过程

一元高斯随机变量N(μ,σ2)，均值为μ、方差为σ2，其概率密度和特征函数：

fξ(x)=Φξ(u)=e

12πσ

jμu

2

e

(x μ)22σ2

σ2u2

2

2.2二元高斯随机变量

二元高斯随机变量ξ1,ξ2，均值为零、协方差矩阵为：

1r 1 1 r 12

B，，B=1 r =B= 2 r1 1 r r1

其二元概率密度和特征函数为：

fξ1ξ2(x1,x2)=

122

exp [ 2+xrxxx122] 2(1 r2)1 2

2π r

1

12 Φξ1ξ2(u1,u2)=exp [u12+2ru1u2+u2]

2

二元高斯随机变量ξ1,ξ2，其均值、协方差矩阵为，

ξ1 μ1

E ξ = μ =μ, 2 2

σ12B=

rσσ 1

1

2

rσ1σ2 22 ， B=σ12σ21 r ()2 σ2

2

σ2 rσ1σ2 1

B=22 2 σ1σ21 r2 r σσσ121

r1σ2 1 = 2 rσ 1 r2 122

其二元概率密度和特征函数为

2

1

fξ1ξ2(x,2

exp 1 1 2 2

随机过程

1 22 Φξη(u1,u2)=exp j(μ1u1+μ2u2) [σ12u12+2rσ1σ2u1u2+σ2u2] 2

2.3 n元高斯随机变量

n元高斯随机变量ξ，其均值、协方差矩阵（正定的）为，

μ1

μ2 μ= ,

# μ n b11 b12B=

# b n1

b12b22#bn2

"b1n

"b2n

#

"bnn

其n元概率密度和特征函数为

fξ(x)=

(2π)Bn

1

1/2

1 T

exp (x μ)B 1(x μ)

2

1

Φξ(U)=exp jμTu uTBu

2

其中，

x=(x1x2"xn)，u=(u1u2"un)

T

T

考虑到矩阵是B正定对称的，则存在一个非奇异矩阵L，使得B=LLT，作线性变换L，

y=L 1(x μX)，x=Ly+μX，

B 1=(LLt) 1=(Lt) 1 L 1=(L 1)tL 1

(x μX)TB 1(x μX)=(x μX)T(Lt) 1 L 1(x μX)

=[L 1(x μX)]T[L 1(x μX)]=yTy

对应这个变换的雅可比行列式是

x1/2

=L=B y

fη(Y)=

=

(2π)Bn

1

1/2

1 1/2exp (x μX)TB 1(x μX) B 2

(2π)1

n1/2

1 exp yTy 2

随机过程

=

显然有

∞

∞

(2π)1

n1/2

1N2 exp ∑yn

2n=1

∞∞

∞

∫"∫fξ(X)dX=∫"∫fη(Y)dY

∞

∞

∞

∞

∞

=∫"∫fη(Y)dy1dy2"dyN=1

∞

∞

2.4 n元高斯随机变量的特征函数的计算

考虑以下的矩阵运算

juTx=juT(Ly+μX)=juTLy+juTμX=jSy+juμX

其中：S

TT

T

=uTL,S=LTu

1

juTx (x μX)TB 1(x μX)

2

=juTx yTy/2

=juTμX+jSTy yTy/2

=juTμX (y jS)T(y jS)/2 STS/2

N元高斯随机变量的特征函数是:

Φξ(u)=E{exp(jux)}=

T

∞

∞

∞∞

∞

T

"exp(jux)fξ(x)dx∫∫ ∞

=

∞∞

T

jexp(ux)"∫∫ ∞∞

1 (2π)n

1/2

T 1 1Bexp x μx μ()() dx1/2

2 B

=

∞∞

∫"∫

∞

1

n

∞ (2π)B

1T

exp juTx (x μ)B 1(x μ) dx

2

=

∞

∫"∫

1

1/2

(2π)n

exp[ (y jS)T(y jS)/2]dy

∞

exp[juTμX STS/2]

=exp[juTμX STS/2]=exp[juTμX uTLLTu/2]=exp[juTμX uTBu/2]

随机过程

1

Φξ(u)=exp juTμX uTBu

2

当协方差矩阵是非负定的，可以证明若它的秩为r<n，它的概率分布集中在r维子空间上，这种分布是退化正态分布，或奇异正态分布。

3 N维高斯随机变量的统计独立特性

3.1定理1

N维随机变量ξ1，ξ2， ，ξN，相互统计独立的充要条件是它们两两互不相关。 证明，

首先证明必要性。

z 若N维随机变量ξ1，ξ2， ，ξN，相互统计独立，则它们N个高斯分布随

机变量的概率密度函数，等于它们各自概率密度函数的乘积。

z N维随机变量ξ1，ξ2， ，ξN，它们的特征函数等于各自特征函数的乘积。

对比高斯分布特征函数的表达式，它们的协方差矩阵是对角矩阵。

z N维随机变量ξ1，ξ2， ，ξN，它们的协方差矩阵是对角矩阵，它们的互

相关为零，它们是统计独立的。 其次证明充分性。

z 若N维随机变量ξ1，ξ2， ，ξN，是两两不相关，它们的协方差 …… 此处隐藏：5758字，全部文档内容请下载后查看。喜欢就下载吧 ……