信息论与编码 曹雪虹 张宗橙 清华大学出版社 课(4)

费诺编码效率：

11111111

=∑kip(xi)=×1+×2+×3+×4+×5+×6+×7+×7

248163264128128i

=1.984

H(X)H(X)1.984η====100%

R1.984K

(4)

xix1x2x3x4x5x6x7x8

(5)

p(xi)0.5

0.250.1250.06250.031250.0156250.00781250.0078125

编码

01

01

2

2

012

01

码字01202122022122202221

ki1

1223344

11111111

K=∑kip(xi)=×1+×1+×2+×2+×3+×3+×4+×4

248163264128128i

=1.328

H(X)H(X)1.984η====94.3%

RK log2m1.328×log23

1 X 0

= 0.90.1 P(X)

5.5设无记忆二进制信源

先把信源序列编成数字0，1，2，……，8，再替换成二进制变长码字，如下表所示。

(1)验证码字的可分离性；

(2)求对应于一个数字的信源序列的平均长度1；(3)求对应于一个码字的信源序列的平均长度K2；(4)计算

K2

，并计算编码效率；1

(5)若用4位信源符号合起来编成二进制哈夫曼码，求它的平均码长K，并计算编码效率。

序列1010010001000010000010000001

数字0133456

二元码字1000100110101011110011011110