信号与系统习题.docx

信号与系统习题.docx

《信号与系统习题.docx》由会员分享，可在线阅读，更多相关《信号与系统习题.docx（64页珍藏版）》请在冰点文库上搜索。

信号与系统习题

1，某系统（7，4）码

c（c6c5c4c3c2c1c0）（m3m2m1m0c2c1c0）其三位校验位与信息位的关

系为：

（1）求对应的生成矩阵和校验矩阵；

（2）计算该码的最小距离；

（3）列出可纠差错图案和对应的伴随式；

（4）若接收码字R=1110011，求发码。

1

0

0

0

1

1

0

0

1

1

1

0

0

0

1

0

0

0

1

1

解：

（1）

1

1

1

0

0

1

0

G

0

1

0

1

1

H1

0

1

1

1

1

0

0

1

0

0

0

1

1

0

0

1

（2）dmin=3

（3）

SE

10000000

20000001

100000010

1000000100

1010001000

1110010000

110100000

1101000000

（4）.RHT=[001]接收出错

E=0000001

R+E=C=1110010（发码）

2.

X

Y

1

已知X,Y的联合概率p

x,y

为：

0

0

1/3

1/3

求HX

，HY

，H

X,Y

，IX;Y

解:

p（x0）2/3

p（x1）1/3

1

0

1/3

H

X

HY

H（1/3,2/3）

0.918bit/symbol

H

X,Y

H（1/3,1/3,1/3）=1.585bit/symbol

I

X;Y

H（X）

H（Y）

H（X,Y）0.251bit/symbol

3.一阶齐次马尔可夫信源消息集X{a1,a2,a3}，

状态集S

{S1,S2,S3}，且令Si

ai,i1,2,3，条件转移概率为

14

14

12

，

（1）画出该马氏链的状态转移图；

P（aj/Si）

13

13

13

23

13

0

（2）计算信源的极限熵。

解：

（1）

1

w

1

w

2

2

w

w

4

1

3

3

3

1

1

w

1

w

2

1

w

3

w

2

w1

0.4

4

1

3

3

（2）12w1

31w2

w3

→w2

0.3

w1

w2

w3

1

w3

0.3

H（X|S1）=H（1/4,1/4,1/2）=1.5比特/符号

H（X|S2）=H（1/3,1/3,1/3）=1.585比特/符号

H（X|S3）=H（2/3,1/3）=0.918比特/符号

H

3

X|S0.41.50.31.5850.30.9181.351比特/符号

wH

i

1i

i

X

x1

x2

，每秒钟发出2.55个信源符号。

4.若有一信源

0.8

0.2

P

将此信源的输出符号送入某一个二元信道中进行传输

（假设信道是无噪无损的，容量为

1bit/二元符号），

而信道每秒钟只传递

2个二元符号。

（1）

试问信源不通过编码（即

x10,x21在信道中传输）

（2）

能否直接与信道连接？

（3）

若通过适当编码能否在此信道中进行无失真传输？

（4）试构造一种哈夫曼编码（两个符号一起编码），

（5）使该信源可以在此信道中无失真传输。

解：

（1）不能，此时信源符号通过0，1在信道中传输，2.55二元符号/s>2二元符号/s

（2）从信息率进行比较，2.55*H（0.8,0.2）=1.84<1*2

可以进行无失真传输

4

（3）K

piKi

0.64

0.16*2

0.2*3

1.56二元符号/2个信源符号

i

1

此时1.56/2*2.55=1.989

二元符号/s<2二元符号/s

1

0

1

0

0

5.

两个BSC信道的级联如右图所示：

0.64

0.640

1

（1）写出0

x1x1

0.64

信道转移矩阵；

（2）求这个信道的信道容量。

11

11

12

0.16

0.2

0.36

1

1

1

1

解：

（1）

xx

0

100

x2x1

0.16

0.161

{0,1}的联合概率空间为

6.设随机变量X

{x1,x2}

0{0,1}和Y

{y1,y2}

101

x2x2

0.041

Y（普通乘积）

定义一个新的随机变量

Z

X

（1）

计算熵H（X），H（Y），H（Z），H（XZ），H（YZ），以及H（XYZ）；

（2）

计算条件熵

H（X|Y），H（Y|X），H（X|Z），H（Z|X），H（Y|Z），H（Z|Y），H（X|YZ），H（Y|XZ）

以及H（Z|XY）；

（3）

计算平均互信息量

I（X；Y），I（X：

Z），I（Y：

Z），I（X；Y|Z），I（Y；Z|X）以及I（X：

，Z|Y）。

解：

（1）

（2）

X\Y

0

1

（3）

0

1/8

3/8

1/2

X\Z

0

1

7.设二元对称信道的输入概率分布分别为1

3/8

1/8

1/2

0

1/2

0

1/2

[PX][3/41/4]

，转移矩阵为

1/2

1/2

1

3/8

1/8

1/2

7/8

1/8

2/3

1/3

Y\Z

0

1

PY|X

，

0

1/2

0

1/2

1/3

2/3

1

3/8

1/8

1/2

（１）

求信道的输入熵，输出熵，平均互信息量；

7/8

1/8

（２）

求信道容量和最佳输入分布；

（３）

求信道剩余度。

解：

（1）信道的输入熵

H（X）

3/4log2（4/3）

1/4log24；

（2）最佳输入分布为[PX]

[1/21/2]，此时信道的容量为

C1

H（2/3,1/3）

（3）信道的剩余度：

C

I（X;Y）

8.PX

0.5

0.25

0.25，试确定最佳译码规则和极大似然译码规则，并计算出相应的平均差错率。

1/4

1/6

1/12

解：

[PXY]1/24

1/8

1/12

1/12

1/24

1/8

最佳译码规则：

极大似然规则：

F（b1）

a1

F（b2）

a1

，平均差错率为

1-1/4-1/6-1/8=11/24；

F（b3）

a3

F（b1）

a1

F（b2）

a2，平均差错率为1-1/4-1/8-1/8=1/2。

F（b3）

a3

9.设有一批电阻，按阻值分70%是2kΩ，30%是5kΩ；按功耗分

64%是1/8W，36%是1/4W。

现已知2kΩ电阻中

80%是

1/8W，假如得知5kΩ电阻的功耗为

1/4W，问获得多少信息量。

解：

根据题意有R

r12k

r2

5k

w11/8

w21/4

0.7

0.3

，W

0.64

，p（w1/r1）0.8

0.36

由p（w1）p（r1）p（w1/r1）

p（r2）p

（w1/r2）

p（w1/r2）

4/15

所以p（w2/r2）1

p（w1/r2）

11

/15

得知5kΩ电阻的功耗为

1/4W，获得的自信息量为

lb（p（w2/r2））0.448bit

a1

a2

a3

a4

a5

a6

10.已知6符号离散信源的出现概率为1

1

1

1

1

1，试计算它的熵、Huffman编码和费诺编码的

2

4

8

16

32

32

码字、平均码长及编码效率。

解：

该离散信源的熵为

6

1

1

1

1

1

1

H（x）

pi

lb（pi

）

lb2

lb4

lb8

16

lb16

lb32

lb32

i

1

2

4

8

32

32

=1.933bit/符号

11.在图片传输中，每帧约有2

106个像素，为了能很好地重现图像，

每像素能分

256个亮度电平，并假设亮度电平等概

分布。

试计算每分钟传送两帧图片所需信道的带宽

（信噪功率比为30dB）。

解：

每个像素点对应的熵

H

log

2

n

log

2

2568

bit/点

2帧图片的信息量I

2*N*H

2*2*106*8

3.2*107bit

单位时间需要的信道容量

Ct

I

3.2*107

5

bit/

s

t

60

5.3*10

由香农信道容量公式Ct

Wlog2（1

SNR）

W

C

t

5.3*105

5.35*104Hz

log2（1

SNR）

log2（11000）

12.求右图所示的信道的容量及达到信道容量时的输入分布。

X

Y

解：

1

a1

b1

1

0

1/2

由右图可知，该信道的转移概率矩阵为

P

1/2

1/2

a2

1/2

0

1

a3

b2

a1

a2

a3

1

可以看到，当该信道的输入分布取P（X）

时，

1/2

0

1/2

P（Y）

b1

b2

1/2

1/2

2

p（bj

/a1）

lb2，同理可得I

（X

;Y）

lb2

此时I（Xa;Y）

p（b

/a）log

a

j

1

1

p（bj）

3

j1

而I（X

a2;Y）

0，此分布满足

I（xi;Y）lb2pi

0

I（xi;Y）0

pi

。

因此这个信道的容量为

0

C=lb2=1（bit/符号），而达到信道容量的输入分布可取

P（X）

a1

a2

a3

1/2

0

。

1/2

4

Dmax=min

pidij

，由于

pi和dij具有对称性，每个和式结果都为

1/2，因此Dmax=1/2，

j

1,2,3,4i

1

13.设离散信源

U

U1

1

U2

1

U3

U4

（其中p

1

V={v1，v2，v3，v4}，失真矩

p（u）

1

（1p）

1

p

）和接收变量

p

2

2

（1p）

2

2

2

10.50.51

0.5010.5

阵为D

0.5100.5

10.50.50

，求Dmin，Dmax、R（Dmin）、R（Dmax）、达到Dmin和Dmax时的编码器转移概率

矩阵P。

解：

由于失真矩阵每行每列都只有一个最小值“0”，所以可以达到Dmin=0，此时对应的信道转移概率矩阵应使得信源的每

1000

0100

个输出经过信道转移后失真为0，即选择P。

0010

0001

R（Dmin）=R（0）=H（U）=1-p*logp–（1-p）*log（1-p）=1+H（p）。

对应的转移概率矩阵可取任意1列为全1，如

1000

1000

P，此时R（Dmax）=R（1/2）=0。

1000

1000

14.设有一个二进制一阶马尔可夫信源，其信源符号为X∈（0,1），条件概率为

p（0/0）=p（1/0）=0.5p（1/1）=0.25p（0/1）=0.75

画出状态图并求出各符号稳态概率。

（15分）

0.5

0.5

0.25

0

1

0.75

15.设输入符号与输出符号为X＝Y∈{0,1,2,3}，且输入符号等概率分布。

设失真函数为汉明失真。

求Dmax和Dmin及R（Dmax）

和R（Dmin）（20分）

解：

px0

px1

px2

1

px3

4

失真矩阵的每一行都有

0，因此Dmin=0

16.设随机变量X

{x1,x2}

{0,1}和Y{y1,y2}

{0,1}的联合概率空间为

定义一个新的随机变量Z

XY（普通乘积）

计算熵H（X），H（Y），H（Z），H（XZ），H（YZ），以及H（XYZ）；

计算条件熵H（X|Y），H（Y|X），H（X|Z），H（Z|X），H（Y|Z），H（Z|Y），H（X|YZ），H（Y|XZ）以及H（Z|XY）；

计算平均互信息量

I（X；Y），I（X：

Z），I（Y：

Z），I（X；Y|Z），I（Y；Z|X）以及I（X：

，Z|Y）。

解：

（1）

X\Y0

1

1/

3/

1/

0

8

2

8

（2）3/1/1/1

882

1/1/

22

H（X|Y）1/2（1/4log24

3/4log2（4/3））

1/2（1/4log243/4log2（4/3））

（3）

I（X;Y）

H（X）

H（X|Y）

X\Z

0

1

I（X;Z）H（X）

H（X|Z）

0

1/

0

1/

2

2

17.设二元对称信道的输入概率分布分别为

3/

1/

[PX][3/41/4]

，转移矩阵为

1

1/

8

8

2

2/3

1/3

PY|X

1/3

，

7/

1/

2/3

8

8

求信道的输入熵，输出熵，平均互信息量；

Y\Z

0

1

求信道容量和最佳输入分布；

0

1/

0

1/

求信道剩余度。

2

2

解：

（1）信道的输入熵

3/

1/

1/

1

8

8

2

7/

1/

8

8

H（X）3/4log2（4/3）

1/4log24

；

2）最佳输入分布为[PX]

[1/2

1/2]，此时信道的容量为C1H（2/3,1/3）

（3）信道的剩余度：

CI（X;Y）

1/2

1/3

1

/6

设有ＤＭＣ，其转移矩阵为

PY|X

1/6

1/2

1

/3

，若信道输入概率为PX

0.50.250.25，试确定

1/3

1/6

1

/2

最佳译码规则和极大似然译码规则，并计算出相应的平均差错率。

1/4

1/6

1/12

F（b1）a1

解：

[PXY]

1/24

1/8

1/12

最佳译码规则：

F（b2）

a1

，平均差错率为1-