信息论试卷含答案Word下载.doc
《信息论试卷含答案Word下载.doc》由会员分享，可在线阅读，更多相关《信息论试卷含答案Word下载.doc（6页珍藏版）》请在冰点文库上搜索。
8、若连续信源输出信号的平均功率为，则输出信号幅度的概率密度是高斯分布或正态分布或时，信源具有最大熵，其值为值。
9、在下面空格中选择填入数学符号“”或“”
（1）当X和Y相互独立时，H（XY）=H（X）+H（X/Y）=H（Y）+H（X）。
（2）
（3）假设信道输入用X表示，信道输出用Y表示。
在无噪有损信道中，H（X/Y）>
0,H（Y/X）=0,I（X;
Y）<
H（X）。
二、（6分）若连续信源输出的幅度被限定在【2,6】区域内，当输出信号的概率密度是均匀分布时，计算该信源的相对熵，并说明该信源的绝对熵为多少。
=2bit/自由度
该信源的绝对熵为无穷大。
三、（16分）已知信源
（1）用霍夫曼编码法编成二进制变长码；
（6分）
（2）计算平均码长;
（4分）
（3）计算编码信息率;
（2分）
（4）计算编码后信息传输率;
（5）计算编码效率。
（1）
编码结果为：
（3）
（4）其中，
（5）
评分：
其他正确的编码方案：
1，要求为即时码2，平均码长最短
四、（10分）某信源输出A、B、C、D、E五种符号，每一个符号独立出现，出现概率分别为1/8、1/8、1/8、1/2、1/8。
如果符号的码元宽度为0.5。
计算：
（1）信息传输速率。
（5分）
（2）将这些数据通过一个带宽为B=2000kHz的加性白高斯噪声信道传输，噪声的单边功率谱密度为。
试计算正确传输这些数据最少需要的发送功率P。
解：
（1）
五、（16分）一个一阶马尔可夫信源，转移概率为
。
（1）画出状态转移图。
（2）计算稳态概率。
（3）计算马尔可夫信源的极限熵。
（4）计算稳态下,及其对应的剩余度。
（2）由公式
有
得
（3）该马尔可夫信源的极限熵为：
（4）在稳态下：
对应的剩余度为
六、设有扰信道的传输情况分别如图所示。
试求这种信道的信道容量。
信道传输矩阵如下
可以看出这是一个对称信道，L=4,那么信道容量为
七、（16分）设X、Y是两个相互独立的二元随机变量，其取0或1的概率相等。
定义另一个二元随机变量Z=XY（一般乘积）。
试计算
（1）
（2）
（3）
（4）;
Z
1
P（Z）
3/4
1/4
（4）
八、（10分）设离散无记忆信源的概率空间为，通过干扰信道，信道输出端的接收符号集为，信道传输概率如下图所示。
（1）计算信源中事件包含的自信息量；
（2）计算信源的信息熵；
（3）计算信道疑义度；
（4）计算噪声熵；
（5）计算收到消息后获得的平均互信息量。
（3）转移概率：
xy
y1
y2
x1
5/6
1/6
x2
联合分布：
2/3
12/15
4/5
3/20
1/20
1/5
49/60
11/60
（5）
《信息论基础》试卷
升级会员 