长安大学信息论试题及答案

x8 0.0078125 0.9921875 二进制费诺码：

xi x1 x2 x3 x4 x5 x6 x7 x8 p(xi) 0.5 0.25 0.125 0.0625 0.03125 0.015625 0.0078125 0.0078125 0 0 0 编码 0 7 1111111 码字 0 0 1 0 10 110 1110 11110 111110 1111110 1111111 ki 1 2 3 4 5 6 7 7 0 （3）香农编码效率

11111111K??kip(xi)??1??2??3??4??5??6??7??7248163264128128i?1.984??H(X)H(X)1.984???100%R1.984K

费诺编码效率

11111111K??kip(xi)??1??2??3??4??5??6??7??7248163264128128i?1.984??H(X)H(X)1.984???100%R1.984K

4

xi x1 x2 x3 x4 x5 x6 x7 x8 （5）

p(xi) 0.5 0.25 0.125 0.0625 0.03125 2 0.015625 0 1 编码 码字 0 1 20 21 220 221 0 2220 ki 1 1 2 2 3 3 4 4 0 1 0 1 2 2 0.0078125 0.0078125 1 2221 K??kip(xi)?i11111111?1??1??2??2??3??3??4??4248163264128128?1.328??H(X)H(X)1.984???94.3%RK?log2m1.328?log23

4.咱本科教材98页

5.答：1）二元码的码字依序为：10，11，010，011，1010，1011，1000，1001。 平均码长

，编码效率

2）三元码的码字依序为：1，00，02，20，21，22，010，011。

平均码长

，编码效率

6.答：1）最大似然译码准则下，有，

2）最小错误概率准则下，有

，

7.答：1）输入为00011时，码字为00011110；输入为10100时，码字为10100101。 2）

8.答：1）无错传输时，有即则2）在

时，最大熵

对应的输入概率密度函数为