信息论与编码(第二版)曹雪虹(最全版本)答案信息论与编码(第二版)曹雪虹(最全版本)答案《信息论与编码(第二版)》曹雪虹答案第二章MACROBUTTONMTEditEquationSection2一个马尔可夫信源有3个符号,转移概率为:,,,,,,,,,画出状态图并求出各符号稳态概率。解:状态图如下状态转移矩阵为:设状态u1,u2,u3稳定后的概率分别为W1,W2、W3由得计算可得由符号集{0,1}组成的二阶马尔可夫链,其转移概率为:=,=,=,=,=,=,=,=。画出状态图,并计算各状态的稳态概率。解:于是可以列出转移概率矩阵:状态图为:�0100100...
练习题 用券下载整式乘法计算练习题幼小衔接专项练习题下载拼音练习题下载凑十法练习题下载幼升小练习题下载免费 :有一离散无记忆信源,其输出为,相应的概率为,设计两个独立的实验去观察它,其结果分别为,已知条件概率:P(y1|x)01012101/2111/2P(y2|x)01012110001(1)求和,并判断哪一个实验好些(2)求,并计算做Y1和Y2两个实验比做Y1和Y2中的一个实验可多得多少关于X的信息(3)求和,并解释它们的含义解:(1)由题意可知Y1X0101/40101/421/41/4Y2X0101/4011/40201/2P(y1=0)=p(y1=1)=1/2p(y2=1)=p(y2=1)=1/2=符号符号>所以第二个实验比第一个实验好P(y1y2x)0001101101/40001001/40201/401/4(2)因为Y1和Y2相互独立,所以P(y1y2|x)000110110100010010201/201/2y1y200011011p1/41/41/41/4bit/符号=符号由此可见,做两个实验比单独做Y1可多得1bit的关于X的信息量,比单独做Y2多得的关于X的信息量。(3)==符号表示在已做Y2的情况下,再做Y1而多得到的关于X的信息量同理可得=符号表示在已做Y1的情况下,再做Y2而多得到的关于X的信息量欢迎下载!第三章设二元对称信道的传递矩阵为(1)若P(0)=3/4,P(1)=1/4,求H(X),H(X/Y),H(Y/X)和I(X;Y);(2)求该信道的信道容量及其达到信道容量时的输入概率分布;解:1)2)其最佳输入分布为3-2某信源发送端有2个符号,,i=1,2;,每秒发出一个符号。接受端有3种符号,j=1,2,3,转移概率矩阵为。(1)计算接受端的平均不确定度;(2)计算由于噪声产生的不确定度;(3)计算信道容量。解:联合概率XY0则Y的概率分布为Y(1)取2为底(2)取2为底取e为底=0在有扰离散信道上传输符号0和1,在传输过程中每100个符号发生一个错误,已知P(0)=P(1)=1/2,信源每秒内发出1000个符号,求此信道的信道容量。解:由题意可知该二元信道的转移概率矩阵为:为一个BSC信道所以由BSC信道的信道容量计算公式得到:求图中信道的信道容量及其最佳的输入概率分布.并求当=0和1/2时的信道容量C的大小。解:信道矩阵P=,此信道为非奇异矩阵,又r=s,可利用方程组求解=(i=1,2,3)解得所以C=log=log[20+2×2(1-)log(1-)+]=log[1+21-H()]=log[1+2]而(j=1,2,3)得所以P(a1)=P(b1)=当=0时,此信道为一一对应信道,得C=log3,当=1/2时,得C=log2,,求下列二个信道的信道容量,并加以比较(1)(2)其中p+=1解:(1)此信道是准对称信道,信道矩阵中Y可划分成三个互不相交的子集由于集列所组成的矩阵,而这两个子矩阵满足对称性,因此可直接利用准对称信道的信道容量公式进行计算。C1=logr-H(p1’p2’p3’)-其中r=2,N1=M1=1-2N2=M2=4所以C1=log2-H(,p-ε,2ε)-(1-2)log(1-2)-2log4=log2+()log()+(p-ε)log(p-ε)+2εlog2ε-(1-2ε)log(1-2ε)-2εlog4ε=log2-2εlog2-(1-2ε)log(1-2ε)+()log()+(p-ε)log(p-ε)=(1-2ε)log2/(1-2ε)+()log()+(p-)log(p-)输入等概率分布时达到信道容量。(2)此信道也是准对称信道,也可采用上述两种方法之一来进行计算。先采用准对称信道的信道容量公式进行计算,此信道矩阵中Y可划分成两个互不相交的子集,由子集列所组成的矩阵为,这两矩阵为对称矩阵其中r=2,N1=M1=1-2N2=M2=2,所以C=logr-H(-,p-ε,2ε,0)-=log2+(-)log(-)+(p-ε)log(p-ε)+2εlog2ε-(1-2ε)log(1-2ε)-2εlog2ε=log2-(1-2ε)log(1-2ε)+(-)log(-)+(p-ε)log(p-ε)=(1-2ε)log2/(1-2ε)+2εlog2+(-)log(-)+(p-ε)log(p-ε)=C1+2εlog2输入等概率分布(P(a1)=P(a2)=1/2)时达到此信道容量。比较此两信道容量,可得C2=C1+2εlog23-6设有扰离散信道的传输情况分别如图3-17所示。求出该信道的信道容量。XY1/21/21/21/21/21/21/21/2图3-17解:对称信道取2为底bit/符号3-7(1)条件概率,联合概率,后验概率,,(2)H(Y/X)=(3)当接收为y2,发为x1时正确,如果发的是x1和x3为错误,各自的概率为:P(x1/y2)=,P(x2/y2)=,P(x3/y2)=其中错误概率为:Pe=P(x1/y2)+P(x3/y2)=(4)平均错误概率为(5)仍为(6)此信道不好原因是信源等概率分布,从转移信道来看正确发送的概率x1-y1的概率有一半失真x2-y2的概率有失真严重x3-y3的概率0完全失真(7)H(X/Y)=3.8设加性高斯白噪声信道中,信道带宽3kHz,又设{(信号功率+噪声功率)/噪声功率}=10dB。试计算该信道的最大信息传输速率Ct。解:3.9在图片传输中,每帧约有106个像素,为了能很好地重现图像,能分16个亮度电平,并假设亮度电平等概分布。试计算每分钟传送一帧图片所需信道的带宽(信噪功率比为30dB)。解:3-10一个平均功率受限制的连续信道,其通频带为1MHZ,信道上存在白色高斯噪声。(1)已知信道上的信号与噪声的平均功率比值为10,求该信道的信道容量;(2)信道上的信号与噪声的平均功率比值降至5,要达到相同的信道容量,信道通频带应为多大(3)若信道通频带减小为时,要保持相同的信道容量,信道上的信号与噪声的平均功率比值应等于多大解:(1)(2)(3)欢迎下载!第四章第五章5-1将下表所列的某六进制信源进行二进制编码,试问:消息概率u1u2u3u4u5u61/21/41/161/161/161/160000010100111001010010110111011110111110101101110111101111100101101110010011111100000101011011001001100101110111(1)这些码中哪些是唯一可译码(2)哪些码是非延长码(3)对所有唯一可译码求出其平均码长和编译效率。解:首先,根据克劳夫特不等式,找出非唯一可译码不是唯一可译码,而:又根据码树构造码字的方法,,的码字均处于终端节点他们是即时码5-2(1)因为A,B,C,D四个字母,每个字母用两个码,每个码为,所以每个字母用10ms当信源等概率分布时,信源熵为H(X)=log(4)=2平均信息传递速率为bit/ms=200bit/s(2)信源熵为H(X)==ms=198bit/s5-35-5(1)H(U)=(2)每个信源使用3个二进制符号,出现0的次数为出现1的次数为P(0)=P(1)=(3)(4)相应的香农编码信源符号xi符号概率pi累加概率Pi-Logp(xi)码长Ki码字x11/20110x21/42210x31/833110x41/16441110x51/325511110x61/6466111110x71/128771111110x81/12877相应的费诺码信源符号xi符号概率pi第一次分组第二次分组第三次分组第四次分组第五次分组第六次分组第七次分组二元码x11/200x21/41010x31/810110x41/16101110x51/321011110x61/6410111110x71/128101111110x81/1281(5)香农码和费诺码相同平均码长为编码效率为:(2)5-11(1)信源熵(2)香农编码:信源符号xi符号概率pi累加概率Pi-Logp(xi)码长Ki码字x10200x23010x33100x43101x541110x6511110平均码长:编码效率为(3)费诺编码为信源符号xi符号概率pi1234编码码长x100002x21012x310102x4101103x51011104x6111114平均码长为:编码效率:(4)哈夫曼编码信源符号xi符号概率pi编码过程编码码长x11012x2102x3112x40003x500104x600114平均码长为:编码效率:已知二元信源{0,1},其p0=1/4,p1=3/4,试用式()对序列编算术码,并计算此序列的平均码长。解:根据算术编码的编码规则,可得:P(s=)=P2(0)P6(1)=(3/4)6(1/4)2根据()可得:F(S)=P(0)+P(10)+P(110)+P(1110)+P(11110)+P(111110)=1–=1–P()–P()–P()–P()=1–P(111111)=1–(3/4)6==0.又P(S)=A(S)=,所以F(S)+P(S)=即得C=得S的码字为1101010平均码长为。CTRL+A全选可调整字体属性及字体大小-CAL-FENGHAI.NetworkInformationTechnologyCompany.2020YEARX0Y0111221-1-