信息论自学报告

信息论自学报告《信息论与编码》课程自学报告题目：信息率失真函数学号：11124636姓名：于鹏伟任课教师：黄素娟联系方式：18817394459二零一四年2月18日信息率失真函数1、基本概念1.1失真函数与平均失真度1、失真函数用来表征信源发出一个符号ai，而在接收端再现成符号bj所引起的误差或失真。d越小表示失真越小，等于0表示没有失真。可以将所有的失真函数排列成矩阵的形式称失真矩阵常用的失真函数：（1）当=1时，失真函数变为此时的失真函数称为汉明失真函数。（2）这种失真函数称为平方误差失真函数，相应的失真矩阵称为平方误差失真...

《信息论与编码》课程自学报告题目：信息率失真函数学号：11124636姓名：于鹏伟任课教师：黄素娟联系方式：18817394459二零一四年2月18日信息率失真函数1、基本概念1.1失真函数与平均失真度1、失真函数用来表征信源发出一个符号ai，而在接收端再现成符号bj所引起的误差或失真。d越小表示失真越小，等于0表示没有失真。可以将所有的失真函数排列成矩阵的形式称失真矩阵常用的失真函数：（1）当=1时，失真函数变为此时的失真函数称为汉明失真函数。（2）这种失真函数称为平方误差失真函数，相应的失真矩阵称为平方误差失真矩阵。2、平均失真度为失真函数的数学期望，即是在X和Y的联合概率空间P(XY)中的统计平均值。若平均失真度不大于我们所允许的失真D(预先给定的某一限定值)，我们称此为保真度准则。1.2信息率失真函数的定义由于互信息取决于信源分布和信道转移概率分布，当p(ai)一定时，互信息I是关于p(bj/ai)的下凸函数，存在极小值。因而在上述允许信道PD中，可以寻找一种信道p(bj/ai)使给定的信源p(ai)经过此信道传输后，互信息I(X；Y)达到最小。该最小的互信息就称为信息率失真函数R(D)，即对于给定的信源，在满足保真度准则下，必须传送的最小信息量,它既反映了用户容忍程度,也反映了信息率允许压缩的最小值,R(D)越大,越难压缩,反之可压缩率就大.1.3信息率失真函数的性质1、率失真函数的定义域为(0,Dmax)。当平均失真D=0时，率失真函数R(D)=R(0)=H(X)。当D=Dmax时，R(Dmax)=0。将所有满足R(D)=0的D的最小值，定义为R(D)定义域的上限Dmax。2、R(D)是关于D的下凸函数，因而也是关于D的连续函数。3、R(D)是关于D的严格递减函数。2.离散信源的信息率失真函数2.1离散信源信息率失真函数的参量表达式求解方法与求解一般信道容量的方法一样，是求在约束条件下的条件极值问题，可用拉格朗日乘子法。以S为参量的平均失真函数D（S）和信息率失真函数R（S）。参量S的说明S为R(D)函数的斜率。由于R(D)是严格递减的下凸函数，所以S必为负值。S是D的递增函数，D从0变到Dmax，S将逐渐增加；当D=0时(R(D)的斜率)：S的最小值趋于负无穷。当D=Dmax时：S达到最大；这个最大值也是某一个负值，最大是0。当D>Dmax时：在D=Dmax处，除某些特例外，S将从某一个负值跳到0，S在此点不连续。在D的定义域[0,Dmax]内，除某些特例外，S将是D的连续函数。2.2二元及等概率离散信源的信息率失真函数设二元离散信源概率分布为再设失真函数为对称函数，相应的失真矩阵为输出符号集，则信息率失真函数3.保真度准则下的信源编码定理对于无失真信源编码来说，在允许一定失真的情况下，信源输出信息率最少可减少到信息率失真函数R(D)，有可能是多个信源符号（符号序列）对应一个码字（码字序列）。失真信源编码定理就是关于信息率和失真关系的一个极限定理，也称香农第三定理，即是保真度准则下的离散信源限失真信源编码定理。R(D)是保真度准则下，信源信息率压缩的下限值。无失真信源编码信息率压缩的下限值是信源熵H(X)，而所以香农第三定理是限失真信源信息率压缩的理论基础。把香农第三定理和第二定理结合起来，有可能实现有效性和可靠性的优化。香农三大定理的共同点：H(X)、C、R(D)分别为临界值，衡量通信能否满住要求的重要界限。4.信源编码或信道编码典型案例的实现方案数字电视数字电视是数字电视系统的简称，是指音频、视频和数据信号从信源编码、调制到接收和处理均采用数字技术的电视系统。主要核心技术包括信源编码、信道编码和显示技术。信源编码的目的是提高信源的传输效率，去除冗余度。信源编码技术解决的重点问题是数字音视频海量数据的编码压缩问题。图像信号的常用压缩编码方法或技术：（1）图象预测编码：图象数据具有很强的相关性，因而可以通过对一个或多个像素的观测，预测出未来相邻像素的估计值，这就是预测编码的思想。（2）变换编码：变换编码法是将常用的以时间为横轴的波形样值（时域波形），以某种数学方法变换到另外正交矢量空间（变换域）进行描述，从而使图像的描述十分简单，再对其进行编码的方法。（3）Huffman编码（可变字长编码VLC）：是最常见的一种熵编码方法。这种编码方法的基本思想是，对出现概率较大的符号（电平）取较短的码，而对概率较小的符号则取较长的码，因此，它是一种变长码，下面用例子加以说明。（4）帧内图像数据压缩技术：以图像区块为基础的进行，在相临区块间使用预测编码，在同一区块内使用变换编码。变换编码在MPEG中使用离散余弦变换（DCT），我国在AVS标准中使用整数余弦变换（ICT）。（5）活动图像的帧间压缩技术信道编码是指纠错编码。为了能在接收端和纠正传输中出现的错误，信道编码在发送的信号中增加了一部分冗余码，即通过牺牲信息传输的效率来换取可靠性的提高。5、参考文献⑴曹雪红张宗橙：《信息论与编码》第二版，清华大学出版社，2009.2⑵陈运：《信息论与编码》第二版，电子工业出版社，2007

                    本文档为【信息论自学报告】，请使用软件OFFICE或WPS软件打开。作品中的文字与图均可以修改和编辑，
                    图片更改请在作品中右键图片并更换，文字修改请直接点击文字进行修改，也可以新增和删除文档中的内容。 
 该文档来自用户分享，如有侵权行为请发邮件ishare@vip.sina.com联系网站客服，我们会及时删除。

                    [版权声明] 本站所有资料为用户分享产生，若发现您的权利被侵害，请联系客服邮件isharekefu@iask.cn，我们尽快处理。

                    本作品所展示的图片、画像、字体、音乐的版权可能需版权方额外授权，请谨慎使用。

                    网站提供的党政主题相关内容(国旗、国徽、党徽..)目的在于配合国家政策宣传，仅限个人学习分享使用，禁止用于任何广告和商用目的。
                

下载需要：免费已有0 人下载

立即下载

信息论自学报告

你可能还喜欢