新書推薦:
《
锂电储能产品设计及案例详解
》
售價:NT$
505.0
《
首辅养成手册(全三册)
》
售價:NT$
551.0
《
清洁
》
售價:NT$
296.0
《
组队:超级个体时代的协作方式
》
售價:NT$
352.0
《
第十三位陪审员
》
售價:NT$
245.0
《
微观经济学(第三版)【2024诺贝尔经济学奖获奖者作品】
》
售價:NT$
709.0
《
Python贝叶斯深度学习
》
售價:NT$
407.0
《
文本的密码:社会语境中的宋代文学
》
售價:NT$
306.0
|
內容簡介: |
本书系统地论述信息论与纠错编码的基本理论。共有9章,内容包括:信息的定义和度量,离散信源和连续信源的信息熵,信道和信道容量,平均失真度和信息率失真函数,三个香农信息论的基本定理:无失真信源编码定理、限失真信源编码定理和信道编码定理,若干种常见实用的无失真信源压缩编码的方法,以及信道纠错编码的基本内容和分析方法。
本书深入浅出、概念清晰、系统性和可读性强。
|
關於作者: |
傅祖芸,自1968年至1979年在中国科技大学,1979年至1983年在中国科技大学,1983年至2000年在中国科学院研究生院.近三十年一直主要讲授本科生和研究生的专业基础课《信息论与编码》或《信息论基础》。自1980年起就编写《信息论与编码》方面的教材,所编写的《信息论基础》于1986年和1989年两次入选全国高等院校电子类第二轮、第三轮统编教材。1989年出版的《信息论基础》于1992年1月荣获第二届机械电子工业部电子类专业优秀教材一等奖。
|
目錄:
|
第1章 绪论
1.1 信息的概念
1.2 信息论研究的对象、目的和内容
1.3 信息论发展简史与信息科学
第2章 离散信源及其信息测度
2.1 信源的数学模型及分类
2.2 离散信源的信息熵
2.2.1 自信息
2.2.2 信息熵
2.3 信息熵的基本性质
2.4 信息熵的唯一性定理
2.5 离散无记忆的扩展信源
2.6 离散平稳信源
2.6.1 离散平稳信源的数学定义
2.6.2 离散二维平稳信源及其信息熵
2.6.3 离散平稳信源的极限熵
2.7 马尔可夫信源
2.7.1 马尔可夫信源和m阶马尔可夫信源的定义
2.7.2 m阶马尔可夫信源的信息熵
2.8 信源冗余度与自然语言的熵
2.9 意义信息和加权熵
习题
第3章 离散信道及其信道容量
3.1 信道的数学模型及分类
3.1.1 信道的分类
3.1.2 离散信道的数学模型
3.1.3 单符号离散信道的数学模型
3.2 平均互信息及平均条件互信息
3.2.1 信道疑义度
3.2.2 平均互信息
3.2.3 平均条件互信息
3.3 平均互信息的特性
3.4 信道容量及其一般计算方法
3.4.1 离散无噪信道的信道容量
3.4.2 对称离散信道的信道容量
3.4.3 准对称信道的信道容量
3.4.4 一般离散信道的信道容量
3.5 离散无记忆扩展信道及其信道容量
3.6 独立并联信道及其信道容量
3.7 串联信道的互信息和数据处理定理
3.8 信源与信道的匹配
习题
第4章 波形信源和波形信道
4.1 连续信源和波形信源的信息测度
4.1.1 连续信源的差熵
4.1.2 连续平稳信源和波形信源的差熵
4.1.3 两种特殊连续信源的差熵
4.2 连续信源熵的性质及最大差熵定理
4.2.1 差熵的性质
4.2.2 具有最大差熵的连续信源
4.3 熵功率
4.4 连续信道和波形信道的信息传输率
4.4.1 连续信道和波形信道的分类
4.4.2 连续信道和波形信道的信息传输率
4.4.3 连续信道平均互信息的特性
4.5 高斯加性波形信道的信道容量
4.5.1 单符号高斯加性信道
4.5.2 限带高斯白噪声加性波形信道
习题
第5章 无失真信源编码定理
5.1 编码器
5.2 等长码
5.3 渐近等分割性和ε典型序列
5.4 等长信源编码定理
5.5 变长码
5.5.1 唯一可译变长码与即时码
5.5.2 即时码的树图构造法
5.5.3 克拉夫特 Kraft不等式
5.5.4 唯一可译变长码的判断法
5.6 变长信源编码定理
习题
第6章 有噪信道编码定理
6.1 错误概率和译码规则
6.2 错误概率与编码方法
*6.3 联合ε典型序列
6.4 有噪信道编码定理
6.5 联合信源信道编码定理
习题
第7章 保真度准则下的信源编码
7.1 失真度和平均失真度
7.1.1 失真度
7.1.2 平均失真度
7.2 信息率失真函数及其性质
7.2.1 信息率失真函数
7.2.2 信息率失真函数的性质
7.3 信息率失真函数的参量表述及其计算
7.4 二元信源和离散对称信源的RD 函数
7.4.1 二元对称信源的RD函数
7.4.2 离散对称信源的RD函数
7.5 连续信源的信息率失真函数
7.5.1 连续信源的信息率失真函数
7.5.2 高斯信源的信息率失真函数
7.6 保真度准则下的信源编码定理
7.7 联合有失真信源信道编码定理
7.8 限失真信源编码定理的实用意义
习题
第8章 无失真的信源编码
8.1 霍夫曼(Huffman)码
8.1.1 二元霍夫曼码
8.1.2 r元霍夫曼码
8.1.3 霍夫曼码的最佳性
8.2 费诺(Fano)码
8.3 香农—费诺—埃利斯码
8.4 游程编码和MH编码
8.4.1 游程编码
8.4.2 MH编码
8.5 算术编码
8.6 字典码
8.6.1 LZ-77编码算法
8.6.2 LZ-78编码算法
8.6.3 LZW编码算法
8.6.4 KY(KiefferYang)编码算法
8.6.5 LZ复杂度和LZ码性能分析
习题
第9章 信道的纠错编码
9.1 差错控制的基本形式
9.2 纠错码分类与基本概念
9.2.1 纠错码的分类
9.2.2 纠错码的基本概念及其纠错能力
9.3 线性分组码的数学基础
9.3.1 群论基础
9.3.2 环与域
9.3.3 多项式理论
9.3.4 有限域的性质和代数结构
9.3.5 有限域上的线性代数
9.4 线性分组码
9.4.1 生成矩阵与一致校验矩阵
9.4.2 伴随式及标准阵列译码
9.4.3 缩短码、扩展码和增删码
9.4.4 汉明码
9.5 循环码
9.5.1 循环码结构及其描述
*9.5.2 由生成多项式的根定义循环码
9.5.3 循环码的译码
9.6 BCH码
9.6.1 BCH码的结构及其描述
*9.6.2 RS码和Goppa码
9.7 卷积码
9.7.1 卷积码的解析表示
9.7.2 卷积码的图表示
9.8 分组码性能分析
习题
附录A 凸函数和詹森不等式
附录B 随机过程
B.1 随机过程的基本概念
B.2 马尔可夫链
B.3 平稳随机过程
附录C 熵函数的函数表
附录D LDPC码简介
D.1 LDPC码的基本概念
D.2 LDPC码编码算法
D.3 LDPC码译码方法
D.4 校验矩阵的构造方法
D.5 LDPC码的应用与展望
参考书目及文献
|
內容試閱:
|
第二版前言
本书为“普通高等教育‘十一五’国家级规划教材”。
信息论与编码是一门应用概率论、随机过程和数理统计等方法来研究信息的存储、传输、处理、控制和利用的一般规律的科学。它主要研究如何提高信息系统的可靠性、有效性、保密性和认证性,以使信息系统最优化。自20世纪中叶香农信息论问世以来,信息理论本身得到不断发展和深化,尤其是在这个理论指导下,信息技术也得到飞快发展。这又使对信息的研究冲破了香农狭义信息论的范畴,几乎渗透到自然科学与社会科学的所有领域,从而形成了一门具有划时代意义的新兴学科——信息科学。所以信息论是信息科学发展的源泉,也是信息科学的基础理论。
当人类迈入21世纪——高度信息化时代以来,移动通信、互联网通信、多媒体技术、计算机技术、空间技术等信息技术出现了超出人们想象的、前所未有的发展速度。在这些领域中,只要涉及信息的存储、传输和处理的问题就要用到香农信息论的理论——无失真通信的传输速率极限(即香农极限)、无失真和限失真信源编码理论(即数据压缩原理)和信道编码理论(即纠错码理论)等。甚至日常生活娱乐中如数字激光影碟机、数字家庭音像系统等都普遍采用了纠错码技术和数据压缩技术。所以,现在人们对于信息论的基本理论已不再感到陌生、抽象和难以理解和掌握,也越来越感到学习和掌握信息理论的必要和重要。
在这种形势下,各高校的热门专业“信息工程技术专业”也得到快速发展,专业的知识结构也做了相应调整,都先后开设了“信息论与编码”的有关课程,作为本科生、研究生必修的专业基础课。与此同时,于1998年以来,全国几百所高校先后在理学院或数学系内新增设了“信息与计算科学专业”,报考这一专业的学生也与日俱增。根据2005年教育部下发的“信息与计算科学专业”的教学规范,“信息与计算科学专业”就是要培养具有良好的数学基础和数学思维能力,掌握信息或计算科学的基本理论、方法与技能,能解决信息科学技术和信息工程计算中实际问题的高级理论研究型人才和技术型人才。无可置疑,信息论与编码理论必然是此专业的必修基础课之一。
“信息论与编码”是一门既具有广泛的数学理论与知识,又有实际工程背景的课程,两者缺一不可。对信息工程技术类专业的学生来说,他们具有一定的通信、电子和计算机方面的实际工程知识,虽然已有一定的数学基础,但学生普遍对繁杂的数学公式感到困难而望而止步。对数学系信息与计算科学专业的学生来说,虽然他们具有较好的数学基础和数学思维能力,但更突出的是缺乏通信、电子等方面的实际工程知识。
针对上述情况,依据作者多年在信息论与编码方面的教学和科研经验及近年来对“信息与计算科学专业”的学生讲授“信息论与编码”课的教学实践总结,我们反复商讨,决定以《信息论——基础理论与应用》(第三版)[15]一书为蓝本,基本保留原有体系,删去一些对本科生来说较深的内容,以及在后续课程中将要讲述的内容,增加压缩编码和纠错码的内容,终而编写成本书,以期能适应不同专业的需求。
本书主要是系统地介绍香农(Shannon)信息论和编码理论。全书注重基本概念、基本定理和基本分析方法的论述,并列举许多例题,结合实例建立概念和数学模型,给出详细的、必要的数学推演过程和证明,力求物理概念清晰,逻辑性、系统性强,数学结构严谨完整又避免纯数学的枯燥乏味。在内容的编排上,力求由浅入深、循序渐进,合理而系统地安排章节。全书力求做到既有实际应用背景,又有清晰的数学概念和数学思想。
全书共分9章。第1、2、3、4章是全书的基础。首先阐述信息的概念,引出香农信息的定义,信息论研究的目的、内容。在这基础上讨论各类离散信源、连续和波形信源的信息测度——信息熵及离散信道、连续和波形信道的信息传输率与信道容量。第5、6、7章主要论述香农信息论的三个基本定理——离散信源的无失真编码定理、有噪信道编码定理及限失真信源编码定理。此部分内容是香农信息论的核心部分。第8章介绍若干种常见实用的无失真信源压缩编码方法。第9章在给出必要的数学知识基础上,论述信道纠错编码的基本内容和分析方法及一些主要的信道编码方法。为帮助读者掌握分析和解决问题的能力,各章配有大量的习题。书后的附录,为读者提供了所需的一些数学基础知识。读者在学习本书前,最好请先阅读附录B,以便对随机过程知识有个初步的概念。为配合本书的学习和解题,作者编写出版了《信息论与编码学习辅导及习题详解》[27]一书,可供读者学习使用。
全书在三个定理证明上采用了统一的弱ε典型序列的分析方法,使定理证明简捷明了。但这些章节均标以 “*”号出现。书中标有“*”的章节和小字体部分均属于严格的数学证明或加深、加宽的内容。各高校、各专业可根据学时的多少或学生的知识程度适当取舍,省略“*”的章节和小字体部分。省略后并不影响全书的系统性、逻辑性和可读性。所以本书可作为数学系信息与计算科学专业的教材,也可作为信息与通信工程技术相关专业的教材。
本书由傅祖芸主编,第8章字典码一节、第9章和部分附录由赵建中编写,并由傅祖芸负责全书的修改和统编。孙建京、路而红、刘泉、彭一凡、陈立、陈元熹、赵黎明、赵悦、施燕琼、高兰等同志参与了审稿、绘图、誊抄等大量工作,张晋民对全书进行审校,在此表示衷心的感谢。
在本书的编写过程中,参阅了国内外一些经典著作,均列于参考书目中,在此谨向作者表示深切谢意。
电子工业出版社陈晓莉编审对本书的出版做了大量的工作并提出了宝贵的意见,使本书得以顺利出版,也在此深表感谢。
有关书中的不妥和错误之处,殷切希望广大读者予以批评指正。
作者
2014年3月
|
|