信息论基础（含习题与解答）

书籍目录

《信息论基础（含习题与解答）》目录：

前言

第1章绪论

1.1信息概念和特性

1.2熵的概念

1.3信息论研究的基本问题和主要内容

1.3.1信息论研究的基本问题

1.3.2信息论研究内容

1.4香农简介

1.5本书结构

1.6本章小结

第2章数学基础

2.1概率论基础

2.1.1概率空间

2.1.2随机变量与分布函数

2.1.3多维随机变量及其分布

2.1.4数字特征

2.1.5大数定律及中心极限定理

2.2马尔可夫链

2.2.1有限状态马氏链

2.2.2状态转移概率

2.2.3齐次马氏链

2.2.4马氏链的平稳分布

2.3凸函数和常用不等式

2.3.1凸函数

2.3.2常用不等式

2.4本章小结

习题

第3章信息度量和熵

3.1自信息、条件自信息和联合自信息

3.1.1自信息

3.1.2条件自信息

3.1.3联合自信息

3.2互信息和信息敞度

3.2.1互信息定义

3.2.2互信息的性质

3.2.3条件互信息

3.2.4信息散度

3.3离散集合的平均信息量（熵）

3.3.1信息熵

3.3.2条件熵

3.3.3联合熵

3.3.4熵的基奉性质

3.3.5各类熵的关系

3.3.6熵函数的唯一性

3.3.7通信系统中熵的意义

3.4平均互信息

3.4.1平均互信息定义

3.4.2平均互信息与熵的关系

3.4.3平均互信息的性质

3.4.4多随机变量的互信息

3.5本章小结

习题

第4章信源和熵

4.1信源的分类与数学模型

4.1.1信源的分类

4.1.2信源的数学模型

4.2离散信源

4.2.1离散无记忆信源和熵

4.2.2离散平稳信源和熵

4.2.3马尔可夫信源

4.2.4信源的冗余度

4.3连续信源

4.3.1连续信源的熵与平均互信息

4.3.2连续随机变量信息散度

4.3.3几种特殊分布连续信源熵

4.3.4最大熵定理

4.3.5熵功率

4.3.6随机矢量通过线性系统后信息的变化

4.3.7符号持续时间不同信源的熵

4.4本章小结

习题

第5章信道与信道容量

5.1信道的特性及其分类

5.1.1信道模型

5.1.2信道分类

5.2离散信道及其容量

5.2.1离散信道数学模型

5.2.2离散信道容量

5.2.3多符号离散信道的容量

5.3连续／波形信道及其容量

5.3.1加性噪声信道和容量

5.3.2加性商斯信道和容量

5.3.3加性非高斯信道的容量

5.3.4多维无记忆加性高斯信道

5.3.5限频限功率高斯信道的容量

5.3.6香农信道编码定理

5.4本章小结

习题

第6章无失真信源编码

6.1信源编码简介

6.2离散信源定长编码

6.2.1典型序列与信源序列的渐近均分特性

6.2.2定长编码定理

6.2.3定长码参数

6.3离散信源变长编码

6.3.1变长码的唯一可译性和即时性

6.3.2Kraft不等式

6.3.3变长编码定理

6.3.4变妊码参数

6.4平稳信源和Markov信源的编码

6.4.1平稳倩源的编码

6.4.2马尔可夫信源的编刚

6.5变长编码方法

6.5.1香农编码

6.5.2Fano编码

6.5.3Huffman编码

6.5.4实朋的信源编码方法

6.6本章小结

习题

第7章限失真信源编码

7.1系统模型和失真测度

7.1.1系统模型

7.1.2失真测度

7.1.3失真函数举例说明

7.2信息率失真函数

7.2.1定义

7.2.2信息率失真函数的性质

7.2.3简单信源的信息率失真函数

7.3离散信源月（D）讨’算

7.3.1离散信源信息率失真函数的参量表示

7.3.2离散信源R（D）求解矢量／矩阵表示

7.3.3参量s的意义

7.3.4离散信源R（D）的迭代计算

7.4连续信源的信息率失真函数

7.4.1连续信源的平均失真函数

7.4.2d（x，y）只与x—y有关情况下率失真函数的求解

7.4.3高斯信源的率失真函数

7.4.4限带高斯信源的率失真函数

7.4.5一般信源率失真函数的上限和下限

7.5限失真信源编码定理

7.6本章小结

习题

第8章MIMO信道模型及容量

8.1引言

8.2无线信道特性—

8.2.1路径损耗

8.2.2信道衰落

8.2.3信道扩展

8.2.4信道相关性

8.3MIMO信道模型

8.3.1常见信道模型

8.3.2基本信道模型

8.3.3扩展信道模型

8.4MIMO信道容量

8.4.1确定性MIMO信道

8.4.2随机性MIMO信道

8.5本章小结

习题

9.1信道模型

9.1.1删除信道

9.1.2无线信道

9.2数字喷泉码的数学描述

9.2.1数字喷泉码的定义

9.2.2数字喷泉码的Tanner图

9.2.3数字喷泉码的度分布函数

9.3典型的数字喷泉码

9.3.1LT码

9.3.2Raptor码

9.4数字喷泉码的泽码算法

9.4.1删除信道中的译码算法

9.4.2无线信道中的译码算法

9.5数字喷泉码的密度演化分析方法

9.5.1删除信道中的密度演化

9.5.2无线信道中的密度演化

9.6本章小结

参考文献

……

《信息论基础习题与解答》

作者简介

信息论为电子通信专业核心课程，也为必修课程。本课程以信息熵为基本概念，以仙农的三个基本定理为核心，系统地讲述了仙农信息论的基本理论。在教学模式上，对信息论课程采用理论教学为主。在教学方法上，采用课堂教学和仿真实验结合来进行。教学手段上，结合讲授内容，安排中课堂的计算机仿真实例演示。同时要求学生通过使用MATLAB仿真工具，经过验证的算法，对课本相关理论和算法进行实验验证，提高了学生的学习兴趣和实际能力。以专题式讲座、讨论式教学、研究式教学的逐步深入的研究生专业课程教学方法。

 信息论基础（含习题与解答）下载