本书系统地介绍了信息论的发展过程、经典理论和一些新进展，内容比较全面。全书共分八章，内容包括随机变量的信息度量、随机过程的信息度量和渐近等分性、数据压缩和无失真信源编码、数据可靠传输和信道编码、限失真信源编码和率失真函数、连续信源和信道编码理论、网络信息理论、信息论和最优资产组合理论。本书深入浅出，简明扼要，推导严谨，内容涵盖了从经典的香农信息论的基本内容到多用户信息论和网络编码的新进展，还有近年来热门的在金融领域中的应用等，具有一般微积分和概率论基础的读者均可阅读，适合作为数学、计算机、电子等专业的本科生和研究生教材，也可作为从事通信和相关领域的工程技术人员的参考用书。
- 前辅文
- 第1章 随机变量的信息度量
- 1.1 自信息
- 1.2 熵、联合熵、条件熵
- 1.3 相对熵和互信息
- 1.4 信息量的一些基本性质
- 1.5 广义熵
- 习题1
- 注记及延伸阅读
- 第2章 随机过程的信息度量和渐近等分性
- 2.1 信源和随机过程的基本概念
- 2.2 随机过程的信息度量
- 2.3 渐近等分性质
- 2.4 渐近等分性在数据压缩中的应用------信源编码定理
- 2.5 香农--麦克米兰--布瑞曼定理
- 习题2
- 注记及延伸阅读
- 第3章 数据压缩和无失真信源编码
- 3.1 等长码
- 3.2 变长编码
- 3.3 哈夫曼码
- 3.4 算术码
- 3.4.1 香农--费诺码
- 3.4.2 自适应算术码
- 3.5 通用无失真信源编码
- 3.5.1 LZ 算法
- 3.5.2 LZW 算法
- 3.5.3 柯佛--杨算法(基于语法的普适信源压缩算法)
- 习题3
- 注记及延伸阅读
- 第4章 数据可靠传输和信道编码
- 4.1 离散无记忆信道和信道容量
- 4.2 信道容量的计算
- 4.2.1 拉格朗日乘子法
- 4.2.2 信道容量的迭代算法
- 4.3 信道编码理论
- 4.3.1 一些定义和概念
- 4.3.2 联合典型序列
- 4.3.3 信道编码定理
- 4.4 带反馈的信道模型
- 4.5 联合信源--信道编码定理
- 4.6 线性分组码
- 习题4
- 注记及延伸阅读
- 第5章 限失真信源编码和率失真函数
- 5.1 限失真信源编码模型和率失真函数
- 5.1.1 限失真信源编码模型和率失真函数定义
- 5.1.2 率失真函数的性质
- 5.1.3 平稳信源的率失真函数
- 5.2 率失真函数的计算
- 5.2.1 一个简单的例子
- 5.2.2 拉格朗日乘子法
- 5.2.3 迭代算法
- 5.3 限失真信源编码定理
- 习题5
- 注记及延伸阅读
- 第6章 连续信源和信道编码理论
- 6.1 可微熵
- 6.2 相对熵和互信息
- 6.3 连续信源的率失真函数
- 6.3.1 率失真函数和失真率函数
- 6.3.2 高斯信源的率失真函数
- 6.3.3 一般连续信源的率失真函数
- 6.4 高斯信道
- 6.4.1 有加性噪声的信道模型和信道容量
- 6.4.2 复合高斯信道和平稳高斯信道
- 习题6
- 注记及延伸阅读
- 第7章 网络信息理论
- 7.1 网络通信模型
- 7.2 多变量联合典型序列
- 7.3 多址信道
- 7.3.1 二址信道模型和编码定理
- 7.3.2 多址信道容量区域的计算
- 7.3.3 高斯多址信道
- 7.4 相关信源编码
- 7.5 相关信源和多址信道复合编码问题
- 7.6 网络编码
- 7.6.1 几个例子
- 7.6.2 最大流--最小截定理
- 7.6.3 线性网络编码
- 习题7
- 注记及延伸阅读
- 第8章 信息论和最优资产组合理论
- 8.1 证券市场的均值--方差资产组合理论简介
- 8.2 基于信息熵的最优资产组合模型
- 8.2.1 基于香农熵的最大熵资产组合
- 8.2.2 基于广义2--次熵的最大熵资产组合
- 8.2.3 三种模型的比较
- 8.3 赌徒的困惑和凯利准则
- 8.4 log--最优资产组合模型
- 8.4.1 倍率函数和log--最优资产组合
- 8.4.2 序列投资模型
- 8.4.3 投资决策中信息作用的模型
- 习题8
- 注记及延伸阅读
- 后记 信息论的推广和应用
- 参考文献
