信息论与编码2025|PDF|Epub|mobi|kindle电子书版本百度云盘下载

信息论与编码PDF格式电子书版下载

注意：本站所有压缩包均有解压码： 点击下载压缩包解压工具

第1章 绪论1

1.1信息的概念1

1.2信息论研究的对象、目的和内容10

1.3信息论发展简史与信息科学14

第2章 离散信源及其信息测度19

2.1信源的数学模型及分类19

2.2离散信源的信息熵23

2.2.1自信息23

2.2.2信息熵29

2.3信息熵的基本性质32

2.4信息熵的惟一性定理40

2.5离散无记忆的扩展信源44

2.6离散平稳信源47

2.6.1离散平稳信源的数学定义47

2.6.2离散二维平稳信源及其信息熵49

2.6.3离散平稳信源的极限熵53

2.7.1马尔可夫信源和m阶马尔可夫信源的定义57

2.7马尔可夫信源57

2.7.2m阶马尔可夫信源的信息熵61

2.8信源冗余度与自然语言的熵66

2.9意义信息和加权熵72

习题76

第3章 离散信道及其信道容量79

3.1信道的数学模型及分类79

3.1.1信道的分类79

3.1.2离散信道的数学模型80

3.1.3单符号离散信道的数学模型83

3.2平均互信息及平均条件互信息87

3.2.1信道疑义度87

3.2.2平均互信息88

3.2.3平均条件互信息91

3.3平均互信息的特性94

3.4信道容量及其一般计算方法98

3.4.1离散无噪信道的信道容量99

3.4.2对称离散信道的信道容量102

3.4.3准对称信道的信道容量105

3.4.4一般离散信道的信道容量106

3.5离散无记忆扩展信道及其信道容量112

3.6独立并联信道及其信道容量118

3.7串联信道的互信息和数据处理定理119

3.8信源与信道的匹配126

习题127

第4章 波形信源和波形信道130

4.1连续信源和波形信源的信息测度130

4.1.1连续信源的差熵131

4.1.2连续平稳信源和波形信源的差熵133

4.1.3两种特殊连续信源的差熵134

4.2连续信源熵的性质及最大差熵定理136

4.2.1差熵的性质136

4.2.2具有最大差熵的连续信源139

4.3熵功率141

4.4连续信道和波形信道的信息传输率142

4.4.1连续信道和波形信道的分类142

4.4.2连续信道和波形信道的信息传输率145

4.4.3连续信道平均互信息的特性147

4.5高斯加性波形信道的信道容量150

4.5.1单符号高斯加性信道151

4.5.2限带高斯白噪声加性波形信道152

习题157

第5章 无失真信源编码定理160

5.1编码器160

5.2等长码163

5.3渐近等分割性和ε典型序列166

5.4等长信源编码定理170

5.5.1惟一可译变长码与即时码173

5.5变长码173

5.5.2即时码的树图构造法175

5.5.3克拉夫特（Kraft）不等式177

5.5.4惟一可译变长码的判断法181

5.6变长信源编码定理183

习题191

第6章 有噪信道编码定理193

6.1错误概率和译码规则193

6.2错误概率与编码方法199

6.3联合ε典型序列207

6.4有噪信道编码定理213

6.5联合信源信道编码定理217

习题218

第7章 保真度准则下的信源编码221

7.1失真度和平均失真度222

7.1.1失真度222

7.1.2平均失真度225

7.2.1信息率失真函数227

7.2信息率失真函数及其性质227

7.2.2信息率失真函数的性质229

7.3信息率失真函数的参量表述及其计算234

7.4二元信源和离散对称信源的R（D）函数241

7.4.1 二元对称信源的R（D）函数241

7.4.2离散对称信源的R（D）函数244

7.5连续信源的信息率失真函数246

7.5.1连续信源的信息率失真函数246

7.5.2高斯信源的信息率失真函数247

7.7联合有失真信源信道编码定理250

7.6保真度准则下的信源编码定理250

7.8限失真信源编码定理的实用意义252

习题256

第8章 无失真的信源编码259

8.1霍夫曼（Huffman）码259

8.1.1二元霍夫曼码260

8.1.2r元霍夫曼码263

8.1.3霍夫曼码的最佳性264

8.2费诺（Fano）码267

8.3香农—费诺—埃利斯码269

8.4游程编码和MH编码271

8.4.1游程编码271

8.4.2MH编码277

8.5算术编码281

8.6字典码288

8.6.1 LZ—77编码算法288

附录C 熵函数的函数表289

8.6.2 LZ—78编码算法290

8.6.3 LZW编码算法292

8.6.4 K-Y（Kieffer-Yang）编码算法293

8.6.5 LZ复杂度和LZ码性能分析295

习题298

9.1差错控制的基本形式301

第9章 信道的纠错编码301

9.2纠错码分类与基本概念303

9.2.1纠错码的分类303

9.2.2纠错码的基本概念及其纠错能力305

9.3线性分组码的数学基础307

9.3.1群论基础307

9.3.2环与域311

9.3.3多项式理论314

9.3.4有限域的性质和代数结构318

9.3.5有限域上的线性代数324

9.4线性分组码328

9.4.1生成矩阵与一致校验矩阵328

9.4.2伴随式及标准阵列译码333

9.4.3缩短码、扩展码和增删码338

9.4.4汉明码339

9.5循环码342

9.5.1循环码结构及其描述342

9.5.2 由生成多项式的根定义循环码349

9.5.3循环码的译码352

9.6 BCH码357

9.6.1 BCH码的结构及其描述357

9.6.2 RS码和Goppa码362

9.7卷积码365

9.7.1卷积码的解析表示366

9.7.2卷积码的图表示369

9.8分组码性能分析371

习题374

附录A 凸函数和詹森不等式377

附录B 马尔可夫链382

B.1 马尔可夫链的定义382

B.2转移概率和转移矩阵382

B.3各态历经定理384

参考书目393