信息論與編碼（簡體書）

第1章 緒論
1.1 通信與信息的基本概念
1.1.1 消息和信號
1.1.2 信息
1.2 信息論及信息科學
1.2.1 信息科學的創立
1.2.2 信息科學與信息產業的發展
1.3 信息論的研究範疇
1.3.1 香農信息論（狹義信息論）
1.3.2 一般信息論
1.3.3 廣義信息論
本章小結
習題

第2章　信源描述及信息的度量
2.1 信源的數學模型及分類
2.1.1 離散信源
2.1.2 連續信源
2.1.3 平穩信源
2.1.4 自然語信源
2.2 信息的度量
2.2.1 度量信息的基本思路
2.2.2 自信息量與不確定度的關係
2.3 離散信源的信息熵
2.3.1 信源的信息熵
2.3.2 條件自信息量和條件熵
2.4 互信息量
2.4.1 互信息量
2.4.2 條件互信息量
2.4.3 平均互信息量
2.4.4 疑義度和噪聲熵
2.5 數據處理中的信息變化
2.5.1 n維隨機變量的熵
2.5.2 n維隨機變量的信息傳遞
2.5.3 數據處理中的信息變化
2.6 離散平穩信源
2.7 離散信源的熵和時間熵
2.7.1 離散信源的熵
2.7.2 離散信源的時間熵
本章小結
習題

第3章　離散信源的信源編碼
3.1 信源的冗餘度
3.2 信源符號序列分組定理
3.3 信源編碼模型及最佳編碼
3.3.1 信源編碼模型
3.3.2 最佳編碼
3.4 變長碼的信源編碼
3.4.1 唯一可譯碼與即時碼
3.4.2 Kraft不等式
3.4.3 平均碼長界定定理
3.5 等長碼的信源編碼定理
3.6 無失真信源編碼
3.6.1 香農第一定理
3.6.2 香農編碼
3.6.3 費諾編碼
3.6.4 霍夫曼編碼
3.6.5 算術編碼
3.6.6 游程編碼
3.6.7 Lempel-Ziv編碼
3.7 信源編碼的錯誤擴散
本章小結
習題

第4章 離散信道的信道容量
4.1 信道的分類及數學模型
4.1.1 信道的分類
4.1.2 離散信道的數學模型
4.2 單符號離散信道的數學模型
4.2.1 二進制對稱信道
4.2.2 二進制刪除信道
4.3 單符號離散信道的信道容量
4.3.1 信息傳輸速率和信道容量
4.3.2 幾種特殊離散信道的信道容量
4.3.3 獨立並聯信道的信道容量
4.3.4 串聯信道的信道容量
4.4 多符號離散信道的信道容量
4.4.1 多符號離散對稱信道的信道容量
4.4.2 離散無記憶擴展信道的信道容量
本章小結
習題

第5章 有擾離散信道編碼定理
5.1 譯碼準則
5.1.1 最小錯誤概率準則
5.1.2 最大似然譯碼準則
5.2 費諾不等式
5.3 漢明距離
5.3.1 錯誤概率與編碼方法
5.3.2 漢明距離
5.4 有擾離散信道的信道編碼定理
本章小結
習題

第6章 連續信源和連續信道
6.1 連續消息的信息度量
6.1.1 連續信源的相對熵
6.1.2 幾種典型連續信源的相對熵
6.1.3 連續消息的條件熵
6.1.4 連續消息的平均互信息量
6.2 最大相對熵定理
6.2.1 相對熵的性質
6.2.2 最大相對熵定理
6.3 熵功率
6.3.1 連續信源熵的變換
6.3.2 熵功率
6.3.3 熵功率不等式
6.3.4 噪聲
6.4 香農信道容量公式
6.4.1 連續信道的信道容量
6.4.2 香農信道容量公式
6.5 連續信源編碼
6.5.1 標量量化與理想接收機
6.5.2 矢量量化編碼
6.5.3 預測編碼
本章小結
習題

第7章 信息率失真理論及其應用
7.1 失真度和平均失真度
7.1.1 失真度
7.1.2 平均失真度
7.2 信息率失真函數
7.2.1 保真度準則及D0失真許可的試驗信道
7.2.2 信息率失真函數
7.2.3 信息率失真函數的性質
7.3 信息率失真函數的計算
7.3.1 誤碼失真條件下離散信源的信息率失真函數
7.3.2 離散信源的R(D)參量表示
7.3.3 連續信源的信息率失真函數
7.4 保真度準則下的信源編碼定理
7.5 信息價值
本章小結
習題

第8章 網絡信息理論基礎
8.1 多用戶信息傳輸系統模型
8.2 多址接入信道及其信道容量
8.2.1 基本概念
8.2.2 二進制接入信道
8.2.3 N進制接入信道
8.2.4 高斯加性多址信道
8.2.5 廣播信道的信道容量
8.3 相關信源的基本理論
8.3.1 離散無記憶相關信源的編碼定理
8.3.2 相關信源通過接入信道的傳輸定理
8.3.3 相關信源的邊信息與公信息
本章小結
習題

第9章 差錯控制基礎
9.1 差錯控制的途徑和基本方式
9.1.1 插入冗餘度
9.1.2 差錯隨機化
9.1.3 參量權衡
9.2 糾錯編碼的基本概念
9.2.1 糾錯編碼的分類
9.2.2　糾錯編碼的基本概念
9.3 糾錯編碼的檢、糾錯能力
9.4 近世代數基礎
9.4.1 整數
9.4.2 群
9.4.3 環
9.4.4 域
9.4.5 多項式環和域
9.4.6 GF(2)的擴域GF(2m)
9.4.7 矢量空間
本章小結
習題

第10章 線性分組碼
10.1 線性分組碼的基本概念
10.1.1 線性分組碼的描述
10.1.2 生成矩陣和校驗矩陣
10.1.3 系統碼
10.2 線性分組碼的編譯碼
10.2.1 線性分組碼的編碼
10.2.2 線性分組碼的譯碼
10.3 線性分組碼的糾、檢錯性能
10.3.1 線性分組碼的距離與重量的關係
10.3.2 極大最小距離碼（MDC）
10.3.3 伴隨式譯碼的性能
10.4 漢明碼和格雷碼
10.4.1 完備碼
10.4.2 漢明碼
10.4.3 格雷碼
10.5 循環碼
10.5.1 循環碼的定義與描述
10.5.2 循環碼的生成矩陣和校驗矩陣
10.5.3 循環碼的編碼
10.5.4 循環碼的譯碼
10.5.5 循環碼的縮短與擴展
10.6 BCH碼
10.6.1 BCH碼的編碼
10.6.2 BCH碼的譯碼
10.7 R-S碼
本章小結
習題

第11章 卷積碼
11.1 基本概念
11.2 卷積碼的編碼
11.2.1 生成矩陣描述
11.2.2 多項式描述
11.2.3 狀態圖描述
11.2.4 樹圖描述
11.3 卷積碼的譯碼
11.3.1 網格圖
11.3.2 維特比譯碼
11.3.3 序列譯碼
11.4 卷積碼的特性
11.4.1 卷積碼的碼率
11.4.2 卷積碼的距離特性
11.4.3 惡性卷積碼及譯碼的錯誤擴展
本章小結
習題

第12章 糾突發錯誤碼
12.1 糾突發錯誤碼的基本概念
12.2 糾突發錯誤循環碼
12.2.1 法爾碼
12.2.2 交織碼
12.2.3 伯頓碼
12.3 糾突發錯誤循環碼的譯碼
12.4 糾突發錯誤卷積碼
12.4.1 糾突發錯誤卷積碼的基本概念
12.4.2 卷積交織
12.5 糾突發和隨機錯誤碼
12.5.1 循環乘積碼
12.5.2 級聯碼
12.5.3 Turbo碼
本章小結
習題

第13章 保密通信基礎
13.1 保密通信的技術體制及數學模型
13.1.1 加密和解密過程的模型
13.1.2 密碼系統安全性
13.1.3 常規密碼
13.2 信息保密技術的基礎知識
13.2.1 基本度量
13.2.2 理想保密性
13.2.3 單一性距離
13.3 數據加密標準DES