內容簡介
《信息論與編碼基礎/高等院校通信與信息專業規劃教材》以Shannon信息理論為依據,分基礎篇、信道編碼篇、信源編碼篇、網絡篇共12章講述瞭信息與編碼理論的基本概念、基本原理和在通信及信息工程等領域的應用。內容包括:信息的定義及度量、信源及其信息量、信道及其容量、分組碼、捲積碼、TCM與Turbo碼、離散信源無失真編碼、限失真信源編碼理論、信源編碼實踐、網絡信息論初步和信息安全中的密碼技術等。
《信息論與編碼基礎/高等院校通信與信息專業規劃教材》可作為通信、計算機、信息工程等專業的教材或參考書,也可供信息領域科技工作者、工程技術人員參考。
內頁插圖
目錄
齣版說明
前言
第1篇 基礎篇
第1章 概論
1.1 信息論的形成和發展
1.2 通信係統模型
1.3 Shannon信息論的框架與本書的編排
1.3.1 Shannon信息論的框架結構
1.3.2 本書的編排
第2章 信息的度量
2.1 離散變量的自信息量
2.1.1 消息、信息與概率空間
2.1.2 離散變量的自信息量
2.1.3 信息量單位
2.2 離散變量集的平均信息量
2.2.1 信息熵
2.2.2 熵函數性質
2.3 互信息量
2.3.1 聯閤自信息量與條件自信息量
2.3.2 互信息量的概念
2.3.3 事件互信息的性質
2.3.4 離散集的平均互信息量
2.4 信息不增性原理
2.4.1 平均條件互信息量
2.4.2 信息處理定理
2.5 連續隨機變量的信息度量
2.5.1 連續隨機變量的微分熵
2.5.2 微分熵性質
2.5.3 連續隨機變量的互信息量
2.5.4 連續隨機變量的最大熵
2.6 小結
2.7 習題
第3章 信源及其信息■
3.1 信源分類
3.2 信源概率模型與熵函數
3.3 Markov信源
3.3.1 Markov過程與狀態轉移圖
3.3.2 遍曆Markov信源及穩定分布
3.3.3 遍曆Markov信源的熵
3.4 擴展信源的概念
3.4.1 無記憶擴展信源
3.4.2 Markov擴展信源
3.5 小結
3.6 習題
第4章 信道及其容量
4.1 信道模型與信道分類
4.1.1 信道模型
4.1.2 信道分類
4.2 離散無記憶信道
4.2.1 轉移概率矩陣與信道綫圖
4.2.2 信道的輸齣熵與互信息
4.2.3 DMC信道的容量
4.2.4 對稱DMC
4.2.5 組閤信道
4.3 離散無記憶擴展信道
4.3.1 Ⅳ次擴展信道的轉移概率矩陣
4.3.2 Ⅳ次擴展信道的容量
4.4 連續信道的容量
4.4.1 時間離散連續信道
4.4.2 時間連續的連續信道
4.5 小結
4.6 習題
第2篇 信道編碼篇
第5章 分組碼
5.1 編碼定理與糾錯碼的基本概念
5.1.1 編碼定理與差錯控製方式
5.1.2 碼字的糾錯能力
5.1.3 譯碼準則
5.2 綫性分組碼
5.2.1 一緻監督方程和一緻監督矩陣
5.2.2 綫性分組碼的編碼與譯碼
5.3 循環碼
5.3.1 循環過程的數學錶達式
5.3.2 循環碼的生成多項式
5.3.3 係統碼形式的循環碼
5.3.4 循環碼的譯碼
5.4 BCH碼和RS碼
5.4.1 BCH碼
5.4.2 RS碼
5.5 小結
5.6 習題
第6章 捲積碼
6.1 基本概念
6.1.1 引言
6.1.2 約束度與約束長度
6.1.3 係統捲積碼與捲積碼的多項式描述
6.2 捲積碼編碼過程的圖形描述
6.2.1 樹狀圖
6.2.2 網格圖
6.2.3 狀態圖
6.3 Viterbi譯碼簡介
6.3.1 VB譯碼的度量
6.3.2 VB譯碼原理
6.4 捲積碼的刪餘
6.5 小結
6.6 習題
第7章 TCM與Turbo碼
7.1 引言
7.2 TCM技術
7.2.1 TCM思想的由來
7.2.2 TCM係統模型
7.2.3 TCM設計中的關鍵技術
7.3 Turbo碼
7.3.1 引言
7.3.2 Turbo碼編碼器
7.3.3 Turbo碼的譯碼
7.3.4 Turbo碼在移動通信係統中的應用
7.4 小結
7.5 習題
第3篇 信源編碼篇
第8章 離散信源無失真編碼
8.1 數據可壓縮編碼原理
8.1.1 引言
8.1.2 單義可譯碼
8.1.3 Shannon-Fano編碼與無失真編碼定理
8.2 基於信源統計特性的編碼方法
8.2.1 Huffman編碼
8.2.2 算術碼
8.3 基於數據串特性的編碼
8.3.1 字典編碼與LZ碼
8.3.2 LZ編碼算法
8.3.3 LZ碼的譯碼過程
8.3.4 LZ碼的壓縮性能
8.4 小結
8.5 習題
第9章 限失真信源編碼理論
9.1 失真的度量
9.1.1 失真函數
9.1.2 多維矢量的失真函數與平均失真
9.1.3 量化失真度量
9.2 信息率,失真函數的定義與性質
9.2.1 基本概念與定義
9.2.2 R(D)函數的性質
9.3 R(D)函數的計算
9.3.1 條件極值的Lagrangian乘子法
9.3.2 二元信源的R(D)函數
9.4 連續信源的R(D)函數及Shannon低界
9.4.1 連續信源的R(D)函數
9.4.2 差值誤差測量的R(D)函數與Shannon低界
9.5 小結
9.6 習題
第10章 信源編碼實踐
10.1 限失真信源編碼技術基礎
10.1.1 引言
10.1.2 時域波形編碼
10.1.3 頻域波形編碼
10.1.4 基於模型的信源編碼
10.1.5 人類感知特性的應用
10.2 視頻編碼實踐
10.2.1 引言
10.2.2 JPEG標準
10.2.3 H.2 61與H.2 63建議
10.2.4 MPEG編碼標準
10.3 音頻編碼實踐
10.3.1 引言
10.3.2 語音數字編碼標準
10.3.3 高保真立體聲音頻編碼標準
10.4 小結
10.5 習題
第4篇 網絡篇
第11章 網絡信息論初步
11.1 引言
11.1.1 網絡信息論的發展概況
11.1.2 網絡信息論研究的問題與信道模型
11.2 相關信源編碼
11.2.1 Slepian-Wolf定理
11.2.2 應用校正子的相關信源編碼(DTSCUS)
11.3 相關信源協同編碼
11.4 多址接入信道(MAC)
11.4.1 離散多址接入信道
11.4.2 多址接入Gaussian噪聲信道
11.4.3 相關信源的多址接入信道
11.5 廣播信道
11.5.1 離散無記憶廣播信道(DMBC)
11.5.2 退化廣播信道
11.6 小結
11.7 習題
第12章 信息安全中的密碼技術
12.1 信息安全與密碼學
12.2 Shannon的保密係統理論
12.2.1 密碼學的基本概念
12.2.2 理想保密性(perfectsecrecy)
12.2.3 乘積加密係統
12.3 信息加密技術
12.3.1 對稱密碼體製
12.3.2 公鑰(非對稱)密碼體製
12.4 信息認證技術
12.4.1 信息認證算法
12.4.2 數字簽名
12.5 網絡通信的信息安全技術
12.5.1 密碼管理和分配
12.5.2 Internet的信息安全
12.6 小結
12.7 習題
參考文獻
前言/序言
本書是機械工業齣版社組織編寫的“高等院校通信與信息專業規劃教材”中的《信息論與編碼基礎》教材。本書內容的組織沒有像專著那樣分為信息理論與編碼理論兩個係統。而是綜閤成一個以形成高效、可靠、安全的信息傳輸(存儲)碼為目標,以Shannon關於信息的定義與質量為基礎的Shannon信息論(或稱狹義信息論)框架結構。該框架結構由1個共同的基礎理論即Shannon信息理論,和相對獨立的3個編碼理論即信源編碼理論、信道編碼理論和密碼理論所組成。這個框架基本上涵蓋瞭以Shannon信息理論為基礎的所有信息編碼領域。在內容選材上還包括瞭新近正發展的、雖不成熟但已形成研究熱點的課題,如網絡信息論、Turbo碼等,以及為大眾所關心的音視頻信源編碼的應用標準介紹。
信息理論與編碼理論的發展與數學密不可分,而且曾是數學的一個專門化領域,其數學基礎並非為一般本科大學生所具有。因此,雖有許多優秀的專著,但並不適閤作教材。從已齣版的教材中可以看到不同程度的普及化努力,這些給予瞭作者很好的藉鑒。然而作者在教學實踐中仍然覺得這是一個很棘手的問題,是本課程的一個特殊性。作為教材,要求必須有一定的數學理論高度,事實上數學是一個具有嚴謹性和推理功能的理論工具,用它可以準確、簡潔、明瞭地錶達齣定理與科學結論。但如果使用太深的數學工具,就會使讀者覺得抽象、不知所雲與不可接受,而起反作用。本書所要求的數學知識基礎為:普通高等數學、基礎概率論(古典概率論)和一般的綫性代數知識。沒有引用數論與近世代數等知識,也沒有引入典型序列概念。對一些定理與結論的證明會因此而發生睏難,隻好采取應用例證與物理概念解釋相結閤的辦法。對於像公鑰密碼體製那樣非應用數論知識不可的,則歸納齣14條結論予以例證,然後應用這些結論推導公鑰密碼算法。
與框架結構相對應,本書由基礎篇、信道編碼篇、信源編碼篇和網絡篇共12章組成。其中基礎篇4章,介紹Shannon信息論的形成、發展和框架結構;信息的度量;信源及其信息量;信道及其容量等關於信息的基本理論。這是Shannon信息理論的基本知識,也是本書其餘各章的共同基礎。
信道編碼篇由分組碼(第5章)、捲積碼(第6章)和TCM與Turbo碼(第7章)組成。分組碼和捲積碼在理論與技術上都比較成熟,而TCM與Turbo碼是正在研究發展中的兩種編碼技術,理論上並未完善,技術上也未成熟,但卻顯示齣各自的優異性能,被認為是20世紀末在信道編碼領域中具有裏程碑意義的兩大成就。將它們編成一章,除瞭兩者都應用瞭有反饋的捲積碼這個共同點外,並無更多的理論與技術上的原因,兩者都是信道編碼領域中正在發展的頗受關注的新技術,這是更主要的考慮。
信源編碼篇除瞭第8章離散信源無失真編碼,第9章限失真信源編碼理論外,還包括第10章信源編碼實踐。這是因為信源編碼的理論與技術在微電子與計算技術的催化下,使音、視頻係統數碼技術的發展、應用成瞭20世紀90年代信息領域的一大亮點,引發瞭人們對信息技術的關注與興趣。在學習信源編碼基本理論的同時,瞭解一下這些理論的應用與標準對理解抽象的理論是有益的。
將第11章網絡信息論初步和第12章信息安全中的密碼技術閤編成網絡篇,唯一的理由由它們都是網絡通信中有特殊意義的課題。應該說密碼理論與技術並非以網絡為依托的,但網絡通信離開密碼技術就會失去其實用意義。至於網絡信息論,顯然應該是網絡發展的基礎,但由於理論上的睏難,至今研究成果甚少,與網絡的高速發展極不相稱。本章對已報導的一些成果作瞭初步的介紹,其意義不在於應用這些結果,更在於從中可瞭解、發現網絡信息論研究中的睏難與問題。
本書每章均附有習題,以加深對基本內容的理解,難度不高,隻是書本內容的直接應用。在教學中,針對不同的專業需要,應增加一些結閤專業的綜閤練習題。
作者要感謝在編寫過程中參閱過的相關著作的作者,他們的著作給作者以很大的啓發與藉鑒,恕不能一一舉名緻謝。特彆要感謝王育民教授、王新梅教授、鄭誌航教授以及美國的R.B.Wells教授。作者在編寫本書的過程中曾參閱過他們的著作並應用瞭其中的某些資料。作者還要感謝徐澄圻教授對編寫大綱及書稿所提齣的寶貴建議與改進意見。
盡管作者在準確性與閤理性方麵作瞭努力,但疏漏之處終難避免,祈盼指正,以便不斷改進。
信息論與編碼基礎/高等院校通信與信息專業規劃教材 下載 mobi epub pdf txt 電子書 格式