內容簡介
《信息理論與編碼基礎》較為係統地論述信息理論和編碼的基礎知識,內容包括緒論、信息的度量、離散信源及其信源編碼、離散信道及其信道編碼、連續消息和連續信道、限失真信源編碼、差錯控製的基本概念、綫性分組碼、捲積碼、信道編碼新進展簡介(包括Turbo碼、空時分組碼、低密度奇偶校驗碼、網絡編碼與協作)等。每章後麵都附有思考題和習題。全書針對本科教學的特點,力求深入淺齣,把嚴密的數學語言、閤理的物理解釋和豐富的應用實例相結閤,將經典理論介紹和新研究成果相結閤,便於學生自學。
《信息理論與編碼基礎》為普通高等教育“十一五”國傢級規劃教材,可作為高等院校通信類、電子信息類、計算機科學與工程類、自動控製類等專業本科生教材,也可作為相關學科碩士研究生的教學參考書以及有關技術、科研和管理人員的參考書。
內頁插圖
目錄
前言
常用符號
第1章 緒論
1.1 通信係統的基本單元
1.2 信息科學的有關概念
1.2.1 信息的特徵
1.2.2 信息理論要解決的基本問題
1.2.3 信息論的創始人
1.2.4 信息科學的定義及迅速發展的背景
1.2.5 信息理論的研究內容
1.3 香農信息論梗概
思考題
第2章 信息的度量
2.1 度量信息的基本思路
2.1.1 單符號離散信源
2.1.2 自信息量
2.2 信源熵和條件熵
2.2.1 信源熵
2.2.2 條件自信息量
2.2.3 條件熵
2.3 互信息量和平均互信息量
2.3.1 互信息量
2.3.2 互信息量的性質
2.3.3 條件互信息量
2.3.4 平均互信息量
2.3.5 平均互信息量的性質
2.3.6 平均互信息量的物理意義
2.4 多維隨機變量的熵
2.4.1 熵的鏈接準則
2.4.2 信息鏈接準則
2.4.3 熵的界
2.4.4 數據處理不等式
本章小結
思考題
習題
第3章 離散信源及其信源編碼
3.1 信源分類
3.1.1 信源分類方法
3.1.2 自然語信源
3.1.3 馬爾可夫信源
3.2 離散信源的熵
3.2.1 發齣單符號消息離散無記憶信源的熵
3.2.2 發齣符號序列消息離散無記憶信源的熵
3.2.3 發齣符號序列消息的離散有記憶信源的熵
3.2.4 發齣符號序列消息的馬爾可夫信源的熵
3.2.5 各種離散信源的時間熵
3.3 信源的冗餘度
3.3.1 最大信源熵
3.3.2 信源的冗餘度
3.4 信源編碼及其描述
3.4.1 信源編碼模型
3.4.2 編碼效率
3.5 單義可譯定理
3.5.1 單義可譯碼
3.5.2 即時碼的構造
3.5.3 單義可譯定理
3.5.4 平均碼長界定定理
3.6 香農第一定理
3.6.1 元失真信源編碼
3.6.2 等長碼的信源編碼
3.7 信源編碼實例
3.7.1 費諾編碼方法
3.7.2 霍夫曼編碼方法
3.7.3 Lempel-Ziv編碼
本章小結
思考題
習題
第4章 離散信道及其信道編碼
4.1 信道的分類
4.2 離散信道的傳輸特性
4.2.1 無擾離散信道的傳輸特性
4.2.2 有擾離散信道的傳輸特性
4.2.3 幾種特殊的有擾離散信道
4.2.4 消息在有擾離散信道上的信息傳輸速率
4.2.5 有擾離散信道的信道容量
4.3 譯碼準則
4.3.1 常用的譯碼準則
4.3.2 關於譯碼準則的討論
4.4 香農第二定理
4.4.1 信道編碼與平均錯誤譯碼概率
4.4.2 漢明距離與編碼原則
4.4.3 有擾離散信道的信道編碼定理
本章小結
思考題
習題
第5章 連續消息和連續信道
5.1 連續消息的信息度量
5.1.1 基本思路
5.1.2 幾種連續信源的相對熵
5.1.3 條件熵
5.1.4 平均互信息量
5.1.5 連續消息熵的性質
5.1.6 最大相對熵定理
5.1.7 熵功率和熵功率不等式
5.2 連續消息在信道上的傳輸問題
5.3 香農信道容量公式
5.3.1 高斯信道的信道容量
5.3.2 帶限信道的信道容量
5.3.3 香農公式的含義
本章小結
思考題
習題
第6章 限失真信源編碼
6.1 失真函數和平均失真度
6.1.1 失真函數
6.1.2 平均失真度
6.2 信息率失真函數
6.2.1 保真度準則
6.2.2 失真許可的試驗信道
6.2.3 信息率失真函數及其性質
6.2.4 幾種典型信源的信息率失真函數
6.3 保真度準則下的信源編碼定理
本章小結
思考題
習題
第7章 差錯控製的基本概念
7.1 差錯控製係統的分類
7.1.1 自動請求重傳係統
7.1.2 前嚮糾錯係統
7.1.3 信息重復查詢係統和混閤糾錯係統
7.2 糾錯編碼的分類及其性能評價
7.2.1 糾錯編碼的分類
7.2.2 糾錯碼的基本概念
7.2.3 糾錯編碼方法的性能評價
本章小結
思考題
習題
第8章 綫性分組碼
8.1 有關概念
8.1.1 綫性分組碼的定義及其性質
8.2 綫性分組碼的編碼和譯碼
8.2.1 綫性分組碼的編碼
8.2.2 綫性分組碼譯碼
8.2.3 綫性分組碼舉例
8.3 循環碼的描述
8.3.1 循環碼的定義
8.3.2 循環碼的性質
8.3.3 生成矩陣和一緻校驗矩陣
8.4 循環碼的編碼和譯碼
8.4.1 循環碼的編碼
8.4.2 循環碼的譯碼
8.4.3 循環碼的檢錯能力
8.4.4 循環碼的縮短與擴展
8.5 二元BCH碼
8.5.1 BCH碼的描述
8.5.2 BCH碼的編碼和譯碼
8.6 多元BCH碼和R-S碼
8.7 糾突發錯誤碼
8.7.1 糾突發錯誤碼的定義及基本性質
8.7.2 交織碼
本章小結
思考題
習題
第9章 捲積碼
9.1 捲積碼的編碼及其描述
9.1.1 捲積碼的編碼
9.1.2 捲積碼的描述
9.2 捲積碼的最大似然譯碼
9.2.1 Viterbi譯碼
9.2.2 序列譯碼
9.3 捲積碼的性能評估
9.3.1 譯碼的錯誤擴展及惡性捲積碼
9.3.2 捲積碼的自由距離
本章小結
思考題
習題
第10章 信道編碼新進展簡介
10.1 Turbo碼
10.1.1 Turbo碼的編碼及其性能
10.1.2 Turbo碼的譯碼簡介
10.2 空時分組碼
10.2.1 正交空時分組碼
10.2.2 正交空時分組碼的譯碼
10.2.3 準正交空時分組碼
10.2.4 準正交空時分組碼的譯碼
10.3 低密度奇偶校驗碼
10.3.1 低密度奇偶校驗碼的定義
10.3.2 低密度奇偶校驗碼的譯碼
10.4 網絡編碼與協作
10.4.1 網絡編碼
10.4.2 網絡編碼協作
本章小結
思考題
習題
參考文獻
索引
前言/序言
由瀋連豐和葉芝慧編著、楊韆裏主審的《信息論與編碼》碩士研究生教材,自2004年由科學齣版社齣版以來,得到不少師長和同行的厚愛,很多老師和同學通過電子郵件和電話與本人進行有益的交流,希望在這本書的基礎上再齣一本麵嚮本科教學的教材,在這一背景下我們寫齣瞭《信息理論與編碼基礎》。本書得到科學齣版社的積極推薦,被教育部評為普通高等教育“十一五”國傢級規劃教材,這不僅是對我們的一種鼓勵,同時也是一種壓力,寫作過程中深感麵嚮本科的教材比麵嚮研究生的教材更難寫。
本書共有10章。第1章在簡單介紹通信係統的基本單元和信息科學的有關概念後,給齣香農(Shannon)信息論梗概以及本書的主要內容與課程要求;第2~6章是香農信息論的基本內容,分彆討論信息的度量、離散信源及其信源編碼、離散信道及其信道編碼、連續消息和連續信道、限失真信源編碼,重點論述各種熵的概念、香農的3個定理和信道容量公式等基礎知識;第7~10章給齣信道編碼的基礎知識,首先討論糾錯編碼的基本概念,其次重點論述綫性分組碼和捲積碼(包括糾隨機錯誤碼和糾突發錯誤碼),最後簡要介紹信道編碼新進展(包括Turbo碼、空時分組碼、低密度奇偶校驗碼、網絡編碼與協作)。每章後麵都附有思考題和習題。本書已有較為完備的多媒體課件和習題參考解答,使用本書的老師可以嚮科學齣版社免費索取。
本書基本保持原研究生教材的語言風格,但盡可能避免復雜的數學推導,強化基本概念和基礎理論,力求把理論知識用簡潔的數學語言及閤理的物理解釋來闡述,使其容易理解和便於自學;將理論介紹和新研究成果相結閤,以增強讀者學習的主動性。希望讀者順著“提齣的問題,解決的思路,給齣的分析,得到的結論,結論的意義,實際的應用”這條主綫來閱讀。
作者在編寫過程中參考瞭大量的文獻並將其列於書後,深感它們都是很有價值的,可以從不同的側麵幫助讀者加深對本書內容的理解,在此衷心感謝這些在信息理論和編碼領域作齣貢獻的國內外先師和同行。
本書的1~9章由瀋連豐為主編寫,第10章由李正權為主編寫;徐艷麗協助編寫瞭第8章和10.4節,宋韜協助編寫瞭第4章和第5章,瀋丹萍和李正權分彆協助編寫瞭第3章和第7章;徐艷麗、謝樹京、宋韜、瀋丹萍選編瞭本書第1~9章的習題,宋韜、瀋丹萍完成瞭習題解答和許多其他具體工作。
作者誠摯感謝對本書的寫作、齣版給予各種幫助的領導、同仁和學生。本書是在原研究生教材《信息論與編碼》的基礎上編寫的,因此首先感謝《信息論與編碼》的作者之一葉芝慧和主審楊韆裏將軍;東南大學將本書列為校級“十一五”規劃教材,校教務處的領導給予瞭多方麵支持;東南大學信息科學與工程學院負責本科教學的副院長孟橋教授以及作者在移動通信國傢重點實驗室的同事對本課程一直給予關心、指導和幫助,對本書的大綱和初稿提齣許多中肯的修改意見;共同執教本科生課程的同事徐平平教授、仲文副教授和傅學群等老師,課題組宋鐵成教授、鬍靜副研究員和夏瑋瑋副研究員,博士後許波,博士生徐艷麗、謝樹京、吳名、劉繼順、左旭舟、楊瓊等分彆閱讀瞭書稿的部分章節並提齣許多修改意見;最後,作者要特彆感謝科學齣版社的編輯和支持本書齣版的評審專傢,是他們的鼓勵、支持和指導,纔使本書得以齣版。
信息理論和編碼技術的發展日新月異,限於水平,書中難免存在疏漏之處,敬請同行專傢和讀者不吝指正。
信息理論與編碼基礎 下載 mobi epub pdf txt 電子書 格式