英文名称

Information Theory and Coding

课程编号

CS05153

总学时

60 学时

学分

3  学分

上课对象

计算机相关专业研究生

预修课程

概率论、线性代数

参考教材

信息论-基础理论与应用(第四版) 傅祖芸 电子工业出版社, 2015.2.1

 

课程简介

信息论是一种基础理论工具,在计算机网络、信息安全、通信、光学、统计学、生物学、医学、热力学等众多学科的研究中具有广泛的应用,是在上述领域开展深入研究的必备基础。

信息论与编码是一门以信息为研究对象,揭示信息的本质特性和规律科学的课程。 它运用概率论、数理统计和随机过程等方法,研究信息的存储、传输、处理、控制和利用的一般规律,研究如何提高信息系统的可靠性、有效性、保密性和认证性等以使信息系统最优化。主要讲授内容包括离散信源及其信息测度、离散信道及其信道容量、无失真信源编码定理、有噪信道编码定理、无失真的信源编码、信道纠错编码以及保密系统的基本信息理论等。

 

 

 

教学目标与内容

本课程基本目标就是使学生掌握信息论的基本概念、基本定理和基本分析方法,为计算机专业学生今后从事计算机网络、信息安全、网络通信等的研究奠定信息理论基础。

具体地,使学生了解信息论的历史与发展趋势, 理解各类离散信源数学模型、理解并熟练运用信源熵、条件熵及其性质。理解并熟练掌握离散信道数学模型、平均互信息和平均条件互信息定义及其特性,掌握典型信道的信道容量计算方法。理解等长码、变长码编码定理、渐进等分割性及𝜀典型序列,掌握常见无失真信源编码霍夫曼码、费诺码等。理解汉明距离、最小错误概率准则、最大似然译码准则、最小距离译码准则以及有噪信道编码定理,熟练掌握线性分组码和循环码的相关概念和编码方法。了解保密系统基本概念、数学模型和古典加密方法,理解理论保密性和完全保密性的信息论特征。

 

 

 

 

 

课程资料

[1]什么是信息论

[2]史前史:类文字

[3]古代史:字母表

[4]信源编码

 

课程PPT

第一章   绪论

第二章   离散信源及其信息测度

第三章   离散信道及其信道容量

第四章   无失真信源编码定理

第五章   无失真信源编码

第六章   有噪信道编码定理

第七章   信道纠错编码

 

课后习题答案

 

习题答案下载地址

测试1及答案

测试2及答案

 

 

 

 

教学参考书

 

1.Elements of Information Theory 2nd

2. Information of Theory and Network Coding

 

习题及考试计划

依据教学重点和难点安排10次作业,2次测试。期末安排一次考试。最终分数为期末分数占80% 平时测试占20%