英文名称	Information Theory and Coding
课程编号	CS05153
总学时	60 学时
学分	3 学分
上课对象	计算机相关专业研究生
预修课程	概率论、线性代数
参考教材	信息论-基础理论与应用(第四版) 傅祖芸电子工业出版社， 2015.2.1

课程简介

信息论是一种基础理论工具，在计算机网络、信息安全、通信、光学、统计学、生物学、医学、热力学等众多学科的研究中具有广泛的应用，是在上述领域开展深入研究的必备基础。

信息论与编码是一门以信息为研究对象，揭示信息的本质特性和规律科学的课程。它运用概率论、数理统计和随机过程等方法，研究信息的存储、传输、处理、控制和利用的一般规律，研究如何提高信息系统的可靠性、有效性、保密性和认证性等以使信息系统最优化。主要讲授内容包括离散信源及其信息测度、离散信道及其信道容量、无失真信源编码定理、有噪信道编码定理、无失真的信源编码、信道纠错编码以及保密系统的基本信息理论等。

教学目标与内容

本课程基本目标就是使学生掌握信息论的基本概念、基本定理和基本分析方法，为计算机专业学生今后从事计算机网络、信息安全、网络通信等的研究奠定信息理论基础。

具体地，使学生了解信息论的历史与发展趋势, 理解各类离散信源数学模型、理解并熟练运用信源熵、条件熵及其性质。理解并熟练掌握离散信道数学模型、平均互信息和平均条件互信息定义及其特性，掌握典型信道的信道容量计算方法。理解等长码、变长码编码定理、渐进等分割性及𝜀典型序列，掌握常见无失真信源编码霍夫曼码、费诺码等。理解汉明距离、最小错误概率准则、最大似然译码准则、最小距离译码准则以及有噪信道编码定理，熟练掌握线性分组码和循环码的相关概念和编码方法。了解保密系统基本概念、数学模型和古典加密方法，理解理论保密性和完全保密性的信息论特征。