全部课程 >信息论与编码理论    Information Theory and Coding

课程基本信息

课程编码:09B20280

课程类别:未设置

先修课程:随机过程

适用专业:信息与计算科学

开课院部:理学院

课程负责人:郭光耀
课程教学团队:
课程资源:

课程展示


课程简介

   

  《信息论与编码理论》信息论与编码所讲述的内容在电子、通信等领域有着广泛的应用。尤其是与近代网络通信、数据加密与安全技术,多媒体技术密不可分。通过学习使学生掌握:

  1、信息论的基本理论主要包括信息的度量;信源、信道的编码问题及其编码理论。

  2、代数编码基本理论,掌握编码理论的基本概念和基本问题,并结合实际情况了解其应用。

  3、使学生了解信息论与编码的起源、发展及其研究的主要内容,掌握信息论与编码的主要知识体系、基本理论,领悟各个概念的深刻含义。

  4、通过课堂讲解、讨论和学生课下阅读、思考,了解信息论与编码在现实生活中的运用情况,能够把信息论与编码的基本方法和基本理论应用到通信系统中,解决一些实际问题。

课程教学要求

专业毕业要求

课程教学要求

关联程度

1

工程知识

注重介绍工程背景

L

2

问题分析

分析信息论与编码理论的应用

H

3

设计/开发解决方案

 

 

4

研究

能进行信息论与编码理论的基础研究

H

5

使用现代工具

 

 

6

工程与社会

 

 

7

环境和可持续发展

 

 

8

职业规范

 

 

9

个人和团队

 

 

10

沟通

 

 

11

项目管理

 

 

12

终身学习

 

 

注:“课程教学要求”栏中内容为针对该课程适用专业的专业毕业要求与相关教学要求的具体描述。“关联程度”栏中字母表示二者关联程度。关联程度按高关联、中关联、低关联三档分别表示为“H”“M”或“L”。“课程教学要求”及“关联程度”中的空白栏表示该课程与所对应的专业毕业要求条目不相关。

 

 

课程教学内容

章节

名称

主要内容

重难点关键词

学时

类型

绪论

1、  信息论的发展概况

2、  信息论与编码理论的主要内容

 

 

了解信息论的发展的历史,特别是香浓信息论的发展;了解本书的主要内容;了解通信系统的模型,信息的传递,概率统计模型。

4

理论讲授

 

离散信源及其信息测度

1、 信源的数学模型及分类

2、 离散信源的信息熵

3、 信息熵的基本性质

4、 离散无记忆的扩展信源

5、离散平稳信源

6、 马尔可夫信源

7、 信源剩余度及自然语言的熵

 

掌握熵的定义及其性质,掌握各种信源信息熵的相关理论,会计算各种信源的信息熵,及信息熵的定义及各种熵的计算

 

16

理论讲授

 

离散信道及其信道容量

1、 信道的数学模型及分类

2、 平均互信息及平均条件互信息

3、 平均互信息的特征

4、 信道容量及其一般计算方法

5、 离散无记忆的扩展信道及其信道容量

6、 独立并联信道及其信道容量

7、 串联信道的互信息和数据处理定理

8、 信源与信道的匹配

 

了解信道容量的定义,掌握各种信道的信道容量的计算方法,并计算特殊信道的信道容量。

 

14

理论讲授

无失真信源编码定理

1、 编码器

2、等长码

3、 等长码编码定理

4、 变长码

5、 变长码编码定理

 

了解信源等长码、变长码的相关定义,掌握即时码的构造方法,及即时码的构造,Kraft不等式,变长码编码定理 

 

12

理论讲授

信源编码

1、 霍夫曼编码

2、 费诺编码

3、 香农-费诺-埃利斯编码

 

掌握离散信源的各种编码方法,并进行香农编码;费诺编码;霍夫曼编码

10

理论讲授

有噪信道编码 定理

1、 错误概率和译码规则

2、 错误概率和编码方法

 

掌握译码规则、编码方法,及错误概率的计算编码方法

 

8

理论讲授

考核要求及成绩评定

序号

成绩类别

考核方式

考核要求

权重(%)

备注

1

期末成绩

期末考试

闭卷

70

百分制,60分为及格

2

平时成绩

考勤

30次

30

每次旷课扣1分

3

 

 

 

 

注:此表中内容为该课程的全部考核方式及其相关信息。

学生学习建议

(一)学习方法建议

 1.重视问题的工程背景。

 2.重视对一些理论问题的计算机几何仿真模拟实验。

(二)学生课外阅读参考资料

   1.Thomas M.Cover, Joy A.Thomas,<<信息论基础>>(Elements of Information Theory, 英文影印版),清华大学出版社,2003年

   2.Robert J.McEliece,<<信息论与编码理论>>(The Theory of Information and Coding, (第2版),电子工业出版社, 2005年.

   3.王育民 李 晖 梁传甲,<<信息论与编码理论>> (第1版),高等教育出版社, 2009年

课程改革与建设

课程文档下载

课程大纲下载         

课程其它文档下载

本站 所有信息归:武汉工程大学教务处 版权所有 鄂ICP064787

技术支持: 北京文华在线教育科技股份有限公司    建议在IE8以上浏览器1024*768分辨率下浏览本站