信息理论基础
分享
课程详情
课程评价
spContent=信息论与控制论、系统论被称为二十世纪的三大理论。本课程以香农信息论为主要授课内容,介绍信息的基本概念和度量方法、信源无损压缩及其编码定理、信道容量及信道编码定理、率失真理论等内容,有助于了解和认识各类通信与信息系统的本质,并掌握其基本原理和设计原则。
—— 课程团队
课程概述
数字经济相关的许多信息技术已经深度融入到了人们的生活,比如移动互联网和物联网、5G通信,人工智能,云计算,大数据技术,区块链技术等等。这些技术都离不开“信息”这个概念。信息论是专门研究信息的有效处理和可靠传输的一般规律的科学,它诞生于20世纪40年代,是一门从长期实践中总结出来的学科,与系统论和控制论一起被称为二十世纪的三大理论。本课程围绕“信息”这个概念,介绍信息的基本概念和度量方法、信息的压缩和信息的传输等相关知识。通过本课程的学习,有助于了解和认识各类通信与信息系统的本质,并掌握其基本原理和设计原则。


授课目标
通过本课程学习,学生可以了解信息论的基本内容,掌握熵和互信息的概念和性质、信道容量的意义及计算方法,掌握信源无损压缩的有关概念及典型的编码方法,理解信源、信道编码定理的实质和证明方法,了解信源率失真编码的概念,在此基础上理解通信与信息系统的本质和设计原则,以及信息论在通信与信息系统设计中的指导作用,为进一步从事信息领域的理论研究和工程技术工作奠定理论基础。
1.初步掌握信息的基本概念和性质、信息系统基本建模方法、信息理论的基本分析方法。
2.能够基于数学和物理等科学原理,通过文献研究或相关方法,调研和分析通信系统与网络、信息处理与信息系统和电子系统等复杂工程问题的解决方案。
3.能够将信息理论等相关知识和数学模型方法用于推演和分析信息与通信工程领域和电子领域的复杂工程问题。
4.了解香农信息论与当今信息社会的关系,会分析香农信息论的主要应用领域。
课程大纲
预备知识

微积分(高等代数),概率论,随机过程,线性代数。

证书要求

为积极响应国家低碳环保政策, 2021年秋季学期开始,中国大学MOOC平台将取消纸质版的认证证书,仅提供电子版的认证证书服务,证书申请方式和流程不变。

 

电子版认证证书支持查询验证,可通过扫描证书上的二维码进行有效性查询,或者访问 https://www.icourse163.org/verify,通过证书编号进行查询。学生可在“个人中心-证书-查看证书”页面自行下载、打印电子版认证证书。

 

完成课程教学内容学习和考核,成绩达到课程考核标准的学生(每门课程的考核标准不同,详见课程内的评分标准),具备申请认证证书资格,可在证书申请开放期间(以申请页面显示的时间为准),完成在线付费申请。

 

认证证书申请注意事项:

1. 根据国家相关法律法规要求,认证证书申请时要求进行实名认证,请保证所提交的实名认证信息真实完整有效。

2. 完成实名认证并支付后,系统将自动生成并发送电子版认证证书。电子版认证证书生成后不支持退费。


参考资料

1、《信息论与编码》,仇佩亮、张朝阳、谢磊、余官定编著。高等教育出版社, 2011年4月第二版。

2、《Elements of Information Theory》,Thomas M. Cover,Wiley出版社,2005年4月第二版。

  3、C. E. SHANNON, “A Mathematical Theory of Communication”, The Bell System Technical Journal, Vol. 27, pp. 379–423, 623–656, July, October, 1948.