各位同学,大家好:
欢迎学习《深度学习基础》慕课。本慕课的配套教材为授课团队主编、由高等教育出版社出版的《深度学习基础》教材。该教材入选工信部十四五规划教材、国家人工智能战略咨询委员会推出的新一代人工智能系列教材、教育部战略性新兴领域(人工智能)“十四五”高等教育教材体系,并获得教育部-华为智能基座教材研究项目的支持。
随着人工智能的再次火热,深度学习成为其中关键技术之一,并为业界关注。本课程是一门侧重在深度学习相关理论基础的课程,并对深度学习的典型模型框架如循环神经网络、卷积神经网络、预训练模型、Transformer等的基本原理进行了介绍。其中,Transformer是ChatGPT等大模型的核心关键技术。课程同时还包括若干关键内容的相关代码及运行效果演示,从而便于同学们获得理性和感性的认识。如果你想亲密接触深度学习、人工智能等并愿意付诸实践,请加入进来吧!
本期课程我们提供了以下内容:
(1)课程视频。常规的基础教学内容总计8讲视频,每周发布一讲;对于相关代码及演示,课程以目前流行的Python作为主编程语言。第9讲内容为新增加的可选的高级内容,考试暂不做要求。
(2)测验考核题。每讲会随机产生10道题,在限定时间内提交,总分10分。如果你没有开始测试,则你可在测验发布之日至截止日期之间的任何时间内完成即可。一旦你开始测试,则需在限定时间内(如30分钟内)完成提交。到限定时间结束时系统会自动提交,无论你是否回答了问题。其结果将计入最终成绩。每讲,你可以有两次测验机会(但两次未必是同一张卷),两次测验成绩最高分数为本讲你获得的成绩分数。
(3)期末考试。期末会有一个考试,20道题20分。
课程的思维导图如下:
关于课程的实践案例教学方面,在CMOOC联盟—华为“智能基座”慕课建设项目的支持下,课程若干章节还给出了Mindspore框架下的案例分析等内容。
在学习过程中有任何问题,请随时联系任课教师或者在课程论坛里发出问题。我们将尽最大的努力辅助你们的学习,解答你们的疑问。
祝大家学习愉快,有所收获!
《深度学习基础》课程组
第一讲 深度学习概述
1.1 深度学习的引出
1.2 数据集及其拆分
1.3 分类及其性能度量
1.4 回归问题及其性能评价
1.5 一致性的评价方法
1.6 程序讲解:使用Sklearn进行精确率-召回率曲线的绘制
第一讲讲义
(附)使用Sklearn进行精确率-召回率曲线的绘制程序
1.7 深度学习芯片及常用框架介绍
第一讲测验
第二讲 特征工程概述
2.1 特征工程
2.2 向量空间模型及文本相似度计算
2.3 特征处理(特征缩放、选择及降维)
2.4 程序讲解:使用sklearn对文档进行向量化的程序示例
2.5 程序讲解:使用sklearn进行量纲缩放的程序示例
第二讲讲义
(附)使用sklearn对文档进行向量化的程序
(附)使用sklearn进行量纲缩放的程序
第二讲测验
第三讲 回归问题及正则化
3.1 线性回归模型及其求解方法
3.2 多元回归与多项式回归
3.3 损失函数的正则化
3.4 逻辑回归
3.5 程序讲解:使用sklearn进行线性回归和二次回归的比较的程序示例
第三讲讲义
(附)使用sklearn进行线性回归和二次回归的比较程序
3.6 案例分析:(MindSpore框架下)线性回归模型及动态绘图实践示例
第三讲测验
第四讲 信息熵及梯度计算
4.1 信息熵
4.2 反向传播中的梯度
4.3 感知机
4.4 程序讲解:正向传播和反向传播的程序示例
4.5 程序讲解:信息熵和互信息的计算程序示例
(附)信息熵和互信息的计算程序
第四讲讲义
4.6 反向传播算法
4.7 提升神经网络模型泛化能力
第四讲测验
第五讲 循环神经网络及其变体
5.1 循环神经网络
5.2 长短时记忆网络
5.3 双向循环神经网络和注意力机制
5.4 程序讲解:循环神经网络的程序示例
第五讲讲义
(附)循环神经网络的程序
第五讲测验
第六讲 卷积神经网络
6.1 卷积与卷积神经网络
6.2 LeNet-5 模型分析
6.3 程序讲解:卷积神经网络的程序示例
第六讲讲义
(附)卷积神经网络的程序
6.4 案例分析:(MindSpore框架下)基于lenet5的手写数字识别实践示例
第六讲测验
第七讲 递归神经网络
7.1 情感分析及传统求解方法
7.2 词向量
7.3 递归神经网络及其变体
第七讲讲义
7.4 案例分析:(MindSpore框架下)基于LSTM的情感分类实践示例
第七讲测验
第八讲 生成式神经网络
8.1 自动编码器
8.2 变分自动编码器
8.3 生成对抗网络
8.4 程序讲解:自动编码器程序示例
第八讲讲义
(附)自动编码器程序
8.5 案例分析:(MindSpore框架下)基于Cyclegan的图像风格迁移实践示例
第八讲测验
第九讲 预训练模型及其应用
9.1 Transformer模型
9.2 预训练模型
9.3 案例分析:(Mindspore框架下)基于BERT网络实现智能写诗的实践示例
9.4 案例分析:(MindSpore框架下)transformer机器翻译实践示例
第九讲讲义(1)-Transformer
第九讲讲义(2)-预训练模型
1. 线性代数、概率等的知识
2. python的基本编程知识
配套纸质版教材: 刘远超. 《深度学习基础》. 高等教育出版社. 2023年9月第一版.
教材封面图
教材各章关系图
参考文献:
1. 李航.《统计学习方法》.清华大学出版社. 2012年第一版
2. Ian Goodfellow、Yoshua Bengio, Aaron Courville. Deep Learning(花书). 人民邮电出版社, 2017年出版
4. https://en.wikipedia.org/wiki/
5. https://www.ling.upenn.edu/courses/Fall_2003/ling001/penn_treebank_pos.html
7. https://pypi.org/project/jieba/
8. https://colah.github.io/posts/2015-08-Understanding-LSTMs/
9. Yang Z, Yang D, Dyer C, et al. Hierarchical attention networks for document classification[C]//Proceedings of NAACL-HLT. 2016: 1480-1489
10.Cho K, Van Merrienboer B, Gulcehre C, et al. Learning Phrase Representations using RNN Encoder-Decoder for Statistical Machine Translation[J]. Eprint Arxiv, 2014.
11. Schuster M, Paliwal K K. Bidirectional recurrent neural networks[J]. Signal Processing, IEEE Transactions on, 1997, 45(11): 2673-2681.
12.Socher et al.. Semi-Supervised Recursive Autoencoders for Predicting Sentiment Distributions, EMNLP 2011
13. Socher R, Huval B, Manning C D, et al. Semantic compositionality through recursive matrix-vector spaces[C]// Joint Conference on Empirical Methods in Natural Language Processing and Computational Natural Language Learning. 2012:1201-1211.
14. Socher, R., Perelygin, A., Wu, J. Y., Chuang, J., Manning, C. D., & Ng, A. Y., et al. (2013). Recursive deep models for semantic compositionality over a sentiment treebank. EMNLP 2013. page 1631--1642
15. Diederik P Kingma, Max Welling (2013). Auto-Encoding Variational Bayes. ICLR 2014
16. Goodfellow, Ian; Pouget-Abadie, Jean; Mirza, Mehdi; Xu, Bing; Warde-Farley, David; Ozair, Sherjil; Courville, Aaron; Bengio, Yoshua (2014). Generative Adversarial Networks (PDF). Proceedings of the International Conference on Neural Information Processing Systems (NIPS 2014). pp. 2672–2680.
17. https://www.cs.uic.edu/~liub/FBS
18. 华为mindspore官网:https://mindspore.cn
19. 华为mindspore开源代码仓:https://gitee.com/mindspore/mindspore
20. 华为云官网:https://www.huaweicloud.com/