第一次作业:深度学习基础
经过了第一周的学习,对深度学习有了系统的认识。
视频学习
1.1 绪论
1.2 深度学习概述
1.3 pytorch基础
代码练习
2.1 螺旋数据分类
2.2 回归分析
1. 视频学习通过视频学习整理出以下知识点,做好理论储备。
1.1 绪论AI诞生:1956年美国达特茅斯会议:人工智能 (Artificial Intelligence) 概念诞生。
图灵测试(英语:Turing test,又译图灵试验)是图灵于1950年提出的一个关于判断机器是否能够思考的著名思想实验,测试某机器是否能表现出与人等价或无法区分的智能。测试的谈话仅限于使用唯一的文本管道,例如计算机键盘和屏幕,这样的结果不依赖于计算机把单词转换为音频的能力。
——维基百科
关系:人工智能>机器学习>深度学习
机器学习应用领域:
计算机视觉(CV)、语音识别、自然语言处理(NLP)
计算机视觉应用:图像分类、目标检测、语义分割等
机器学习三要素:
模型:问题建模、确定假设空间
策略:确定目标函数
算法:求解模型参数
对于模型的分类:
数据标记:监督学习模型、无监督学习模型(半监督学习模型、强化学习模型)
数据分布:参数模型、非参数模型
建模对象:判别模型、生成模型
知识工程(专家系统) vs 机器学习(神经网络)
知识图谱(符号主义) vs 深度学习(连接主义)
机器学习模型:
人工智能的发展:
标志性人物:
名称 事件Rosenblatt 提出感知机(Perceptron)
Minsky 论证了感知机的局限(异或门与计算量)
Rumelhart 阐述BP反向传播算法及其应用
Yann Lecun 运用卷积神经网络(CNN)
Geoffrey Hinton 坚守神经网络研究,并改名深度学习(Deep Learning),发表深度置信网络(DBN)并使用限制玻尔兹曼机(RBM)学习
Andrew Ng 使用GPU加快运行速度
李飞飞 宣布建立超大型图像数据库ImageNet,ILSVRC竞赛成为技术突破的转折点
Yoshua Bengio 使用修正线性单元(ReLU)作为激励函数
Schmidhuber 提出了长短期记忆(LSTM)的计算模型
Ian Goodfellow 提出生成式对抗网络(GANs)
2019年图灵奖:Geoffrey Hinton, Yann LeCun,和Yoshua Bengio
1.2 深度学习概述神经网络结构的发展:
深度学习三个助推剂:大数据、算法、计算力
深度学习的局限性:
线性回归、决策树、SVM、随机森林、深度学习,从左往右准确性(泛化性)递增,解释性递减。
M-P神经元:
M-P神经元由McCulloch与Pitts发现并命名,作为神经网络的基本单位。
各种激活函数: