笔记|李宏毅老师机器学习课程,视频11深度学习简介
《学习笔记》专栏·第3篇
文 | MLer
1009字 | 6分钟阅读
【数据科学与人工智能】开通了机器学习群,大家可以相互学习和交流。请扫描下方二维码,备注:姓名-ML,添加我为好友,诚邀你入群,一起进步。
感谢李宏毅老师的分享,他的课程帮助我更好地学习、理解和应用机器学习。李老师的网站:http://speech.ee.ntu.edu.tw/~tlkagk/index.html。这个学习笔记是根据李老师2017年秋季机器学习课程的视频和讲义做的记录和总结。因为这个视频是在Youtube上面,有些朋友可能无法观看,我把它搬运下来放在云盘上面,大家点击阅读原文,就可以直接在手机随时随地观看了。再次,感谢李老师的付出和贡献。
这门课,共有36个视频,每个视频播放的时间不一。我按着视频播放的顺序,观看,聆听和学习,并结合讲义,做学习笔记。我做学习笔记目的有三:
1 帮助自己学习和理解机器学习
2 记录机器学习的重要知识、方法、原理和思想
3 为传播机器学习做点事情
视频11:深度学习简介
一、深度学习是爆款
深度学习应用广泛,眼球十足。谷歌公司的深度学习应用,如下图:
二、深度学习的历史
深度学习的发展进程,如下图所示:
给我的几点启示:
1)简单到复杂的进阶
2)在不断解决问题中前进
3)大数据-大算法-大算力,造就今日的深度学习的繁荣
4)深度学习还有一系列问题待优化和解决
三、深度学习的框架
深度学习的框架,和机器学习一样。如下图:
第一步:定义函数集
通过神经网络结构来构建函数集
例如:Fully Connect Feedforward Network
深度学习的deep的理解?
它表示包括许多隐藏层。
例如一些经典深度学习网络架构,如下图:
矩阵运算和神经网络结构
1)具体例子
2)一般式
深度学习的分解,如下图:
上图的几点启示
1)深度学习可以自动做特征提取,完成特征工程的任务
2)深度学习对数据的输入具有更大包容性,更接近原始层
3)深度学习的网络结构设计问题
FAQ,如何设计神经网络?试错+经验+直觉
第二步:度量函数的好与坏
一个样本的损失函数
所有样本的损失函数
第三步:找到最佳的函数
利用梯度下降算法,寻找到一组最佳的参数,用到数学里面的微分
可以采用一些深度学习框架,帮助计算微分
四、为什么要深度学习
李老师在后续的课程,会回答这个问题,大家也提前思考一下。同时,持续跟着李老师学习和实践。
附录:深度学习的一些参考资料
朋友们,在学习中有什么问题或者想法,请加入机器学习群,大家一起讨论,共同进步。
每周一书
课程视频点击
↓↓↓