笔记|李宏毅老师机器学习课程,视频12反向传播算法
《学习笔记》专栏·第12篇
文 | MLer
721字 | 2分钟阅读
【数据科学与人工智能】开通了机器学习群,大家可以相互学习和交流。请扫描下方二维码,备注:姓名-ML,添加我为好友,诚邀你入群,一起进步。
感谢李宏毅老师的分享,他的课程帮助我更好地学习、理解和应用机器学习。李老师的网站:http://speech.ee.ntu.edu.tw/~tlkagk/index.html。这个学习笔记是根据李老师2017年秋季机器学习课程的视频和讲义做的记录和总结。因为这个视频是在Youtube上面,有些朋友可能无法观看,我把它搬运下来放在云盘上面,大家点击阅读原文,就可以直接在手机随时随地观看了。再次,感谢李老师的付出和贡献。
这门课,共有36个视频,每个视频播放的时间不一。我按着视频播放的顺序,观看,聆听和学习,并结合讲义,做学习笔记。我做学习笔记目的有三:
1 帮助自己学习和理解机器学习
2 记录机器学习的重要知识、方法、原理和思想
3 为传播机器学习做点事情
视频12:反向传播算法
一、反向传播
深度学习,使用梯度下降算法寻找最佳参数时,如何来实现呢?
需要用到反向传播算法
1 回顾下梯度下降算法
如下图:
深度学习,它有成千上万的参数,如何高效地计算这些参数的梯度?引出了反向传播算法(一种有效率的计算方法)。
2 回顾多元微积分的链式法则
如下图
3 理解反向传播算法
李老师,从简单入手,深入浅出地讲解了反向传播算法,算法的整个架构、前向传播和反向传播逻辑,如下图所示:
4 总结
思考题:
1 反向传播算法为什么具有高效性?
2 反向传播算法如何执行?
朋友们,在学习中有什么问题或者想法,请加入机器学习群,大家一起讨论,共同进步。
每周一书
课程视频点击
↓↓↓
评论