【资源】首发:徐亦达老师的机器学习课件及下载(中文目录)

机器学习初学者

共 3990字,需浏览 8分钟

 ·

2020-09-05 08:04


徐亦达教授在github公布了他的历年机器学习相关课件、视频,黄海广博士协助徐亦达老师对课件目录进行翻译和整理,并提供下载。

徐亦达老师简介


徐亦达,现任悉尼科技大学教授,UTS全球数据技术中心机器学习和数据分析实验室主任。主要研究方向是机器学习,数据分析和计算机视觉。他在国际重要期刊与会议发表数篇高影响因子论文;编写了大量的数理统计、概率和机器学习教材。

 

徐亦达老师的课件的目录



前言

  • 笔记的视频演示

  • 最近的研究讲义

  • 噪声对比估计 (Noise Contrastive Estimation), 概率密度再参数化

一、基础知识

1.概率论与数理统计基础

  • 贝叶斯模型

  • 概率估计

  • 统计属性

2.概率模型

  • E-M算法

  • 状态空间模型(动态模型)

3.高级概率模型

  • 贝叶斯非参数(BNP)及其推导基础

  • 贝叶斯非参数(BNP)扩展

  • 行列式点过程

4.推导课件

  • 变分推导

  • 随机矩阵

  • 蒙特卡洛简介

  • 马尔可夫链蒙特卡洛

  • 粒子滤波器(序列蒙特卡洛)

二、深度学习

  • 优化方法

  • 神经网络

  • 卷积神经网络:从基础到最近的研究

  • 词表示和近似Softmax

  • 深度自然语言处理

  • 深度增强学习

  • 受限玻尔兹曼机

三、数据科学

  • 30分钟介绍人工智能和机器学习

  • 回归方法

  • 推荐系统

  • 降维

  • 数据分析简介和相关的jupyternotebook

四、致谢


徐亦达老师的课件的内容简介及相关文件


前言

  • 笔记的视频演示

简介:

徐亦达老师在2015年用中文录制了这些课件中约20%的内容 (备注:课件为全英文),大家可以在YouTube、哔哩哔哩 以及优酷观看和下载。

YouTube:

https://www.youtube.com/channel/UConITmGn5PFr0hxTI2tWD4Q

哔哩哔哩:

https://space.bilibili.com/327617676

优酷:

http://i.youku.com/i/UMzIzNDgxNTg5Ng

 

  • 最近的研究讲义

2018年7月在创新工厂和北大合办的DeeCamp的课件(当概率遇到神经网络)

简介:

主题包括:EM算法和矩阵胶囊网络;行列式点过程和神经网络压缩; 卡尔曼滤波器和LSTM; 模型估计和二分类问题关系。

文件:DeeCamp2018_Xu_final.pptx

 

  • 噪声对比估计 (Noise Contrastive Estimation), 概率密度再参数化

简介:

噪声对比估计 (Noise Contrastive Estimation), 概率密度再参数化以及自然梯度的详细说明。

文件:selected_probability.pdf


一、基础知识

1.概率论与数理统计基础

  • 贝叶斯模型 

简介:

贝叶斯模型的修订包括贝叶斯预测模型,条件期望。

文件:bayesian.pdf

 

  • 概率估计

简介:一些有用的分布,共轭,MLE,MAP,指数族和自然参数。

文件:probability.pdf


  • 统计属性

简介:有用的统计属性可以帮助我们证明事物,包括切比雪夫和马尔科夫不等式。

文件:statistics.pdf

 

2.概率模型

  • E-M算法

简介:E-M的收敛证明,E-M到高斯混合模型的例子。 

文件:em.pdf,gmm_demo.m,kmeans_demo.m

优酷链接:http://v.youku.com/v_show/id_XMTM1MjY1MDU5Mg

 

  • 状态空间模型(动态模型) 

简介:

详细解释了卡尔曼滤波器和隐马尔可夫模型。

文件:

dynamic_model.pdf,kalman_demo.m

优酷链接:

隐马尔可夫模型:http://v.youku.com/v_show/id_XMTM1MzQ1NDk5Ng

卡尔曼滤波:http://v.youku.com/v_show/id_XMTM2ODU1MzMzMg

 

3.高级概率模型

  • 贝叶斯非参数(BNP)及其推导基础

简介: 

Dircihlet Process(DP),中国餐厅流程见解。

文件:

non_parametrics.pdf ,dirichlet_process.m, chinese_restaurant_process.ipynb

优酷链接:

http://v.youku.com/v_show/id_XMTM3NDY0MDkxNg

 

  • 贝叶斯非参数(BNP)扩展

简介:

分层DP,HDP-HMM,印度自助餐过程(IBP)。

文件:non_parametrics_extensions.pdf

 

  • 行列式点过程

简介:

解释DPP的边际分布,L-ensemble,其抽样策略,我们在时变DPP中的工作细节。

文件:dpp.pdf

 

4.推导课件 

  •  变分推导

简介:

解释变分贝叶斯非指数和指数族分布加上随机变分推导。

文件:

variational.pdf ,vbnormalgamma.m

优酷链接:

http://v.youku.com/v_show/id_XMTM1Njc5NzkxNg


  • 随机矩阵

简介:

随机矩阵,幂方法收敛定理,详细平衡和PageRank算法。

文件:stochastic_matrices.pdf


  • 蒙特卡洛简介

简介:

逆CDF,消除,自适应消除,重要性采样。

文件:

introduction_monte_carlo.pdf ,adaptiverejectionsampling.m,hybrid_gmm.m

  

  • 马尔可夫链蒙特卡洛

简介: 

M-H, Gibbs, SliceSampling,Elliptical Slice sampling, Swendesen-Wang, demonstrate collapsed GibbsusingLDA 

文件:

markov_chain_monte_carlo.pdf,ldagibbsexample.m ,test_autocorrelation.m, gibbs.m

优酷链接:

http://v.youku.com/v_show/id_XMTM1NjAyNDYyNA

 

  • 粒子滤波器(序列蒙特卡洛)

简介: 

连续蒙特卡罗方法,冷凝滤波算法,辅助粒子滤波器。

文件:particle_filter.pdf

优酷链接:

http://v.youku.com/v_show/id_XMTM3MTE1Mjk2OA

 

二、深度学习

  • 优化方法

简介:

常用的优化方法。不仅限于深度学习。

文件:optimization.pdf

 

  • 神经网络

简介:

基本神经网络和多层感知器。

文件:neural_networks.pdf


  • 卷积神经网络:从基础到最近的研究

简介:

卷积神经网络的详细解释,各种损失函数,中心损失函数,对比损失函数,残差网络,YOLO,SSD。

文件:cnn_beyond.pdf

 

  • 词表示和近似Softmax

简介:

Word2Vec, skip-gram, GloVe, 噪声对比估计,负采样,Gumbel-max技巧。

文件:

word_vector.pdf

 

  • 深度自然语言处理

简介:

RNN,LSTM,具有注意力机制的Seq2Seq,集束搜索,RNN,LSTM,具有注意力机制的Seq2Seq,集束搜索,Attention is all you need,卷积Seq2Seq,指针网络。

文件:deep_nlp.pdf

           

  • 深度增强学习

简介:

强化学习的基础知识,马尔可夫决策过程,贝尔曼方程,并进入深度Q学习(正在建设中)

文件:dqn.pdf

 

  • 受限玻尔兹曼机

简介:

受限玻尔兹曼机(RBM)的基础知识

文件:rbm_gan.pdf


三、数据科学

  • 30分钟介绍人工智能和机器学习

简介:

用30分钟来介绍人工智能和机器学习。(感谢徐亦达老师的博士生常皓东进行协助编辑)

文件:30_min_AI.pptx

 

  • 回归方法

简介:

分类:Logistic回归和Softmax分类;回归:线性回归,多项式回归,混合效果模型。

文件:regression.pdf, costFunction.m,soft_max.m

  

  • 推荐系统

简介:

协同过滤,分解机,非负矩阵分解,乘法更新规则。

文件:recommendation.pdf

 

  • 降维

简介:

典型的PCA和 t-SNE。

文件:dimension_reduction.pdf

 

  • 数据分析简介和相关的jupyternotebook

简介:

机器学习和数据科学的三个视角。监督与无监督学习,分类准确性。

文件:AI_and_machine_learning.pdf

 

四、致谢

特别感谢徐亦达老师的博士生团队的协助一起校队课件,还有讨论以及对课件提出了许多非常宝贵的意见。其中(不完全的)包括了,常皓东姜帅黄皖鸣邓辰梁轩。特别感谢黄海广博士协助徐亦达老师将课件目录翻译成中文。

如果你想加入徐亦达老师的机器学习博士生团队或有兴趣实习, 请通过电子邮件:YiDa.Xu@uts.edu.au与徐亦达老师联系。


参考

徐亦达老师课件的github:

https://github.com/roboticcam/machine-learning-notes

完整讲义下载请回复“徐亦达”查看

也可以直接用百度云下载:

链接:https://pan.baidu.com/s/1SidOblKEJNEzSnVCuAWHhg

提取码:uq4h


往期精彩回顾





获取一折本站知识星球优惠券,复制链接直接打开:

https://t.zsxq.com/662nyZF

本站qq群1003271085。

加入微信群请扫码进群(如果是博士或者准备读博士请说明):

浏览 28
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报
评论
图片
表情
推荐
点赞
评论
收藏
分享

手机扫一扫分享

分享
举报