综述 | 深度学习的最新进展
数据派THU
共 14765字,需浏览 30分钟
· 2022-07-08
来源:机器学习研习院 本文约10500字,建议阅读20+分钟 本文我们将简要讨论近年来关于深度学习的最新进展。
“ 综述永远是入门新领域的最快捷径之一!”
1 引言
2 相关研究
3 最新进展
3.1 深度架构的演变
4 深度学习方法
4.1 深度监督学习
4.2 深度无监督学习
4.3 深度强化学习
5 深度神经网络
5.1 深度自编码器
5.1.1 变分自编码器
5.1.2 多层降噪自编码器
5.1.3 变换自编码器
5.2 深度卷积神经网络
5.2.1 深度最大池化卷积神经网络
5.2.2 极深的卷积神经网络
5.3 网络中的网络
5.4 基于区域的卷积神经网络
5.4.1 Fast R-CNN
5.4.2 Faster R-CNN
5.4.3 Mask R-CNN
5.4.4 Multi-Expert R-CNN
5.5 深度残差网络
5.5.1 Resnet in Resnet
5.5.2 ResNeXt
5.6 胶囊网络
5.7 循环神经网络
5.7.1 RNN-EM
5.7.2 GF-RNN
5.7.3 CRF-RNN
5.7.4 Quasi-RNN
5.8 记忆网络
5.8.1 动态记忆网络
5.9 增强神经网络
5.9.1 神经图灵机
5.9.2 神经 GPU
5.9.3 神经随机存取机
5.9.4 神经编程器
5.9.5 神经编程器-解释器
5.10 长短期记忆网络
5.10.1 批-归一化 LSTM
5.10.2 Pixel RNN
5.10.3 双向 LSTM
5.10.4 Variational Bi-LSTM
5.11 谷歌神经机器翻译
5.12 Fader Network
5.13 超网络
5.14 Highway Networks
5.14.1 Recurrent Highway Networks
5.15 Highway LSTM RNN
5.16 长期循环 CNN
5.17 深度神经 SVM
5.18 卷积残差记忆网络
Moniz 和 Pal(2016) 提出了卷积残差记忆网络,将记忆机制并入卷积神经网络 (CNN)。它用一个长短期记忆机制来增强卷积残差网络。
5.19 分形网络
5.20 WaveNet
5.21 指针网络
6 深度生成模型
6.1 玻尔兹曼机
6.2 受限玻尔兹曼机
6.3 深度信念网络
6.4 深度朗伯网络
6.5 生成对抗网络
6.5.1 拉普拉斯生成对抗网络
6.6 循环支持向量机
7 训练和优化技术
7.1 Dropout
7.2 Maxout
7.3 Zoneout
7.4 深度残差学习
7.5 批归一化
7.6 Distillation
Hinton 等人 (2015) 提出了将知识从高度正则化模型的集合 (即神经网络) 转化为压缩小模型的方法。
7.7 层归一化
8 深度学习框架
9 深度学习的应用
图像分类与识别
视频分类
序列生成
缺陷分类
文本、语音、图像和视频处理
文本分类
语音处理
语音识别和口语理解
文本到语音生成
查询分类
句子分类
句子建模
词汇处理
预选择
文档和句子处理
生成图像文字说明
照片风格迁移
自然图像流形
图像着色
图像问答
生成纹理和风格化图像
视觉和文本问答
视觉识别和描述
目标识别
文档处理
人物动作合成和编辑
歌曲合成
身份识别
人脸识别和验证
视频动作识别
人类动作识别
动作识别
分类和可视化动作捕捉序列
手写生成和预测
自动化和机器翻译
命名实体识别
移动视觉
对话智能体
调用遗传变异
癌症检测
X 射线 CT 重建
癫痫发作预测
硬件加速
机器人
10 讨论
11 结论
文章来源:
https://zhuanlan.zhihu.com/p/85625555
评论
真高!比亚迪员工爆料比亚迪在越南的薪资水平:基本工资480万,全勤奖35万,交通补助20万,餐补110万,每周6天,每天10小时
上一篇:某大公司为逼迫员工离职,竟然把他的工位安排到厕所旁,没想到他直接开始记录领导的如厕时间,还发到公司大群...对此,你怎么看?--完--PS:欢迎在留言区留下你的观点,一起讨论提高。如果今天的文章让你有新的启发,欢迎转发分享给更多人。全文完,感谢你的耐心阅读。如果你还想看到我的文章,请一定给本
开发者全社区
0
太敢穿了!透视纱裙!性感火辣的身材
绝了呀今天的厂花:吴宣仪1995年1月26日,吴宣仪出生于海南省海口市,中国内地流行乐女歌手、影视演员。2016年2月,吴宣仪随宇宙少女发行首张迷你专辑正式出道。2018年4月,她参加《创造101》综艺选秀,获得第二名,成功加入火箭少女101组合。吴宣仪的颜值一直备受称赞,她的五官立体精致,皮肤白皙
逆锋起笔
0
某大公司为逼迫员工离职,竟然把他的工位安排到厕所旁,没想到他直接开始记录领导的如厕时间,还发到公司大群...
上一篇:字节的跳动职级与薪资(2024年)我们与公司间的合作,宛如两艘船只在茫茫大海上相互依靠,共同抵御风浪,携手驶向成功的彼岸。然而,当航向开始产生分歧,或是波涛汹涌的风浪改变了我们的初衷,我们或许应当冷静地选择和平分手,而非在风雨中硬撑。最近,一位网友的遭遇引起了广大职场人的关注和热议。这位网友
开发者全社区
0
金融研究 | 使用Python测量关键审计事项的「信息含量」
Tips: 公众号推送后内容只能更改一次,且只能改20字符。如果内容出问题,或者想更新内容, 只能重复推送。为了更好的阅读体验,建议阅读本文博客版, 链接地址https://textdata.cn/blog/2023-01-13-information-content-of-critical-aud
大邓和他的Python
0
我看阿里的年终奖总算发了!
到4月底了,这两天看朋友圈,发现阿里的年终奖终于发了,问了问老同学,也从网上检索了不少信息,基本搞清楚了阿里今年的年终奖情况。近来来阿里一些集团对绩效等级做了较大的调整,以前的旧绩效系统中,绩效分为3.25、3.5、3.75、4和5五个等级,其中4和5是较高绩效等级,较少见。而且之前3.5绩效内部划
公子龙
0
CVPR 2024|大视觉模型的开山之作!无需任何语言数据即可打造大视觉模型
↑ 点击蓝字 关注极市平台作者丨科技猛兽编辑丨极市平台极市导读 本文提出一种序列建模 (sequential modeling) 的方法,不使用任何语言数据,训练大视觉模型。>>加入极市CV技术交流群,走在计算机视觉的最前沿本文目录1 序列建模打造大视觉模型(来自 U
极市平台
1
金融研究(更新) | 使用Python构建关键审计事项的「信息含量」
Tips: 公众号推送后内容只能更改一次,且只能改20字符。如果内容出问题,或者想更新内容, 只能重复推送。为了更好的阅读体验,建议阅读本文博客版, 链接地址https://textdata.cn/blog/2023-01-13-information-content-of-critical-aud
大邓和他的Python
0
字节的跳动职级与薪资(2024年)
上一篇:阿里公布年终奖,P7, 3.5+,22W年终奖,还有35W长期现金激励,真香字节跳动自2012年3月成立以来,已经迅速成长为一个全球性的科技公司。其产品和服务已经遍布全球150多个国家与地区,并且支持超过75种不同的语言。在字节跳动的官方网站上,列出了一系列引人注目的产品和服务,包括但不限于
开发者全社区
0