旷视MegEngine框架开源一周年!聊聊动态图的演进和并行训练公众号CVer关注共 1024字,需浏览 3分钟 ·2021-03-24 12:47 本周四,新一期 MegEngine Meetup 来啦~恰逢 MegEngine 开源一周年,这一次想和大家聊聊过去一年 MegEngine 的架构演进之路,以及我们在性能优化上的一些探索,还将分享如何用 MegEngine 的分布式通信算子实现复杂的并行训练。 干货十足,不容错过~收好下方时间表,我们不见不散!时间安排👉 2021 年 3 月 25 日(周四)19:00 主题一&讲师 MegEngine 开源一周年架构回顾 许欣然 | 旷视天元技术总监 - 议题简介 -MegEngine 开源一周年生态进展;动态图架构的演进、性能进展以及背后的设计原因;过去一年在推理性能上做过的尝试;简单展望未来半年的 Roadmap。主题二&讲师利用 MegEngine 的分布式通信算子实现复杂的并行训练 周亦庄 | 旷视研究院基础模型组研究员 - 议题简介 -MegEngine 为用户提供了完整的、支持自动微分的分布式通信算子,可以用简单的几行代码实现大规模分布式环境下的复杂并行训练。本次分享将从用户角度出发,介绍如何使用 MegEngine 的分布式通信算子实现层内/层间模型并行(intra/inter model parallelism)与流水线并行(pipeline parallelism),以及相应的算法知识与代码实现。👉直播地址👈B 站 「天元MegEngine」 直播间 大家可以提前加入天元技术交流 QQ 群(群号:1029741705)。活动前,小助手会在群内提醒观看,并发送直播链接。群内还有第一手分享 PPT、视频回放链接、以及讲师在线答疑 :D自 2021 年 2 月起,我们推出了 MegEngine Meetup 活动,通过线上直播的方式和大家不定期见面,交流 MegEngine 技术团队最近在研究的那些好玩、炫酷的技术,欢迎来撩~~ 点击阅读原文,了解更多 MegEngine 信息▲点击上方卡片,关注CVer公众号整理不易,请给CVer点赞和在看 浏览 14点赞 评论 收藏 分享 手机扫一扫分享分享 举报 评论图片表情视频评价全部评论推荐 Pytorch并行训练机器学习与生成对抗网络0旷视科技旷视科技0快手八卦!突破TensorFlow、PyTorch并行瓶颈的开源分布式训练框架来了!数据派THU0GParsGroovy的并行处理框架随着并行计算在计算机上的广泛应用(自己用的本本都已经是双核的了),并行计算软件也逐步走向台前,GPars就为我们用Groovy编写并行程序提供了方便。GPar(Apache2License),原名是GYar并行的RPC框架Yar是一个支持多种打包协议的,并行的RPC框架.它基于HTTP协议,在libcurl基础上开发而成简单的Server:classAPI{ /***thedocinfowillbegenerat旷视MegEngine是如何将31*31的大核卷积计算速度提高10倍的数据派THU0MegEngine(天元)深度学习框架MegEngine(天元)是一个快速,可扩展,易于使用且支持自动求导的深度学习框架,中文名为“天元”,是旷视AI战略的重要组成部分,负责AI三要素(算法,算力,数据)中的“算法”。特点:一是“训练推理MegEngine(天元)深度学习框架MegEngine(天元)是一个快速,可扩展,易于使用且支持自动求导的深度学习框架,中文名为“天元”GParsGroovy的并行处理框架随着并行计算在计算机上的广泛应用(自己用的本本都已经是双核的了),并行计算软件也逐步走向台前,GPaYar并行的RPC框架Yar 是一个支持多种打包协议的, 并行的RPC框架.它基于HTTP协议, 在libcurl基础上开点赞 评论 收藏 分享 手机扫一扫分享分享 举报