云边端一体化的异构AI计算

中国人工智能市场快速增长，其中边缘计算占比越来越高，业务场景的碎片化以及底层硬件的多样性的问题给边缘计算的开发部署带来较大的挑战。

本次分享主要介绍阿里云AI异构计算编译框架HALO以及面向深度学习的异构硬件统一接口规范ODLA，通过具体的实例说明如何利用异构编译和硬件架构抽象实现上层应用在异构计算资源上的平滑迁移。后半部分介绍ODLA.CV (多媒体Pipeline自动生成)技术，以及多媒体+AI的相关探索和应用。

通过HALO总体框架介绍，以及异构硬件统一接口规范ODLA，通过静态全编译的方式可以让业务模型跟框架解耦合，通过ODLA实现和具体硬件解耦合，实现平滑迁移；通过具体的例子来说明Halo和ODLA的工作流程。

介绍多媒体Pipeline自动生成技术，解决上层业务场景的碎片化定制化的问题。

首先，通过HALO静态全编译的方式可以让业务模型跟框架解耦合，同时提升性能，避免框架开销；通过ODLA统一抽象的方式实现和具体硬件解耦合，实现平滑迁移，产生一次，随处执行；通过HALO/ODLA实现AI的平滑迁移。

其次，通过多媒体Pipeline自动生成技术解决上层业务场景的碎片化（需要高度定制）带来的开发效率问题。

最后，介绍多媒体+AI相关的一些探索和优化工作，以及相关的应用落地，和未来的思考。

下载链接：云边端一体化的异构AI计算

智能异构计算服务器

智能平台白皮书

2021年AI在工业领域的研究报告

异构芯片研究框架合集

免责申明：本号聚焦相关技术分享，内容观点不代表本号立场，可追溯内容均注明来源，发布文章若存在版权等问题，请留言联系删除，谢谢。

电子书<服务器基础知识全解(终极版)>更新完毕，知识点深度讲解，提供182页完整版下载。

获取方式：点击“阅读原文”即可查看PPT可编辑版本和PDF阅读版本详情。

温馨提示：

请搜索“AI_Architect”或“扫码”关注公众号实时掌握深度技术分享，点击“阅读原文”获取更多原创技术干货。