产业智能落地难，5G+Edge如何推进AI工程化？-技术圈

物联网智库原创

转载请注明来源和出处

导读

边缘计算将作为不可或缺的配套基础设施，实现行业数字化转型，同时在5G和AI技术加持下，将不断加速边缘计算落地到丰富的应用场景中。

自2019年工信部向三大运营商颁发“5G牌照”至今已两年有余，国内5G网络建设取得的领先优势有目共睹，恰逢我国“十四五”开局之年，《中华人民共和国国民经济和社会发展第十四个五年规划和2035年远景目标纲要》中明确提出，加快推动数字产业化，构建基于5G的应用场景和产业生态，在智能交通、智慧物流、智慧能源、智慧医疗等重点领域开展试点示范。

作为未来5-10年内的主流移动通信方式，5G网络建设如火如荼推进的同时，随着越来越多的终端设备接入5G网络，随之而来的数据量也与日俱增，无疑对后端计算提出了更大的挑战。

然而，正所谓“危机共生”，激增的数据规模也极大推动了5G、IoT、AI三大细分领域走向融合，进而为传统行业的智能化转型注入驱动力。而在后端计算领域，5G的发展不仅没有使数据直达入云，反而凭借其大带宽、低时延、高可靠特性进一步促进了边缘计算的崛起，根据相关市场机构预测，到2024年边缘计算市场规模将达到90亿美元，到2027年则有望达到183亿美元。

在7月22日举办的2021挚物·AIoT产业领袖峰会（简称“挚物大会”）上，创通联达副总裁杨新辉在“5G To B”分论坛上为观众带来了题为《5G+Edge驱动行业智慧化转型》的精彩演讲，分享了其对于5G、边缘计算、AI在产业应用中的深度观察，以及创通联达在“5G+Edge”领域的落地成果。除此之外，北京创通联达智能技术有限公司还荣获“2021‘挚物奖’·5G技术应用先锋企业奖”。

突破AI工程化桎梏

边缘计算有效弥补了云计算在时效性、传输距离、安全性等方面的不足，可以在靠近用户的边缘节点进行数据处理，大大缓解后端计算压力的同时也保障了计算的即时性。而5G与边缘计算的结合更是相得益彰，一方面，5G网络通信保障了数据本地化处理的实时性与稳定性；另一方面，通过将计算从数据中心向边缘下沉，可以更好地将低时延特性作用到终端设备上，加之AI的助力使得边缘节点的运算具备了智能分析能力。

创通联达副总裁杨新辉表示，边缘计算将作为不可或缺的配套基础设施，实现行业数字化转型，同时在5G和AI技术加持下，将不断加速边缘计算落地到丰富的应用场景中。

功过参半，AI将边缘计算推向更高阶层的同时，其自身存在的技术门槛高、流程复杂、业务产出比低、敏捷响应度低等诸多挑战，贯穿从AI模型开发到部署应用的整个环节，也在某种程度上限制了边缘智能在产业中的落地。正如杨新辉所述，制约产业智能化进程的最大因素便是AI的工程化。

在数据开发阶段需要综合考虑数据安全性、工具友好性、管理有效性；
在模型开发阶段，则要面临成本高、难度大、技术要求高等问题；
在AI工程化阶段存在碎片化、效率低、边缘能力弱等挑战。

针对于此，创通联达从流程化出发，开发了ModelFarm AI平台以解决AI工程化难题。

创通联达的ModelFarm平台能够提供全流程的AI开发部署能力，提供4个易用的标注工具，50个SOTA预训练模型，可支持包括SNPE、TensorFlow Lite,、Tensor RT,、Open VINO在内的不同推理引擎，同时可通过量化训练，提升边缘侧推理能力，在实现设备管理的同时，支持远程算法及应用部署。基于ModelFarm平台，企业整体开发成本降低70%，同时开发效率提升10%以上，有效加速了智慧工业、智慧楼宇、智慧交通、智慧作业等领域AI项目的落地。

软硬结合，全面赋能“5G+Edge”

创通联达积极布局5G和边缘计算领域，从开发、调试、交付到运维，保障企业能够利用人工智能改善盈利空间。据杨新辉介绍，创通联达采用“DevOps”理念，实现一体化的开发与智慧运维：

其中，ModelFarm平台可实现AI模型训练，IoT Harbor平台可实现设备管理、FOTA、规则引擎、数据管理、应用管理，边缘侧的OS组件可快速满足边缘操作系统的功能要求。

Osware.connect：支持边云协同与边缘自治，边缘设备能在与云端断开连接后继续保持工作，且边缘设备恢复云端连接后可以与云端进行同步，以保持状态一致、数据一致；支持算力组网，算力任务自动调配到最佳计算节点进行处理，还可以通过增加算力使得计算效率大幅提升；支持多设备协同工作，包括工业领域内多机器人协同工作与工业领域内质检设备和机械臂设备协同工作等。
Osware.edgey：可通过提供镜像管理、接口定义、持续部署等关键能力，简化微服务的交付模式，加速边缘应用交付；可通过屏蔽分布式开发的复杂性，在开发、服务、数据、运行、运维等多个层面进行能力聚合；可在层级模块之间使用基于标准化的数据接口和指令接口构建API生态；可整合业界主流技术架构体系，建立分布式架构的技术基线；支持基于客户的需求实现高度的定制化能力。

在硬件方面，创通联达推出了融合“5G+AI+Edge”技术的软硬件一体化产品——EB5边缘智能站：

在硬件设计上，它提供了最高主频为2.84GHz的8核CPU 15T算力， 8GB LPDDR5内存，能够支持24路全高清视频解码及多种AI推理模型并发，支持5G 和WiFi6 连接，同时采用工业级无风扇散热设计，使该产品能够完美应对各种苛刻的使用环境要求；
在软件方面， EB5边缘智能站内置智能边缘操作系统，边缘计算平台架构，基于EdgeX开源框架，增加对垂直领域内设备接入和控制协议的支持，增加对k3s等编排框架的支持；基于边云协同，对接主流云厂商的服务，支持设备管理，系统升级，应用分发等；提供边缘侧系统级关键服务；支持实时处理。

除此之外，创通联达还推出了EB5智能魔方（Edge AI Cube）帮助企业快速实现智能化转型，以及高性价比的TurboX CT4350 5G智能通信模组，集成了Qualcomm® Snapdragon™ 480 5G移动平台，可完美适用于手持终端、行车记录仪、智能POS机、无人机等领域。

在“挚物大会”的“5G To B”分论坛圆桌对话环节，创通联达副总裁杨新辉与中国信息通信研究院专家赵小飞以及腾讯游戏技术运营部高级工程师马啸虎、有方科技副总裁罗伟、鼎桥通信技术预研部总监佟学俭、吾爱易达联合创始人李亚春、北京中微普业5G市场营销总经理袁为化等行业专家就5G产业新趋势展开了精彩的思想碰撞。