腾讯AI Lab联合清华、港中文,万字解读图深度学习历史、最新进展与应用
极市平台
共 18399字,需浏览 37分钟
· 2020-09-25
极市导读
本文从图神经网络的发展历史、最新研究和应用进展三大方面出发,总结了课程Theme II: Advances and Applications的内容。>>加入极市CV技术交流群,走在计算机视觉的最前沿
一、图与图神经网络
变体卷积:Lanczos 网络(使用 Lanczos 算法来获取图拉普拉斯的低秩近似)、图小波神经网络(使用小波变换替代傅里叶变换)、双曲 GCN(将 GCN 构建到双曲空间中)。 注意力机制:图注意力网络(使用可学习的自注意力替换固定的聚合权重)、门控注意力网络(加入了可学习的门来建模每个头的重要度)、谱式图注意力网络(将注意力应用于谱域中的高 / 低频组件)。 图池化:SAGE(自注意图嵌入,在池化时使用自注意力来建模节点重要度)、通过图剪切实现图池化(通过图剪切算法得到的预训练子图实现图池化)、可微分图池化(DIFFPOOL,通过学习聚类分配矩阵以分层方式来聚合节点表征)、特征池化(EigenPooling,通过整合节点特征和局部结构来获得更好的分配矩阵)。 高阶 GNN:高阶 GNN 是指通过扩展感受野来将高阶相近度(high-order proximities)编码到图中。高阶相近度描述的是距离更多样的节点之间的关系,而不仅是近邻节点之间的关系。这方面的研究工作包括 DCNN(通过把转移矩阵的幂级数堆叠起来而将邻接矩阵扩展为张量,然后相互独立地输出节点嵌入和图嵌入)、MixHop(使用了归一化的多阶邻接矩阵,然后汇集各阶的输出,从而同时得到高阶和低阶的相近度)、APPNP(使用了个性化 PageRank 来为目标节点构建更好的近邻关系)。
二、图神经网络的研究进展
三、图神经网络的应用进展
四、总结和展望
推荐阅读
评论
【直播预告】智能物联2.0:行业应用新篇章丨AIoT助力下,智能家居能从“骨感的现实”走向“丰满的理想”吗?
智次方·物联网智库判断,2024年是智能物联2.0时代的开端,智能物联2.0阶段的典型特征是:通感智值一体化。这种一体化不仅能够提升智慧交通、智慧城市、智慧工厂等领域的应用能力,也为解决更复杂的社会问题,诸如资源约束和绿色发展等,提供了可能。基于上述判断,智次方·物联网智库发起了“智能物联2.0通感
物联网智库
0
智能物联2.0提速,边缘智能涌现:云重担下放、NPU加持、Tiny AI注智
作者:彭昭(智次方创始人、云和资本联合创始合伙人)物联网智库 原创这是我的第324篇专栏文章。人工智能大模型与硬件的融合正在如火如荼地进行,但在B2C消费端似乎遇到了阻力。据The Information报道,苹果前设计总监Jony Ive和OpenAI的CEO Sam Altman已联手设计一款A
物联网智库
0
特征提取:传统算法 vs 深度学习
点击上方“小白学视觉”,选择加"星标"或“置顶”重磅干货,第一时间送达编者荐语 特征提取是计算机视觉中的一个重要主题。不论是SLAM、SFM、三维重建等重要应用的底层都是建立在特征点跨图像可靠地提取和匹配之上。特征提取是计算机视觉领域经久不衰的研究热点,总的来说,快速、准确、鲁棒的特征点提
小白学视觉
0
性能提升,星辰AI大模型TeleChat-12B评测
0x0. 前言2月份的时候评测过TeleChat-7B大模型,见星辰AI大模型TeleChat-7B评测。最近中电信 AI 科技有限公司针对TeleChat-7B进行了性能升级,并开源了一个更大的模型TeleChat-12B,受邀对这个大模型进行新的评测。本文主要关注TeleChat-7B在做一些文
GiantPandaCV
0
一文总结:AI大模型之LangChain基础用法
你好,我是郭震现在或未来最火的无疑是AI大模型开发,现在去boss直聘,随便一搜大模型开发,岗位薪资是下面这样的。工资高,还有前景,这不就是风口吗。AI大模型开发中最重要的一个框架就是LangChain,今天我们先来看看它的简介和基础用法。LangChain 框架简介LangChain 是一个用于简
Python与算法社区
0
摄像机标定技术及其应用——单目摄像机
点击上方“小白学视觉”,选择加"星标"或“置顶”重磅干货,第一时间送达一、为什么要进行摄像机标定 随着机器视觉的迅猛发展,我们已经不满足于使用摄像机进行监控、抓拍这种较为简单的功能。更多的用户青睐于它在非接触三维尺寸测量上的应用。我们所谓的三维测量是广义的三维测量,它不仅包括三维物体的重构与测量,
小白学视觉
0
神经网络之CNN与RNN的关系
点击上方“小白学视觉”,选择加"星标"或“置顶”重磅干货,第一时间送达1、CNN介绍CNN是一种利用卷积计算的神经网络。它可以通过卷积计算将原像素很大的图片保留主要特征变成很小的像素图片。本文以李宏毅老师ppt内容展开具体介绍。1.1 Why CNN for Image①为什么引入CNN ?图片示意
小白学视觉
0
教程来了!3分钟教你搭建:AI大模型前端界面
你好,我是郭震今天这篇教程,总结大模型前端界面搭建,让你免费使用AI大模型,更加方便和舒服。1 界面升级这是自带的终端窗口,使用不友好:这是升级后的网站界面,自带各种大模型适配,还集成很多助手,支持消息持久存储。2 更多功能内置200多个助手:多种主题设置:3 极简部署
Python与算法社区
3