1️⃣ 讲者介绍

纪厚业：北京邮电大学计算机科学与技术专业博士研究生。研究兴趣包括异质图分析，网络表示学习，图神经网络等。

报告题目：Heterogeneous Graph Attention Network

报告摘要：图神经网络是近年来图数据挖掘领域的热门研究方向之一，被誉为是新一代深度学习。图神经网络可以将端到端学习与归纳推理相结合，有望解决深度学习无法进行关系推理的问题。以Graph Convolutional Network，Graph Attention Network为代表的图神经网络已经引起了学术界与工业界的广泛关注。然而，目前的图神经网络主要针对同质图（节点类型和边类型单一）设计，但真实世界中的图大部分都可以被自然地建模为异质图（多种类型的节点和边）。如何设计可以处理真实世界图数据的异质图神经网络是一个迫切需要解决的问题。

本次分享将介绍我们在异质图神经网络上的最新工作，这是第一篇基于注意力机制的异质图神经网络的工作。本文围绕异质图数据中一些基础性结构（多种类型的节点/边和元路径结构），分别设计了节点级别注意力和语义级别注意力来实现对节点全面且细致的表示。相对于现有的工作，我们的模型可以处理更加复杂的结构和语义信息也具有更强的现实意义。

Spotlight：

Node-Level Attention可以学习元路径邻居的重要性并通过聚合操作得到节点表示；
Semantic-Level Attention 可以针对不同任务来学习语义信息的重要性并对语义进行融合。

2️⃣ 讲者介绍

高君宇：中国科学院自动化研究所博士生，导师为徐常胜研究员。研究方向为基于深度学习的视频理解与应用。在IEEE Transaction on Image Processing（TIP）、CVPR、AAAI、ACM MM等CCF推荐的A类期刊、会议中发表多篇一作论文。获得了国家奖学金、中国科学院大学三好学生、三好学生标兵、百度奖学金、必和必拓奖学金、Rokid奖学金等。

报告题目：I Know the Relationships: Zero-Shot Action Recognition via Two-Stream Graph Convolutional Networks and Knowledge Graphs

报告摘要：随着社交网络与在线视频平台的兴起，网络上每天都在涌现大量的视频，伴随着这些视频而来的是与日俱增的行为类别。虽然有监督的行为分类方法取得了显著的进展和很好的效果，但是这些方法依赖于大量的标注样本，而标注这些数据是极为耗时耗力的。因此，零样本视频分类的方法应运而生。目前，通过自动挖掘潜在概念（如行为、属性等）进行零样本视频分类的方法获得了极大的成功。但是，大多数现有方法只利用了视频的视觉信息而忽视了对这些概念之间的显式关系建模。因此，我们提出了一个基于知识图谱的端到端零样本行为识别框架，其可以联合建模行为-属性、属性-属性、行为-行为之间的关系。具体的，我们设计了一个双支图卷积神经网络，其包括一个分类器支和一个实例支。分类器支输入所有概念的词向量并产生对应概念的分类器。实例支将属性的词向量和和每个视频实例的属性得分映射到一个特征空间中。最后，学习到的分类器在产生的属性特征上进行评估，并通过一个分类损失进行端到端地整体优化。为了考虑视频的时序建模，我们还引入了一个自注意力模型来有效利用视频的时序信息。实验结果表明提出方法具有很好的效果。

Spotlight：

基于双支图神经网络的视频零样本识别方法；
结合知识图谱与图神经网络，对概念间关系进行高效建模。

3️⃣ 论文推荐

最近，图神经网络广泛受到了各界的关注，基于图神经网络的模型和应用在异质图表示学习和零样本学习任务中取得了不错的效果。今天，两位主讲嘉宾为大家精选了图神经网络方法中的几个代表性模型以及零样本学习模型，和大家一起学习分享最新的研究进展。

你可以认真阅读，来现场和讲者面对面交流哦。

推荐理由：图神经网络领域最经典的论文之一，也是Graph Convolutional Network的代表。本文对谱域的图卷积进行了分析，并对傅里叶变换后的频域图卷积进行了一阶近似。通过一个简单高效的传播模型在节点分类任务上取得最优效果。

推荐理由来自：纪厚业

推荐理由：在实际图数据中，两个节点建立连接的原因不同，连接强度也各不相同。本文所提出的Graph Attention Network将注意力机制引入到图神经网络中来学习节点邻居的重要性。GAT可以更好的处理桥节点和噪音邻居具有更好的鲁棒性。同时，通过对注意力权重进行分析，GAT具有更好的可解释性。

推荐理由来自：纪厚业

推荐理由：本文对Graph Convolutional Network进行了理论分析，证明了Graph Convolutional Network本质是一种Laplacian smoothing。多层GCN效果下降的原因是over-smoothing。最后本文提出了co-training和self-training来克服GCN的局限并通过实验验证了其效果。

推荐理由来自：纪厚业

推荐理由：对Graph Convolutional Network的局限性进行了分析。本文首先分析了PageRank和Graph Convolutional Network之间的联系与区别，并利用Personalized PageRank的角度来解决Graph Convolutional Network中存在的问题。本文提出的算法在经过多层传播后依然不会出现过平滑问题，并随着层数的增加，模型效果有了一定的提升。

推荐理由来自：纪厚业

推荐理由：结合知识图谱与图神经网络进行零样本图片分类的开创之作，发表在CVPR2018。本文通过知识图谱信息将物体类别构造成图，每个节点输入对应类别的词向量信息，输出该类别对应的分类器参数。通过使用已知类别预训练好的分类器进行二次回归优化，从而把分类器学习泛化到未知类上。

推荐理由来自：高君宇

推荐理由： 上一篇文章的改进版，被CVPR2019接收。主要改进有如下几个方面：

将局部信息传播改为密集信息传播（Dense Graph Propagation, DGP），减少了GCN 的层数；
根据连接边的远近引入attention机制进行加权计算；
根据graph信息进行微调。

推荐理由来自：高君宇

推荐理由：使用知识图谱与图神经网络进行多标签零样本学习的开创之作，发表在CVPR2018。本文在语义类别空间中学习信息传递机制，从而可以建模已知类和未知类之间的相互依赖关系。

推荐理由来自：高君宇

录播视频/推荐论文下载/讲者PPT登录后获取查看地址

录播视频：纪厚业
 录播视频：高君宇
 推荐论文下载，提取码：6xc1

PPT