资源@斯坦福CS224W | 图机器学习开课!非结构化图数据的算法传送门!(附下载)

专栏 / 资源@斯坦福CS224W | 图机器学习开课!非结构化图数据的算法传送门!(附下载)

资源@斯坦福CS224W | 图机器学习开课!非结构化图数据的算法传送门!(附下载)

2021年08月20日 18:23 --阅读 · --喜欢 · 视频地址: 【双语字幕+资料下载】斯坦福CS224W | 图机器学习(2021最新·全19讲)

粉丝: 1.1万 文章: 30

课程资料(课件/笔记/代码)获取方式

实体版: 公众号 ShowMeAI研究中心 后台回复「 CS224W

在线版: 访问 http://blog.showmeai.tech/cs224w/

1.课程简介

Machine Learning with Graphs

CS224W,全称是 CS224W: Machine Learning with Graphs ,核心内容覆盖图数据挖掘、Node embedding、PageRank、标签传播、图神经网络、知识图谱、知识推理、子图挖掘、社区发现、生成模型等主题。

顶级院校斯坦福出品的图机器学习方向专业课程,对于graph方向的数据挖掘和机器学习(神经网络)有全面的知识覆盖和很高的权威度。


讲师助教团队

课程主讲人 Jure Leskovec 是斯坦福大学计算机科学副教授,也是图表示学习方法 node2vec 和 GraphSAGE 的作者之一。

他主要的研究兴趣是社会信息网络的挖掘和建模等,特别是针对大规模数据、网络和媒体数据。多次在 Nature、NeurIPS、KDD、ICML 等期刊和学术会议上发表论文。


2.资料下载

ShowMeAI顶级AI课程资料库,覆盖最具知名度的 TOP20+ 门AI课程,由以下五个部分组成,旨在为读者和学习者提供一整套 高品质 中文学习笔记和速查表。

顶级AI课程资料

公众号( ShowMeAI研究中心 后台回复「 CS224W 」,获取资料的PDF最新版本。


视频 ·中英字幕

课件 & 笔记

▲▼ 在线 课程资料库:http://blog.showmeai.tech/cs224w/

作业&结业项目

说明:

资料库滚动更新中,逐渐与课程官网同步。如有资料待更新,请您耐心等待、催更我们、或者加入我们吧!


3.课程描述

CS224W课程内容描述

图是一种强大的数据结构,可以用于建模许多真实世界的场景, 图能够对样本之间的关系信息进行建模 。但是真实图的数据量庞大,动辄上亿节点、而且内部拓扑结构复杂,很难将传统的图分析方法如最短路径、DFS、BFS、PageRank 等算法应用到这些任务上。

因此有研究者提出 将机器学习方法和图数据结合起来,即图机器学习 ,这逐渐成为近年来机器学习中的一股热潮,特别是图神经网络(GNN)。


CS224W课程内容描述

本课程着重于分析海量图形所面临的计算、算法和建模挑战。通过研究底层图结构及其特征,向学生介绍机器学习技术、数据挖掘工具。

课程涉及的主题包括:表征学习和图神经网络;万维网算法;基于知识图谱的推理;影响力最大化;疾病爆发检测;社交网络分析。

翻译自官方网站


4.课程大纲

第01讲

Introduction; Machine Learning for Graphs

第02讲

Traditional Methods for ML on Graphs

第03讲

Node Embeddings

第04讲

Link Analysis: PageRank

第05讲

Label Propagation for Node Classification

第06讲

Graph Neural Networks 1: GNN Model

第07讲

Graph Neural Networks 2: Design Space

第08讲

applications of Graph Neural Networks

第09讲

Theory of Graph Neural Networks

第10讲

Knowledge Graph Embeddings

第11讲

Reasoning over Knowledge Graphs

第12讲

Frequent Subgraph Mining with GNNs

第13讲

Community Structure in Networks

第14讲

Traditional Generative Models for Graphs

第15讲

Deep Generative Models for Graphs

第16讲

Advanced Topics on GNNs

第17讲

Scaling Up GNNs

第18讲

Guest Lecture: GNNs for Computational Biology

第19讲

GNNs for Science

注:章节名术语较多,未作中文翻译


5.章节重点

第01讲:Introduction; Machine Learning for Graphs

关键词: 图机器学习,Node level,Edge level,Graph level,有向,Directed,无向,undirected,加权邻接矩阵, weighted adjacency matrix


第02讲:Traditional Methods for ML on Graph

关键词: Hand-crafted features,centrality,clustering coefficient,graphlets,Distance-based feature,Graphlet kernel,WL kernel


第03讲:Node Embedding

关键词: Encoder,Decoder,节点相似度度量,Node similarity measure,DeepWalk,Node2Vec ,节点嵌入聚合,Node embedding aggregation,Anonymous Walk Embeddings


第04讲:Link Analysis: PageRan

关键词: PageRank,个性化网页排名 Personalized PageRank (PPR),Node embeddings,随机游走 random walk,矩阵分解,matrix factorization


第05讲:Label Propagation for Node Classificatio

关键词: 关系分类 Relational classification,迭代分类 Iterative classification,Loopy belief propagation


第06讲:Graph Neural Networks 1: GNN Model

关键词: 神经网络 Neural Networks,Loss,Optimization,Gradient,SGD,MLP,图卷积网络,Graph Convolutional Network,GraphSAGE


第07讲:Graph Neural Networks 2: Design Space

关键词: 图神经网络,GNN,GCN,GraphSAGE,GAT,Skip connections,Feature augmentation,Structure manipulation


第08讲:applications of Graph Neural Networks

关键词: GNN,GCN,GraphSAGE,GAT,Skip connections,Feature augmentation,Structure manipulation


第09讲:Theory of Graph Neural Networks

关键词: injective multi-set function,neighbor aggregation function,GIN,element-wise sum pooling


第10讲:Knowledge Graph Embeddings

关键词: Relational GCN (RGNN), RGraphSAGE,Link prediction,Graph completion,TransE,TransR,DistMult,ComplEx


第11讲:Reasoning over Knowledge Graphs

关键词: answering predictive queries,大型知识图谱,large knowledge graphs,嵌入空间,embedding space,composing learnedoperators


第12讲:可视化与模型理解

关键词: Subgraphs,Motifs,neural approaches,Order embeddings,Neural embedding-guided search


第13讲:Community Structure in Networks

关键词: BigCLAM,ACG,overlappingcommunity structure,log-likelihood


第14讲:Traditional Generative Models for Graphs

关键词: Traditional graph generative models,Erdös-Renyi graphs,Small-world graphs,Kronecker graphs


第15讲:Deep Generative Models for Graphs

关键词: Deep graph generative models,sequential generation,hiddenstate,Implicit,Explicit


第16讲:Advanced Topics on GNNs

关键词: adversarial robustness,semi-supervised node classification,graph-structured data,adversarial attack,GCN


第17讲:Scaling Up GNNs

关键词: Simplified GCN,scalable mini-batch SGD,Simplified GCN,node classification benchmark


第18讲:GNNs for Computational Biology

关键词: Graph Embedding,Fraud Detection,PAI,Alibaba Machine Learning Platform,AliGraph


第19讲:GNNs for Science

关键词: GNN design,GNN tasks,GraphGym


6.前置知识

这门课程是独立的。单个Topic容易理解,但课程涉及到了很多Topic,这就导致了课程难度的增加。学生应具备以下背景:

  • 具备基本的计算机科学原理知识,足以编写合理的非琐碎计算机程序

  • 熟悉基本的概率理论和线性代数

  • 熟悉机器学习、算法与图论的基本知识

  • 课程前几周的复习课,将概述所需的背景知识


课程资料(课件/笔记/代码)获取方式

实体版: 公众号 ShowMeAI研究中心 后台回复「 CS224W

在线版: 访问 http://blog.showmeai.tech/cs224w/


参考链接

[1] http://web.stanford.edu/class/cs224w/

[2] http://blog.showmeai.tech/cs224w

[3] https://www.bilibili.com/video/BV1F44y117iC


推荐学习

(* ̄( ̄ *) http://blog.showmeai.tech/cs224n/

作者 | ShowMeAI编辑部

参与 | 韩信子、南乔River

投诉或建议
《科技观察》189:Oracle NetSuite与Hitpoint:从拓荒到领跑背后,陪伴是最长情的告白
今年3月底——春风沉醉的早晨,在甲骨文上海分公司,我见到了甲骨文公司副总裁,Oracle NetSuite 大中华区总经理叶天禄以及上海网杉信息技术有限公司(以下简称Hitpoint)创始人兼总裁邓先飞,并与二位展开了一场精彩的对话。作为中国最早的SaaS创业者之一,邓先飞谈及在2009年初次接触到Oracle NetSuite的方案时,直言:“这是我梦想中一直在寻找的一款SaaS软件。”成立于2005年的Hitpoint,是中国最早做企业云计算解决方案的顾问公司之一。曾引入和代理的是Salesforce