DeepMind加持的GNN框架正式开源!TensorFlow进入图神经网络时代
ccwgpt 2024-10-17 08:11 23 浏览 0 评论
编辑:好困 小咸鱼
【新智元导读】谷歌在垃圾邮件检测、流量估计以及YouTube内容标签等环境中使用了一种强大的工具GNN(图神经网络)。11月18日,谷歌联合DeepMind对外开源TensorFlow GNN工具,助力流量预测、谣言和假新闻检测、疾病传播建模、物理模拟等领域的基础研究。
11月18日,谷歌联合DeepMind发布了TensorFlow GNN(图神经网络)。
目前,谷歌已经在诸如垃圾邮件检测、流量估计以及YouTube内容标签等环境中用上了这个库的早期版本。
为什么要用GNN?
图(Graph)是用于表示对象之间关联关系的一种抽象数据结构,使用节点/顶点(Node/Vertex)和边(Edge)进行描述:顶点表示对象,边表示对象之间的关系。
而在现实世界和工程系统中,图无处不在。
比如,一组物体、地点或人以及它们之间的联系通常可以用图形来描述。
通常,在机器学习问题中看到的数据是结构化的或关系型的,因此也可以用图来描述。
经过几十年的基础研究,GNN已经在很多的领域都取得了进展,如流量预测、谣言和假新闻检测、疾病传播建模、物理模拟以及理解分子为什么有气味。
图模拟不同类型数据之间的关系:网页(左)、社交联系(中)或分子(右)
通过GNN,就可以回答那些关于图的多种特征的问题。比如在图中观察到的各种不同的「形状」:图中的圆圈,可能代表子分子,也可能代表密切的社会关系。
在节点级的任务中,GNN可以对图的节点进行分类,并预测图中的分区和亲和力,类似于图像分类或分割。
在边级别的任务中,可以使用GNN来发现实体之间的连接,比如用GNN「修剪」图中的边,从而识别场景中对象的状态。
TF-GNN的结构
TF-GNN为在TensorFlow中实现GNN模型提供了构建模块。
除了建模API之外,TF-GNN还围绕着处理图数据的困难任务提供了大量的工具:基于Tensor的图数据结构,数据处理管道,以及一些供用户快速上手的示例模型。
组成工作流程的TF-GNN的各个部分
TF-GNN库的初始版本包含了许多实用程序和功能,包括:
- 一个高水平的Keras风格的API,用于创建GNN模型,可以很容易地与其他类型的模型组合。GNN经常与排名、深度检索(双编码器)或与其他类型的模型(图像、文本等)结合使用。
- 用于异构图的GNN API。在现实世界中处理的许多图问题都包含不同类型的节点和边。因此,谷歌选择提供一种简单的方法来建模。
- 一个定义明确的模式来声明一个图的拓扑结构,以及验证它的工具。这个模式描述了其训练数据的形状,并用于指导其他工具。
- 一个保存了图数据的GraphTensor复合张量类型。其可以被分批处理,并有可用的图操作程序。
- 一个对GraphTensor结构的操作库:
- 在节点和边上进行各种有效的传播和池化操作的相关工具。
- 一个标准的卷积库,可以被ML工程师/研究人员轻松扩展。
- 一个高层次的API,供产品工程师快速建立GNN模型,而不必担心其细节问题。
- 对磁盘上的图训练数据进行编码,以及用于将这些数据解析为数据结构的库。其中,模型可以从中提取各种特征。
使用示例
比如,使用TF-GNN Keras API建立一个模型,并根据用户观看的内容和喜欢的类型向其推荐电影。
通过使用ConvGNNBuilder方法来指定边缘和节点配置的类型,即对边缘使用WeightedSumConvolution。每次通过GNN时,都将通过Dense互连层来更新节点值:
import tensorflow as tf
import tensorflow_gnn as tfgnn
# Model hyper-parameters:
h_dims = {'user': 256, 'movie': 64, 'genre': 128}
# Model builder initialization:
gnn = tfgnn.keras.ConvGNNBuilder(
lambda edge_set_name: WeightedSumConvolution(),
lambda node_set_name: tfgnn.keras.layers.NextStateFromConcat(
tf.keras.layers.Dense(h_dims[node_set_name]))
)
# Two rounds of message passing to target node sets:
model = tf.keras.models.Sequential([
gnn.Convolve({'genre'}), # sends messages from movie to genre
gnn.Convolve({'user'}), # sends messages from movie and genre to users
tfgnn.keras.layers.Readout(node_set_name="user"),
tf.keras.layers.Dense(1)
])
此外,还可以在某些场景下让GNN使用一个更强大的自定义模型架构。
例如,指定某些电影或流派在推荐时拥有更多的权重。
那么,就可以通过自定义图卷积来生成一个更高级的GNN。
在下面的这段代码中,就用WeightedSumConvolution类来汇集边的值,并作为所有边的权重之和:
class WeightedSumConvolution(tf.keras.layers.Layer):
"""Weighted sum of source nodes states."""
def call(self, graph: tfgnn.GraphTensor,
edge_set_name: tfgnn.EdgeSetName) -> tfgnn.Field:
messages = tfgnn.broadcast_node_to_edges(
graph,
edge_set_name,
tfgnn.SOURCE,
feature_name=tfgnn.DEFAULT_STATE_NAME)
weights = graph.edge_sets[edge_set_name]['weight']
weighted_messages = tf.expand_dims(weights, -1) * messages
pooled_messages = tfgnn.pool_edges_to_node(
graph,
edge_set_name,
tfgnn.TARGET,
reduce_type='sum',
feature_value=weighted_messages)
return pooled_messages
尽管卷积是在只考虑源节点和目标节点的情况下编写的,但是TF-GNN确保了它的适用性,并且可以无缝地在异构图(具有各种类型的节点和边)上工作。
安装说明
这是目前安装tensorflow_gnn预览版的唯一方法。强烈建议使用虚拟环境。
- 克隆tensorflow_gnn
gt; git clone https://github.com/tensorflow/gnn.git tensorflow_gnn
- 安装TensorFlow
TF-GNN需要用到TensorFlow 2.7中的一个功能:tf.ExtensionTypes。
gt; pip install tensorflow
- 安装Bazel
构建TF-GNN的源代码需要用到Bazel。
- 安装GraphViz
TF-GNN将使用GraphViz作为可视化工具。安装方法因操作系统而异,例如,在Ubuntu中:
gt; sudo apt-get install graphviz graphviz-dev
- 安装tensorflow_gnn
gt; cd tensorflow_gnn && python3 -m pip install
参考资料:
https://blog.tensorflow.org/2021/11/introducing-tensorflow-gnn.html?m=1
https://github.com/tensorflow/gnn
相关推荐
- 用Steam启动Epic游戏会更快吗?(epic怎么用steam启动)
-
Epic商店很香,但也有不少抱怨,其中一条是启动游戏太慢。那么,如果让Steam启动Epic游戏,会不会速度更快?众所周知,Steam可以启动非Steam游戏,方法是在客户端左下方点击“添加游戏”,然...
- Docker看这一篇入门就够了(dockerl)
-
安装DockerLinux:$curl-fsSLhttps://get.docker.com-oget-docker.sh$sudoshget-docker.sh注意:如果安装了旧版...
- AYUI 炫丽PC开发UI框架2016年6月15日对外免费开发使用 [1]
-
2016年6月15日,我AY对外发布AYUI(WPF4.0开发)的UI框架,开发时候,你可以无任何影响的去开发PC电脑上的软件exe程序。AYUI兼容XP操作系统,在Win7/8/8.1/10上都顺利...
- 别再说C#/C++套壳方案多了!Tauri这“借壳生蛋”你可能没看懂!
-
浏览器套壳方案,C#和C++有更多,你说的没错,从数量和历史积淀来看,C#和C++确实有不少方式来套壳浏览器,让Web内容在桌面应用里跑起来。但咱们得把这套壳二字掰扯清楚,因为这里面学问可大了!不同的...
- OneCode 核心概念解析——Page(页面)
-
在接触到OneCode最先接触到的就是,Page页面,在低代码引擎中,页面(Page)设计的灵活性是平衡“快速开发”与“复杂需求适配”的关键。以下从架构设计、组件系统、配置能力等维度,解析确...
- React是最后的前端框架吗,为什么这么说的?
-
油管上有一位叫Theo的博主说,React是终极前端框架,为什么这么说呢?让我们来看看其逻辑:这个标题看起来像假的,对吧?React之后明明有无数新框架诞生,凭什么说它是最后一个?我说的“最后一个”不...
- 面试辅导(二):2025前端面试密码:用3个底层逻辑征服技术官
-
面试官放下简历,手指在桌上敲了三下:"你上次解决的技术难题,现在回头看有什么不足?"眼前的候选人瞬间僵住——这是上周真实发生在蚂蚁金服终面的场景。2025年的前端战场早已不是框架熟练...
- 前端新星崛起!Astro框架能否终结React的霸主地位?
-
引言:当"背着背包的全能选手"遇上"轻装上阵的短跑冠军"如果你是一名前端开发者,2024年的框架之争绝对让你眼花缭乱——一边是React这位"背着全家桶的全能选...
- 基于函数计算的 BFF 架构(基于函数计算的 bff 架构是什么)
-
什么是BFFBFF全称是BackendsForFrontends(服务于前端的后端),起源于2015年SamNewman一篇博客文章《Pattern:BackendsFor...
- 谷歌 Prompt Engineering 白皮书:2025年 AI 提示词工程的 10 个技巧
-
在AI技术飞速发展的当下,如何更高效地与大语言模型(LLM)沟通,以获取更准确、更有价值的输出,成为了一个备受关注的问题。谷歌最新发布的《PromptEngineering》白皮书,为这一问题提供了...
- 光的艺术:灯具创意设计(灯光艺术作品展示)
-
本文转自|艺术与设计微信号|artdesign_org_cn“光”是文明的起源,是思维的开端,同样也是人类睁眼的开始。每个人在出生一刻,便接受了光的照耀和洗礼。远古时候,人们将光奉为神明,用火来...
- MoE模型已成新风口,AI基础设施竞速升级
-
机器之心报道编辑:Panda因为基准测试成绩与实际表现相差较大,近期开源的Llama4系列模型正陷入争议的漩涡之中,但有一点却毫无疑问:MoE(混合专家)定然是未来AI大模型的主流范式之一。...
- Meta Spatial SDK重大改进:重塑Horizon OS应用开发格局
-
由文心大模型生成的文章摘要Meta持续深耕SpatialSDK技术生态,提供开自去年9月正式推出以来,Meta持续深耕其SpatialSDK技术生态,通过一系列重大迭代与功能增强,不断革新H...
- "上云"到底是个啥?用"租房"给你讲明白IaaS/PaaS/SaaS的区别
-
半夜三点被机房报警电话惊醒,顶着黑眼圈排查服务器故障——这是十年前互联网公司运维的日常。而现在,程序员小王正敷着面膜刷剧,因为公司的系统全"搬"到了云上。"部署到云上"...
- php宝塔搭建部署thinkphp机械设备响应式企业网站php源码
-
大家好啊,欢迎来到web测评。本期给大家带来一套php开发的机械设备响应式企业网站php源码,上次是谁要的系统项目啊,帮你找到了,还说不会搭建,让我帮忙录制一期教程,趁着今天有空,简单的录制测试了一下...
你 发表评论:
欢迎- 一周热门
- 最近发表
-
- 用Steam启动Epic游戏会更快吗?(epic怎么用steam启动)
- Docker看这一篇入门就够了(dockerl)
- AYUI 炫丽PC开发UI框架2016年6月15日对外免费开发使用 [1]
- 别再说C#/C++套壳方案多了!Tauri这“借壳生蛋”你可能没看懂!
- OneCode 核心概念解析——Page(页面)
- React是最后的前端框架吗,为什么这么说的?
- 面试辅导(二):2025前端面试密码:用3个底层逻辑征服技术官
- 前端新星崛起!Astro框架能否终结React的霸主地位?
- 基于函数计算的 BFF 架构(基于函数计算的 bff 架构是什么)
- 谷歌 Prompt Engineering 白皮书:2025年 AI 提示词工程的 10 个技巧
- 标签列表
-
- 框架图 (58)
- flask框架 (53)
- quartz框架 (51)
- abp框架 (47)
- jpa框架 (47)
- springmvc框架 (49)
- 分布式事务框架 (65)
- scrapy框架 (56)
- shiro框架 (61)
- 定时任务框架 (56)
- java日志框架 (61)
- JAVA集合框架 (47)
- mfc框架 (52)
- abb框架断路器 (48)
- ui自动化框架 (47)
- beego框架 (52)
- java框架spring (58)
- grpc框架 (55)
- ppt框架 (48)
- 内联框架 (52)
- cad怎么画框架 (58)
- ps怎么画框架 (47)
- ssm框架实现登录注册 (49)
- oracle字符串长度 (48)
- oracle提交事务 (47)