百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

谷歌推出新开源框架:添加 5 行代码,带来更强大的神经网络模型

ccwgpt 2024-09-13 16:12 38 浏览 0 评论

根据科技网站 Venturebeat 的报道,Google 今天推出了神经结构化学习(Neural Structured Learning,以下简称 NSL)。据悉,这是一个开源框架,它使用神经图它使用神经图学习方法,来训练带有图(Graph)和结构化数据的神经网络,带来强大的模型。

NSL 与 TensorFlow 机器学习平台需要配合使用,新手和高级开发人员都可以使用它来训练具有结构化信号的神经网络,适用于机器学习技术的入门开发者和有一些经验的从业者。NSL 可以为计算机视觉制作模型,执行其框架,使开发人员能够使用图表训练神经网络。图表可以来自多个来源,例如知识图、医疗记录、基因组数据或多模式关系(例如,图像-文本)。NSL 还可以运用到对抗性学习算法中。而在医疗领域中,NSL 可以从医疗记录或知识图等图形数据集运行预测。

简单来说,TensorFlow 中的 NSL 框架为开发人员提供了以下易于使用的 API 和工具,用于训练具有结构化信号的模型:

  • Keras API 支持使用图形(显式结构)和对抗性扰动(隐式结构)进行训练。
  • TF 操作和功能,以便在使用较低级别的 TensorFlow API 时启用结构培训
  • 用于构建图形和构建用于培训的图形输入的工具

“在培训期间利用结构化信号可以让开发人员获得更高的模型精度,特别是当标记数据量相对较小时。” TensorFlow 工程师 Da-Cheng Juan 和 Sujith Ravi 在博客中表示,“结构化信号训练也可以带来更强大的模型。这些技术已广泛用于 Google 产品,以提高模型性能,例如 Graph-Regularized Image Semantic Embedding(Graph-RISE)图形规范化图像语义嵌入技术等。”

关于 NSL 是如何工作的,TensorFlow 工程师进行了详细的解释。在 NSL 中,利用结构化信号,无论是明确定义为图形还是隐式学习为对抗性实例,只要可以让开发者获得更高的模型精度,而在用于规范神经网络的训练上受益即可。在执行上,下图中进行了很好的解释,通过示例功能中的选取,转化成结构化信号,用于规范神经网络的训练,进行准确的模型学习预测,与此同时,NSL 也会保持来自同一结构的输入之间的相似性。该技术是通用的,可以应用于任意神经架构,例如前馈 NN,卷积 NN 和循环 NN 中。

使用 NSL,利用结构化信号来构建模型变得简单而直接。给定图形(作为显式结构)和训练样本,NSL 提供了一个工具来处理这些,以下是相关的代码示例截图:

然而,如果显式结构(例如图形)不可用或未作为输入给出,该怎么办?所以,NSL 为开发人员提供了从原始数据构建图形的工具;或 NSL 提供 API 以“诱导”对抗性示例作为隐式结构化信号。构造对抗样本示例,以此作为隐形信号。

NSL 可以通过监督、半监督或无监督学习,来训练使用图形信号进行正规化的模型,在某些情况下,使用少于五行代码,就可以获得了一个神经模型。

新框架还包括帮助开发人员构建数据和 API 的工具,用于创建具有少量代码的对抗性训练示例。

今年 4 月,Google Cloud(谷歌云)在 BigQuery 和 AutoML Tables 中为结构化数据引入了其他解决方案。而在上周,谷歌人工智能团队,也就是 Google Research 团队,发布了开源的 SM3,一个用于优化大规模语言理解模型,如 Google 的 BERT 和 OpenAI 的 GPT2。

关于这项技术的详细内容,已经发表在 Google TensorFlow 官网,感兴趣的开发者可以关注下面的链接看看。

相关推荐

团队管理“布阵术”:3招让你的团队战斗力爆表!

为何古代军队能够以一当十?为何现代企业有的团队高效似“特种部队”,有的却松散若“游击队”?**答案正隐匿于“布阵术”之中!**今时今日,让我们从古代兵法里萃取3个核心要义,助您塑造一支战斗力爆棚的...

知情人士回应字节大模型团队架构调整

【知情人士回应字节大模型团队架构调整】财联社2月21日电,针对原谷歌DeepMind副总裁吴永辉加入字节跳动后引发的团队调整问题,知情人士回应称:吴永辉博士主要负责AI基础研究探索工作,偏基础研究;A...

豆包大模型团队开源RLHF框架,训练吞吐量最高提升20倍

强化学习(RL)对大模型复杂推理能力提升有关键作用,但其复杂的计算流程对训练和部署也带来了巨大挑战。近日,字节跳动豆包大模型团队与香港大学联合提出HybridFlow。这是一个灵活高效的RL/RL...

创业团队如何设计股权架构及分配(创业团队如何设计股权架构及分配方案)

创业团队的股权架构设计,决定了公司在随后发展中呈现出的股权布局。如果最初的股权架构就存在先天不足,公司就很难顺利、稳定地成长起来。因此,创业之初,对股权设计应慎之又慎,避免留下巨大隐患和风险。两个人如...

消息称吴永辉入职后引发字节大模型团队架构大调整

2月21日,有消息称前谷歌大佬吴永辉加入字节跳动,并担任大模型团队Seed基础研究负责人后,引发了字节跳动大模型团队架构大调整。多名原本向朱文佳汇报的算法和技术负责人开始转向吴永辉汇报。简单来说,就是...

31页组织效能提升模型,经营管理团队搭建框架与权责定位

分享职场干货,提升能力!为职场精英打造个人知识体系,升职加薪!31页组织效能提升模型如何拿到分享的源文件:请您关注本头条号,然后私信本头条号“文米”2个字,按照操作流程,专人负责发送源文件给您。...

异形柱结构(异形柱结构技术规程)

下列关于混凝土异形柱结构设计的说法,其中何项正确?(A)混凝土异形柱框架结构可用于所有非抗震和抗震设防地区的一般居住建筑。(B)抗震设防烈度为6度时,对标准设防类(丙类)采用异形柱结构的建筑可不进行地...

职场干货:金字塔原理(金字塔原理实战篇)

金字塔原理的适用范围:金字塔原理适用于所有需要构建清晰逻辑框架的文章。第一篇:表达的逻辑。如何利用金字塔原理构建基本的金字塔结构受众(包括读者、听众、观众或学员)最容易理解的顺序:先了解主要的、抽象的...

底部剪力法(底部剪力法的基本原理)

某四层钢筋混凝土框架结构,计算简图如图1所示。抗震设防类别为丙类,抗震设防烈度为8度(0.2g),Ⅱ类场地,设计地震分组为第一组,第一自振周期T1=0.55s。一至四层的楼层侧向刚度依次为:K1=1...

结构等效重力荷载代表值(等效重力荷载系数)

某五层钢筋混凝土框架结构办公楼,房屋高度25.45m。抗震设防烈度8度,设防类别丙类,设计基本地震加速度0.2g,设计地震分组第二组,场地类别为Ⅱ类,混凝土强度等级C30。该结构平面和竖向均规则。假定...

体系结构已成昭告后世善莫大焉(体系构架是什么意思)

实践先行也理论已初步完成框架结构留余后人后世子孙俗话说前人栽树后人乘凉在夏商周大明大清民国共和前人栽树下吾之辈已完成结构体系又俗话说青出于蓝而胜于蓝各个时期任务不同吾辈探索框架结构体系经历有限肯定发展...

框架柱抗震构造要求(框架柱抗震设计)

某现浇钢筋混凝土框架-剪力墙结构高层办公楼,抗震设防烈度为8度(0.2g),场地类别为Ⅱ类,抗震等级:框架二级,剪力墙一级,混凝土强度等级:框架柱及剪力墙C50,框架梁及楼板C35,纵向钢筋及箍筋均采...

梁的刚度、挠度控制(钢梁挠度过大会引起什么原因)

某办公楼为现浇钢筋混凝土框架结构,r0=1.0,混凝土强度等级C35,纵向钢筋采用HRB400,箍筋采用HPB300。其二层(中间楼层)的局部平面图和次梁L-1的计算简图如图1~3(Z)所示,其中,K...

死要面子!有钱做大玻璃窗,却没有钱做“柱和梁”,不怕房塌吗?

活久见,有钱做2层落地大玻璃窗,却没有钱做“柱子和圈梁”,这样的农村自建房,安全吗?最近刷到个魔幻施工现场,如下图,这栋5开间的农村自建房,居然做了2个全景落地窗仔细观察,这2个落地窗还是飘窗,为了追...

不是承重墙,物业也不让拆?话说装修就一定要拆墙才行么

最近发现好多朋友装修时总想拆墙“爆改”空间,别以为只要避开承重墙就能随便砸!我家楼上邻居去年装修,拆了阳台矮墙想扩客厅,结果物业直接上门叫停。后来才知道,这种配重墙拆了会让阳台承重失衡,整栋楼都可能变...

取消回复欢迎 发表评论: