百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

NVIDIA(英伟达)携手 Oracle(甲骨文),加速人工智能及处理资料

ccwgpt 2025-01-08 11:54 45 浏览 0 评论

在 Oracle CloudWorld 大会上,Oracle 宣布推出全球首个 zettascale(10 的 21 次方)运算规模的 OCI Supercluster。该系统由 NVIDIA Blackwell 平台加速运行,支持超过 10 万颗 NVIDIA 最新一代 GPU,用于训练和部署下一代 AI 模型。OCI Supercluster 系统将于 2024 年上半年推出,并可扩展至 131072 颗 Blackwell GPU,峰值 AI 运算能力达到 2.4 zettaflops。该系统还支持 NVIDIA ConnectX-7 NIC 和 Quantum-2 InfiniBand 网络,适用于内部部署、公有云和主权云环境,为企业提供灵活部署选项。

Oracle 还宣布推出 NVIDIA GB200 NVL72 液冷裸机执行个体,支持生成式 AI 应用的训练和推论。该执行个体利用 Quantum-2 InfiniBand,能够在 72 颗 GPU 的 NVLink 网域内运行,实现上兆个参数模型的即时推论。OCI 也将于今年提供 NVIDIA HGX H200 GPU 平台,透过 NVLink 和 NVLink Switch 连接 8 颗 H200 Tensor 核心 GPU,并在 RoCEv2 网络上扩展至 65536 颗 GPU,支持大规模即时推论和训练工作负载。

此外,Oracle 宣布推出针对中阶 AI 工作负载及 NVIDIA Omniverse 可视化应用的 L40S GPU 加速执行个体,进一步扩展企业在边缘及云端环境中的 AI 运算能力。Oracle 的 Roving Edge Device v2 边缘产品,现可支持最多三个 NVIDIA L4 Tensor 核心 GPU,帮助企业在远端环境中运行 AI 应用。

多家企业已利用 NVIDIA 加速的 OCI Supercluster 推动 AI 创新。AI 新创公司 Reka 就在此集群上开发了多模态 AI 模型,用于开发能听、说、读、看的企业代理。Reka 共同创办人 Dani Yogatama 表示,该公司的多模态 AI 模型依赖于 NVIDIA GPU 加速基础设施,能够轻松处理大规模模型并高效扩展训练工作负载。

NVIDIA 与 Oracle 也展示了三项基于 GPU 的功能,展示如何加速生成式 AI 应用的开发,包括向量嵌入加速、向量图索引加速以及推论微服务的应用,进一步提升企业资料处理效能。

透过这些创新,NVIDIA 与 Oracle 正协助全球企业和政府实现 AI 应用的突破,满足资料主权需求并加强经济韧性。

相关推荐

腾讯开源框架TarsCpp-rpc设计分析-server(二)

2Tars协议2.1是什么借用官方说法:TARS编码协议是一种数据编解码规则,它将整形、枚举值、字符串、序列、字典、自定义结构体等数据类型按照一定的规则编码到二进制数据流中。对端接收到二进制数据流...

微服务调用为什么用RPC框架,http不更简单吗?

简单点,HTTP是协议,RPC是概念!实现RPC可以基于HTTP协议(Feign),TCP协议(Netty),RMI协议(Soap),WebService(XML—RPC)框架。传输过程中,也因为序列...

go-zero:开箱即用的微服务框架(gin框架微服务)

go-zero是一个集成了各种工程实践的Web和rpc框架,它的弹性设计保障了大并发服务端的稳定性,并且已经经过了充分的实战检验。go-zero在设计时遵循了“工具大于约定和文档”的理...

SOFARPC :高性能、高扩展性、生产级的 Java RPC 框架

#暑期创作大赛#SOFARPC是一个高性能、高扩展性、生产级的JavaRPC框架。在蚂蚁金服,SOFARPC已经使用了十多年,已经发展了五代。SOFARPC致力于简化应用程序之间的RPC...

自研分布式高性能RPC框架及服务注册中心ApiRegistry实践笔记

痛点1.bsf底层依赖springcloud,影响bsf更新springboot新版本和整体最新技术版本升级。2.eureka已经闭源,且框架设计较重,同时引入eureka会自行引入较多sprin...

Rust语言从入门到精通系列 - Tonic RPC框架入门实战

Rust语言是一种系统级语言,被誉为“没有丧失性能的安全语言”。Rust语言的优势在于其内存安全机制,在编译时就能保证程序的内存安全。Tonic模块是Rust语言的一个RPC(RemoteProce...

腾讯开源框架TarsCpp-rpc设计分析-client(一)

前言Tars是腾讯开源的微服务平台,包含了一个高性能的rpc框架和服务治理平台,TarsCpp是其C++版本。对于以C++为主要开发语言,同时还想深入了解rpc和微服务框架具体实现的同学来说,Tars...

设计了一款TPS百万级别的分布式、高性能、可扩展的RPC框架

为啥要开发RPC框架事情是这样的,在开发这个RPC框架之前,我花费了不少时间算是对Dubbo框架彻底研究透彻了。冰河在撸透了Dubbo2.x和Dubbo3.x的源码之后,本来想给大家写一个Dubbo源...

rpc框架使用教程,超级稳定好用,大厂都在使用

rpc是什么远程调用协议如何使用导入依赖<dependency><groupId>org.apache.dubbo</groupId><art...

Layui 框架实战:动态加载 Select 与二级联动全解析

在现代Web开发中,下拉选择框(Select)是用户输入数据时不可或缺的组件。很多时候,我们需要的选项并非静态写死在HTML中,而是需要根据业务逻辑从后端动态获取。更有甚者,我们可能需要实现“...

15个能为你节省数百小时的前端设计神器,从UI库到文档生成

无论你是刚开始开发之旅的新手,还是疲于应付生产期限的资深程序员,有一个真理始终不变:正确的工具能彻底改变你的工作流程。多年来,我测试了数百个开发工具——有些实用,大多数平庸。但有一批免费网站经受住了时...

Layui与WinForm通用权限管理系统全解析

嘿,小伙伴们,今天咱们来聊聊Layui和WinForm这两个框架在通用权限管理系统中的应用。别担心,我会尽量用简单易懂的语言来讲解,保证让大家都能跟上节奏!首先说说Layui。Layui是一个前端UI...

纯Python构建精美UI!MonsterUI让前端开发效率飙升

“无需CSS知识,告别类名记忆,11行代码实现专业级卡片组件”在传统Web开发中,构建美观界面需要同时掌握HTML、CSS、JavaScript三剑客,开发者不得不在多种语言间频繁切换。即使使用Boo...

WebTUI:将终端用户界面(TUI)之美带到浏览器的CSS库

在当今Web技术飞速发展的时代,界面设计愈发复杂多样。然而,随着现代化工具的广泛使用,一些开发者开始回归极简风格,追求一种简洁而富有韵味的设计。WebTUI正是这样一款CSS库,它将经典的终...

人教版二年级下册生字描红汇总(拼音+笔顺+描红),可打印!

可定制内容,评论区留言。本次整理的为人教版二年级下册所有生字,共计300个;写字是小学阶段一项重要的基本功训练,把汉字写得正确、工整、美观,可以提高运用汉字这一交际工具的准确性和效率。对小学生进行写字...

取消回复欢迎 发表评论: