谷歌发布全球最强开源大模型Gemma 可在笔记本运行
ccwgpt 2024-11-04 11:54 19 浏览 0 评论
今日凌晨，Google宣布推出先进的轻量级开放模型系列Gemma，该模型采用了与创建 Gemini 模型相同的研究和技术。
Google表示，受到 Gemini 的启发，Google DeepMind 和 Google 其他团队合作开发了 Gemma，并用拉丁语中意为“宝石”的 gemma 为其命名。在发布模型权重的同时，还推出了一系列工具，旨在支持开发者创新，促进合作，并将指导开发者如何负责任地使用 Gemma 模型。
Google方面称，从今天起，Gemma 在全球范围内开放使用。将发布两种权重规模的模型：Gemma 2B 和 Gemma 7B。每种规模都有预训练和指令微调版本。
“新的 Responsible Generative AI Toolkit 为使用 Gemma 创建更安全的 AI 应用程序提供指导和必备工具。我们通过原生 Keras 3.0为所有主要框架（JAX、PyTorch 和 TensorFlow）提供推理和监督微调（SFT）的工具链。”
与此同时，主打上手即用，该模型与 Colab 和 Kaggle notebooks，以及与 Hugging Face、MaxText 和 NVIDIA NeMo 等受欢迎的工具集成，让开始使用 Gemma 变得简单容易。
更为重要的是，经过预训练和指令微调的 Gemma 模型可以在您的笔记本电脑、工作站或 Google Cloud 上运行，并可轻松部署在 Vertex AI 和 Google Kubernetes Engine（GKE）上。
在性能表现上，Gemma 在关键基准测试集上大大超过了更大的模型，同时还严格遵守了我们对安全和负责任输出的标准。
针对开发者，谷歌方面说明，开发者可以基于自己的数据微调 Gemma 模型以适应特定应用需求，例如摘要或检索增强生成 (RAG)。Gemma 可支持多种工具和系统：
1、多框架工具：Gemma 提供 Keras 3.0、原生 PyTorch、JAX 和 Hugging Face Transformers 多个框架的参考实现，您可以选择熟悉的框架进行推理和微调。
2、跨设备兼容：Gemma 模型可以在笔记本电脑、台式机、物联网、移动设备和云端等多个主流设备类型上运行，支持广泛的 AI 功能。
3、前沿的硬件平台： 我们与 NVIDIA 合作，使用 NVIDIA GPU 来优化 Gemma 模型，确保业界领先的性能与前沿技术的整合应用。
4、基于 Google Cloud 的优化：Vertex AI 提供广泛的 MLOps 工具集，其中包含一系列微调选项和内置推理优化的一键部署功能。您可以使用完全托管的 Vertex AI 工具或自行管理的 GKE 来进行高级定制，以经济高效的方式自行选择部署在 GPU、TPU 或 CPU 基础设施上。
在负责任方面，Gemma 在设计时将 AI 原则放在首位。为了使 Gemma 预训练模型安全可靠，谷歌使用自动技术，从训练集中过滤掉特定的个人信息及其他敏感数据。此外，我们进行了大量的微调和人类反馈强化学习（RLHF），使指令微调模型与负责任的行为保持一致。
谷歌方面表示，为了解并降低 Gemma 模型带来的风险，谷歌进行了强有力的评估，包括手工红队测试、自动对抗性测试，以及对危险活动的模型能力评估。
相关推荐
- 团队管理“布阵术”:3招让你的团队战斗力爆表!
-
为何古代军队能够以一当十？为何现代企业有的团队高效似“特种部队”，有的却松散若“游击队”？**答案正隐匿于“布阵术”之中！**今时今日，让我们从古代兵法里萃取3个核心要义，助您塑造一支战斗力爆棚的...
- 知情人士回应字节大模型团队架构调整
-
【知情人士回应字节大模型团队架构调整】财联社2月21日电，针对原谷歌DeepMind副总裁吴永辉加入字节跳动后引发的团队调整问题，知情人士回应称：吴永辉博士主要负责AI基础研究探索工作，偏基础研究；A...
- 豆包大模型团队开源RLHF框架，训练吞吐量最高提升20倍
-
强化学习（RL）对大模型复杂推理能力提升有关键作用，但其复杂的计算流程对训练和部署也带来了巨大挑战。近日，字节跳动豆包大模型团队与香港大学联合提出HybridFlow。这是一个灵活高效的RL/RL...
- 创业团队如何设计股权架构及分配（创业团队如何设计股权架构及分配方案）
-
创业团队的股权架构设计，决定了公司在随后发展中呈现出的股权布局。如果最初的股权架构就存在先天不足，公司就很难顺利、稳定地成长起来。因此，创业之初，对股权设计应慎之又慎，避免留下巨大隐患和风险。两个人如...
- 消息称吴永辉入职后引发字节大模型团队架构大调整
-
2月21日，有消息称前谷歌大佬吴永辉加入字节跳动，并担任大模型团队Seed基础研究负责人后，引发了字节跳动大模型团队架构大调整。多名原本向朱文佳汇报的算法和技术负责人开始转向吴永辉汇报。简单来说，就是...
- 31页组织效能提升模型，经营管理团队搭建框架与权责定位
-
分享职场干货，提升能力！为职场精英打造个人知识体系，升职加薪！31页组织效能提升模型如何拿到分享的源文件：请您关注本头条号，然后私信本头条号“文米”2个字，按照操作流程，专人负责发送源文件给您。...
- 异形柱结构（异形柱结构技术规程）
-
下列关于混凝土异形柱结构设计的说法，其中何项正确？（A）混凝土异形柱框架结构可用于所有非抗震和抗震设防地区的一般居住建筑。（B）抗震设防烈度为6度时，对标准设防类（丙类）采用异形柱结构的建筑可不进行地...
- 职场干货:金字塔原理（金字塔原理实战篇）
-
金字塔原理的适用范围：金字塔原理适用于所有需要构建清晰逻辑框架的文章。第一篇：表达的逻辑。如何利用金字塔原理构建基本的金字塔结构受众（包括读者、听众、观众或学员）最容易理解的顺序：先了解主要的、抽象的...
- 底部剪力法（底部剪力法的基本原理）
-
某四层钢筋混凝土框架结构，计算简图如图1所示。抗震设防类别为丙类，抗震设防烈度为8度（0.2g），Ⅱ类场地，设计地震分组为第一组，第一自振周期T1=0.55s。一至四层的楼层侧向刚度依次为：K1=1...
- 结构等效重力荷载代表值（等效重力荷载系数）
-
某五层钢筋混凝土框架结构办公楼，房屋高度25.45m。抗震设防烈度8度，设防类别丙类，设计基本地震加速度0.2g，设计地震分组第二组，场地类别为Ⅱ类，混凝土强度等级C30。该结构平面和竖向均规则。假定...
- 体系结构已成昭告后世善莫大焉（体系构架是什么意思）
-
实践先行也理论已初步完成框架结构留余后人后世子孙俗话说前人栽树后人乘凉在夏商周大明大清民国共和前人栽树下吾之辈已完成结构体系又俗话说青出于蓝而胜于蓝各个时期任务不同吾辈探索框架结构体系经历有限肯定发展...
- 框架柱抗震构造要求（框架柱抗震设计）
-
某现浇钢筋混凝土框架-剪力墙结构高层办公楼，抗震设防烈度为8度（0.2g），场地类别为Ⅱ类，抗震等级：框架二级，剪力墙一级，混凝土强度等级：框架柱及剪力墙C50，框架梁及楼板C35，纵向钢筋及箍筋均采...
- 梁的刚度、挠度控制（钢梁挠度过大会引起什么原因）
-
某办公楼为现浇钢筋混凝土框架结构，r0=1.0，混凝土强度等级C35，纵向钢筋采用HRB400，箍筋采用HPB300。其二层（中间楼层）的局部平面图和次梁L-1的计算简图如图1～3（Z）所示，其中，K...
- 死要面子!有钱做大玻璃窗，却没有钱做“柱和梁”，不怕房塌吗?
-
活久见，有钱做2层落地大玻璃窗，却没有钱做“柱子和圈梁”，这样的农村自建房，安全吗？最近刷到个魔幻施工现场，如下图，这栋5开间的农村自建房，居然做了2个全景落地窗仔细观察，这2个落地窗还是飘窗，为了追...
- 不是承重墙，物业也不让拆?话说装修就一定要拆墙才行么
-
最近发现好多朋友装修时总想拆墙“爆改”空间，别以为只要避开承重墙就能随便砸！我家楼上邻居去年装修，拆了阳台矮墙想扩客厅，结果物业直接上门叫停。后来才知道，这种配重墙拆了会让阳台承重失衡，整栋楼都可能变...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- MVC框架 (46)
- spring框架 (46)
- 框架图 (58)
- bootstrap框架 (43)
- flask框架 (53)
- quartz框架 (51)
- abp框架 (47)
- jpa框架 (47)
- laravel框架 (46)
- express框架 (43)
- scrapy框架 (52)
- beego框架 (42)
- java框架spring (43)
- grpc框架 (55)
- 前端框架bootstrap (42)
- orm框架有哪些 (43)
- ppt框架 (48)
- 内联框架 (52)
- winform框架 (46)
- gui框架 (44)
- cad怎么画框架 (58)
- ps怎么画框架 (47)
- ssm框架实现登录注册 (49)
- oracle字符串长度 (48)
- oracle提交事务 (47)