亚马逊开源 Neo-AI 框架，可优化 AI 模型提升部署速度
ccwgpt 2024-09-27 07:26 29 浏览 0 评论
在去年于拉斯维加斯举行的 re: create 2018 大会上，亚马逊揭开了 SageMaker Neo 的面纱。这一框架能够方便开发人员训练机器学习模型，并将其部署到任何他们需要的地方，无论是在云端还是在公司内部。它的效果正如广告所宣传的那样，但它的好处必然仅限于 AWS 的客户享有——Neo 完全是一个封闭的、专有的服务。
但是就在本周，情况有所改变。
亚马逊 (Amazon) 昨日宣布：将根据 Apache 软件许可，发布 Neo 的底层代码，并在 GitHub 上的一个存储库中免费提供。该公司表示，这一举措将有助于在“广泛的”硬件平台上引入“新的和独立的创新”，第三方处理器供应商、设备制造商、深度学习实践者都将因此获益。
开源地址：https://github.com/neo-ai
“通常，为多个硬件平台优化机器学习模型是困难的，因为开发人员需要为每个平台的硬件和软件配置手动调整模型。”AWS 深度学习高级产品经理 Sukwon Kim 和工程主管 Vin Sharma 在一篇博客文章中写道：“这对边缘设备来说尤其具有挑战性，因为它们往往在计算能力和存储方面受到限制……新人工智能减少了在多个平台上部署机器学习模型所需的时间和精力。”
Neo-AI 可兼容一系列机器学习框架，包括 TensorFlow、MXNet、PyTorch、ONNX 和 XGBoost，以及来自英特尔 (Intel)、英伟达 (Nvidia) 和 Arm 的辅助平台 (不久将支持 Xilinx、Cadence 和 Qualcomm 等项目)。模型得以优化后不仅能以“两倍于原模型的速度”运行，并且在准确性上“没有损失”，它还可以将模型转换为一种通用格式，从而省去了需要确保给定目标设备上的软件与模型精确匹配的麻烦。
那么它是如何做到这一切的呢？通过使用定制的机器学习编译器和运行时，Amazon 声称这是基于对传统编译器技术的“数十年”研究——包括华盛顿大学的 TVM 和 Treelite。该公司表示，本着合作精神，新的项目将主要由 Arm、英特尔 (Intel)、高通 (Qualcomm)、Xilinx、Cadence 等公司的贡献推动。
亚马逊表示，处理器供应商可以将定制代码集成到编译器中，以提高模型性能，而设备制造商则可以针对特定的软件和硬件配置定制 Neo-AI 的运行。据了解，这一框架已经部署在 ADLINK、联想 (Lenovo)、Leopard Imaging、松下 (Panasonic) 等公司的设备上。
原文链接
https://venturebeat.com/2019/01/24/amazon-releases-neo-ai-in-open-source-a-framework-for-adapting-machine-learning-models-to-multiple-hardware-platforms/
相关推荐
- 2025南通中考作文解读之四:结构框架
-
文题《继续走，迈向远方》结构框架：清晰叙事，层层递进示例结构：1.开头（点题）：用环境描写或比喻引出“走”与“远方”，如“人生如一条长路，每一次驻足后，都需要继续走，才能看见更美的风景”。2.中间...
- 高中数学的知识框架（高中数学知识框架图第三章）
-
高中数学的知识框架可以划分为多个核心板块，每个板块包含具体的知识点与内容，以下为详细的知识框架结构：基础知识1.集合与逻辑用语：涵盖集合的概念、表示方式、性质、运算，以及命题、四种命题关系、充分条件...
- 决定人生的六大框架（决定人生的要素）
-
45岁的自己混到今天，其实是失败的，要是早点意识到影响人生的六大框架，也不至于今天的模样啊！排第一的是环境，不是有句话叫人是环境的产物，身边的环境包括身边的人和事，这些都会对一个人产生深远的影响。其次...
- 2023年想考过一级造价师土建计量，看这30个知识点(三)
-
第二章工程构造考点一:工业建筑分类[考频分析]★★★1.按厂房层数分:(1)单层厂房;(2)多层厂房;(3)混合层数厂房。2.按工业建筑用途分:(1)生产厂房;(2)生产辅助厂房;(3)动力用厂房;(...
- 一级建造师习题集-建筑工程实务(第一章-第二节-2)
-
建筑工程管理与实务题库（章节练习）第一章建筑工程技术第二节结构设计与构造二、结构设计1.常见建筑结构体系中，适用建筑高度最小的是()。A.框架结构体系B.剪力墙结构体系C.框架-剪力墙结构体系D...
- 冷眼读书丨多塔斜拉桥，这么美又这么牛
-
”重大交通基础设施的建设是国民经济和社会发展的先导，是交通运输行业新技术集中应用与创新的综合体现。多塔斜拉桥因跨越能力强、地形适应性强、造型优美等特点，备受桥梁设计者的青睐，在未来跨越海峡工程中将得...
- 2021一级造价师土建计量知识点:民用建筑分类
-
2021造价考试备考开始了，学霸君为大家整理了一级造价师备考所用的知识点，希望对大家的备考道路上有所帮助。 民用建筑分类 一、按层数和高度分 1.住宅建筑按层数分类：1～3层为低层住宅，4～6层...
- 6个建筑结构常见类型，你都知道吗?
-
建筑结构是建筑物中支承荷载（作用）起骨架作用的体系。结构是由构件组成的。构件有拉（压）杆、梁、板、柱、拱、壳、薄膜、索、基础等。常见的建筑结构类型有6种：砖混结构、砖木结构、框架结构、钢筋混凝土结构、...
- 框架结构设计经验总结（框架结构设计应注意哪些问题）
-
1.结构设计说明主要是设计依据，抗震等级，人防等级，地基情况及承载力，防潮抗渗做法，活荷载值，材料等级，施工中的注意事项，选用详图，通用详图或节点，以及在施工图中未画出而通过说明来表达的信息。2.各...
- 浅谈混凝土框架结构设计（混凝土框架结构设计主要内容）
-
浅谈混凝土框架结构设计 摘要：结构设计是个系统的全面的工作，需要扎实的理论知识功底，灵活创新的思维和严肃认真负责的工作态度。钢筋混凝土框架结构虽然相对简单，但设计中仍有很多需要注意的问题。本文针...
- 2022一级建造师《建筑实务》1A412020 结构设计 精细考点整理
-
历年真题分布统计1A412021常用建筑结构体系和应用一、混合结构体系【2012-3】指楼盖和屋盖采用钢筋混凝土或钢木结构，而墙和柱采用砌体结构建造的房屋，大多用在住宅、办公楼、教学楼建筑中。优点：...
- 破土动工!这个故宫“分院”科技含量有点儿高
-
故宫“分院”设计图。受访者供图近日，位于北京海淀区西北旺镇的故宫北院区项目已开始破土动工，该项目也被称作故宫“分院”，筹备近十年之久。据悉，故宫本院每年展览文物的数量不到1万件，但是“分院”建成后，预...
- 装配式结构体系介绍(上)（装配式结构如何设计）
-
PC构件深化、构件之间连接节点做法等与相应装配式结构体系密切相关。本节列举目前常见的几种装配式结构体系：装配整体式混凝土剪力墙结构体系、装配整体式混凝土框架结构体系、装配整体式混凝土空腔结构体系（S...
- 这些不是双向抗侧结构体系（这些不是双向抗侧结构体系的特点）
-
双向抗侧土木吧规范对双向抗恻力结构有何规定？为何不应采用单向有墙的结构？双向抗侧土木吧1.规范对双向抗侧力结构体系的要求抗侧力体系是指抵抗水平地震作用及风荷载的结构体系。对于结构体系的布置，规范针对...
- 2022一级建造师《建筑实务》1A412020 结构设计 精细化考点整理
-
1A412021常用建筑结构体系和应用一、混合结构体系【2012-3】指楼盖和屋盖采用钢筋混凝土或钢木结构，而墙和柱采用砌体结构建造的房屋，大多用在住宅、办公楼、教学楼建筑中。优点：抗压强度高，造价...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- MVC框架 (46)
- spring框架 (46)
- 框架图 (58)
- flask框架 (53)
- quartz框架 (51)
- abp框架 (47)
- jpa框架 (47)
- laravel框架 (46)
- springmvc框架 (49)
- 分布式事务框架 (65)
- scrapy框架 (56)
- shiro框架 (61)
- 定时任务框架 (56)
- java日志框架 (61)
- JAVA集合框架 (47)
- grpc框架 (55)
- ppt框架 (48)
- 内联框架 (52)
- winform框架 (46)
- gui框架 (44)
- cad怎么画框架 (58)
- ps怎么画框架 (47)
- ssm框架实现登录注册 (49)
- oracle字符串长度 (48)
- oracle提交事务 (47)