1.0版《框架》公开，人工智能安全治理有了指引
ccwgpt 2024-10-02 12:12 20 浏览 0 评论
人工智能是人类发展新领域，给世界带来巨大机遇，也带来了各类风险挑战。9月9日，全国网络安全标准化技术委员会制定的《人工智能安全治理框架》1.0版（以下简称《框架》），对外公开发布。《框架》将人工智能安全风险按内生安全和应用安全分类，并给出相应的技术应对措施。围绕“鼓励创新，对人工智能研发及应用采取包容态度”“快速动态精准调整治理措施”“明确主体安全责任”“共享最佳实践”的原则，《框架》推动各方就人工智能安全治理达成共识，促进人工智能安全有序发展。
《框架》提出，人工智能系统设计、研发、训练、测试、部署、使用、维护等生命周期各环节都面临安全风险，既面临自身技术缺陷、不足带来的风险，也面临不当使用、滥用甚至恶意利用带来的安全风险。
其中人工智能内生安全风险包括模型算法安全风险、数据安全风险、系统安全风险，人工智能应用安全风险包括网络域安全风险、现实域安全风险、认知域安全风险和伦理域安全风险。
上述风险中模型算法安全风险的篇幅最长，共细化成六方面：可解释性差；偏见、歧视；鲁棒性弱；被窃取、篡改；输出不可靠；对坑攻击。以排在第一位的可解释性差为例，此风险是指以深度学习为代表的人工智能算法内部运行逻辑复杂，推理过程属黑灰盒模式，可能导致输出结果难以预测和确切归因，如有异常难以快速修正和溯源追责。
针对此类风险，《框架》指出要不断提高人工智能可解释性、可预测性，为人工智能系统内部构造、推理逻辑、技术接口、输出结果提供明确说明，正确反映人工智能系统产生结果的过程。在设计、研发、部署、维护过程中建立并实践安全开发规范，尽可能消除模型算法存在的安全缺陷、歧视性倾向，提高鲁棒性。
让大模型给出的结果更精准，是大模型落地到企业端的基础，可见治理此类风险对整个行业的重要性。
在和北京商报记者交流时，枫清科技创始人兼CEO高雪峰表示，大模型在企业落地时，会遇到一系列问题，主要是因为大模型自身的局限性、黑箱问题以及数据或者知识的问题，“由于大模型的复杂性过高，涉及大量参数和层，使得可解释性变得更加困难，推理过程不透明，往往是基于大量参数网络的序列预测。大模型生成内容的逻辑与依据很难给出相应的解释，或者是其内容生成的概率分布，人们无法理解，即使是专业研究人员也很难理解模型是如何得出某个结论的，普通用户更难以理解模型为什么输出这样的内容”，高雪峰详细说。
全国网络安全标准化技术委员会秘书处主要负责人表示，《框架》的发布，对推动社会各方积极参与、协同推进人工智能安全治理具有重要促进作用，为培育安全、可靠、公平、透明的人工智能技术研发和应用生态，促进人工智能的健康发展和规范应用，提供了基础性、框架性技术指南。同时，也有助于在全球范围推动人工智能安全治理国际合作，推动形成具有广泛共识的全球人工智能治理体系，确保人工智能技术造福于人类。
北京商报记者 魏蔚
相关推荐
- Dubbo最全详解(万字图文总结)
-
大家好，我是mikechen。Dubbo是非常重要的分布式中间件，也是微服务的核心框架，而且大厂也特别喜欢考察Dubbo，下面我就全面来详解Dubbo@mikechen本篇已收于mikechen原创超...
- 探秘Dubbo:RPC框架的奇妙世界
-
探秘Dubbo：RPC框架的奇妙世界大家好啊！今天我要带大家走进一个神奇的编程领域——分布式服务调用。说起分布式系统，很多程序员都头疼不已。但今天咱们不谈那些让人抓狂的网络延迟、负载均衡等问题，而是聚...
- Dubbo分布式服务框架:像调教宠物一样驾驭它
-
Dubbo分布式服务框架：像调教宠物一样驾驭它大家好呀，今天我们来聊聊Dubbo这个分布式服务框架，它就像一只温顺的小猫咪，但有时候也会调皮捣蛋，所以得好好调教一番。别担心，我会用最轻松的方式来帮你搞...
- 深入浅出:Dubbo框架源码分析
-
深入浅出：Dubbo框架源码分析Dubbo是一款由阿里巴巴开源的高性能分布式服务框架，广泛应用于微服务架构中。它为开发者提供了强大的RPC调用能力，使得分布式系统中的服务间通信变得简单高效。本文...
- Dubbo分布式服务框架:从零开始的实战之旅
-
Dubbo分布式服务框架：从零开始的实战之旅Dubbo作为一个高性能的JavaRPC框架，在微服务架构中扮演着重要角色。它能帮助开发者轻松构建分布式系统，实现服务间的高效通信。今天，我们就来一起探索...
- Dubbo分布式服务框架的工作原理:从入门到精通
-
Dubbo分布式服务框架的工作原理：从入门到精通Dubbo是一个高性能的Java分布式服务框架，由阿里巴巴开源。它致力于提供透明化的远程方法调用（RPC），使得开发者能够像调用本地服务一样调用远程服务...
- 框架的本质分析——Dubbo
-
诞生的背景什么背景下诞生了该技术？不论是哪个框架，不会平白无故诞生，不会平白无故的被人所追捧，了解其背景，追根溯源。随着互联网的发展，网站应用的规模不断扩大，常规的垂直应用架构已无法应对，分布式服务架...
- 2023编导艺考「热点话题」评述框架示例(七个2022热点)
-
2022冬奥会开幕式(1)“旧”文化符号的“新”应用(2)“全媒体”时代的“小人物”(3)“简约”的形式表达“丰富”的内核(4)“新”叙事结构打破“旧”国家形象(5)数字媒介增强受众“在场感”短视频“...
- 84页思考的框架，思维模型的全明星集合，9种经典思维模型
-
分享职场干货，提升能力！为职场精英打造个人知识体系，升职加薪！84页思考的框架如何拿到分享的源文件：请您关注、转发，然后私信本头条号“文米”2个字，按照操作流程，专人负责发送源文件给您。...
- DUSt3R-从任意图像集合中重建3D场景的框架
-
DUSt3R是什么DUSt3R(DenseandUnconstrainedStereo3DReconstruction，密集无约束立体三维重建)是由来自芬兰阿尔托大学和Naver欧洲实验室的...
- 高考数学:一张思维导图掌握集合知识点，真题解析巩固知识
-
一、思维导图二、疑难透析三、题型示例1、已知集合A={1，3}，B={x丨mx-3=0}，且A∪B=A，则m的取值是（）。【解析】分类讨论思想∵AUB=A∴BA（1）当m=0时，B=，符合条件；...
- java集合框架03——ArrayList和源码分析
-
上一章学习了Collection的架构，并阅读了部分源码，这一章开始，我们将对Collection的具体实现进行详细学习。首先学习List。而ArrayList又是List中最为常用的，因此本章先学习...
- Java Collections 工具类集合框架中常用算法解析
-
在软件开发中，算法是非常重要的一部分，它们可以提供高效的数据处理和操作。在Java集合框架中，有几个常用的算法，包括排序算法、二分查找算法、洗牌算法和旋转算法。本文将对这些算法进行详细解析，并写了一些...
- 1.6、Java 异常处理机制与集合框架(List、Set、Map等)
-
在Java编程中，异常处理机制和集合框架是两个非常重要的概念。前者帮助开发者处理程序运行时可能遇到的错误，确保程序能够稳定运行；后者则提供了一种有效的方式来管理和操作数据集合。本文将分别介绍Java中...
- Java集合框架性能优化秘籍
-
Java集合框架性能优化秘籍在Java的世界里，集合框架就像一座巨大的宝库，存储着我们程序的各种数据。然而，随着数据量的增大，如何让这座宝库更高效地运作，就成了我们必须掌握的艺术。今天，我们就来聊聊J...
欢迎 你 发表评论:
- 一周热门
- 最近发表
- 标签列表
-
- MVC框架 (46)
- spring框架 (46)
- 框架图 (58)
- flask框架 (53)
- quartz框架 (51)
- abp框架 (47)
- jpa框架 (47)
- laravel框架 (46)
- springmvc框架 (49)
- 分布式事务框架 (65)
- scrapy框架 (56)
- shiro框架 (61)
- 定时任务框架 (56)
- java日志框架 (61)
- JAVA集合框架 (47)
- grpc框架 (55)
- ppt框架 (48)
- 内联框架 (52)
- winform框架 (46)
- gui框架 (44)
- cad怎么画框架 (58)
- ps怎么画框架 (47)
- ssm框架实现登录注册 (49)
- oracle字符串长度 (48)
- oracle提交事务 (47)