全国网络安全标准化技术委员会 2024年9月 人工智能 安全治理框架1. 人工智能安全治理原则 …………………………………… 1 2. 人工智能安全治理框架构成 ……………………………… 2 3. 人工智能安全风险分类 …………………………………… 3 3.1 人工智能内生安全风险 ……………………………… 3 3.2 人工智能应用安全风险 ……………………………… 5 4. 技术应对措施 ………………………… 7 4.2 针对人工智能应用安全风险 ………………………… 9 5. 综合治理措施 ……………………………………………… 10 6. 人工智能安全开发应用指引 ……………………………… 12 6.1 模型算法研发者安全开发指引 ……………………… 12 6.2 人工智能服务提供者安全指引 ……………………… 13 6.3 重点领域使用者安全应用指引 ……………………… 目 录- 1 - 人工智能安全治理框架 人工智能是人类发展新领域，给世界带来巨大机遇，也带来各类风险挑战。 落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，为 推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工 智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险，制定本 框架。 1. 人工智能安全治理原则 秉持共同、综合、合作、可持续的安全观，坚持发展和安全并重，以促

2021 网易数帆 领先的数字化转型技术与服务提供商 网易数帆是网易集团旗下 TO B 企业服务品牌，定位于领先的数字化转型 技术与服务提供商，为客户提供创新、可靠的国产软件基础平台产品及相 应技术服务，业务覆盖云原生基础软件、数据智能全链路产品、人工智能 算法应用三大领域，旗下拥有轻舟、有数、易智三大产品线，致力于帮助 客户搭建无绑定、高兼容、自主可控的创新基础平台架构，快速应对新一 各行业客户的验证。目前已服务各领域头部客户百余家，包括工商银行、 浙商银行、银监会、人保金服、深圳证券交易所、华泰证券、名创优品、 古茗、百胜集团、温氏集团、万向集团、大华股份、宁波钢铁、一汽解放、 吉利汽车、壳牌、南方电网、中国移动、中国联通、中国电信、德邦快递 等诸多大中型客户。 以“开放、开源、跨云”为技术理念，网易数帆大力推动技术研究，先后取 得“工信部云计算服务能力标准首批试点单位”、“国家企业技术中心”、“信 商的数字化技术融合发展，与AWS、阿里云、百度云、华为鲲鹏云计算、 浪潮、新华三等多家企业完成技术兼容性认证。 数帆使命：帮助所有客户成功实现数字化转型 数帆愿景：成为客户首选的数字化转型技术与服务提供商 关于数帆 01 企业篇 数帆历程 关于数帆 数帆实力 荣誉资质 客户名录 客户口碑 业务全景 产品篇 网易有数 网易轻舟 网易易智 客户案例篇 解决方案篇

1 国家人工智能产业综合标准化体系建设指南 （2024版） 为深入贯彻落实党中央、国务院关于加快发展人工智能 的部署要求，贯彻落实《国家标准化发展纲要》《全球人工 智能治理倡议》，进一步加强人工智能标准化工作系统谋划， 加快构建满足人工智能产业高质量发展和“人工智能+”高水 平赋能需求的标准体系，夯实标准对推动技术进步、促进企 业发展、引领产业升级、保障产业安全的支撑作用，更好推 2026 年，标准与产业科技创新的联动水平持续提升， 新制定国家标准和行业标准 50 项以上，引领人工智能产业 高质量发展的标准体系加快形成。开展标准宣贯和实施推广 的企业超过 1000 家，标准服务企业创新发展的成效更加凸 显。参与制定国际标准 20 项以上，促进人工智能产业全球 化发展。 坚持创新驱动。优化产业科技创新与标准化联动机制， 加快人工智能领域关键共性技术研究，推动先进适用的科技 企事业单位积极参与国际标准化活动，携手全球产业链上下 游企业共同制定国际标准。 三、建设思路 （一）人工智能标准体系结构 人工智能标准体系结构包括基础共性、基础支撑、关键 技术、智能产品与服务、赋能新型工业化、行业应用、安全 /治理等 7 个部分，如图 1 所示。其中，基础共性标准是人 工智能的基础性、框架性、总体性标准。基础支撑标准主要 规范数据、算力、算法等技术要求，为人工智能产业发展夯 实技术底

生巨变， 我们所处的世界，正在高速朝着某个未知的方向前进。 对于中国开源而言，2021 年的关键词，应该是“助跑”。迹象已经 非常明显，工信部信息技术发展司发布了《“十四五”软件和信息技 术服务业发展规划》，就是一个典型的信号，开源领域即将起飞了。 从地面行走，到天空飞行，这是两个完全不同的阶段。而 2021 年， 则是起飞之前的助跑阶段。从地面到天空，意味着整个行为的模式 都会发生 一、各国开源政策将对开源世界的未来产生重大影响 ………………………………………………… 116 二、开源法务合规趋势 ：意识增强，道阻且长 ………………………………………………………… 116 三、开源治理成为显学 …………………………………………………………………………………… 116 四、国际基金会的左右博弈 ：RMS 重回自由软件基金会与 Rust 社区争议 ……………………… 116 五、中国开源走向世界，塑造新时代影响力 一、各国开源政策将对开源世界的未来产生重大影响 ………………………………………………… 118 二、开源法务合规趋势 ：意识增强，道阻且长 ………………………………………………………… 119 三、开源治理成为显学 …………………………………………………………………………………… 120 四、 国际基金会的左右博弈 ：RMS 重回自由软件基金会与 Rust 社区争议 ……………………… 121 五、中国开源走向世界，塑造新时代影响力

SMS 开源与云计算：开源软件与云计算产业既有互相促进的良性合作，也有因利益纠纷带来的冲 突和矛盾。一方面，云计算产业的大量的基础软件都是开源软件，开源生态为云计算行业的 产品创新提供了持续的动力，而云服务企业的平台也为众多开源软件提供了市场分发渠道； 另一方面，由于全球范围内普遍存在云企业托管开源软件后不回馈开源社区的情况，二者的 发展理念也存在一定矛盾。 中国的开源软件法制建设：国内涉及开源的法 “大教堂”和“集市”开发模式的对比和适用性 对于软件产业而言，“大教堂”模 式仍然是众多企业在激烈的市场竞 争环境中进行项目开发的常见模式， 不可否认的是，这种模式能够更快 地满足客户需求，为客户提供高效 便捷的IT服务。 “集市” “大教堂” 依靠精英，自上而下 依靠大众，自下而上 “集市”开发模式强调为众多的开 发者创设一个鼓励创新、交流的公 平和公开环境，在开发者能够自由 交换关于软件进步路径的看法，并 许商用。 “可以，但不完全可以” GPL：允许商用，但必须在出售的同时公开软件源代码，从某种意义上说这就等同于二 次开发后的产品是“自愿付费”的，或者说出售GPL开源软件的企业实际上必须出售某 种服务而不仅是软件本身。 LGPL：如果类库引用（链接，不修改）则可以闭源商用，否则不能够闭源商用。 EPL：没有修改过，可以直接商用；有修改过，必须在公布源代码的条件下商用，这种 情况下与GPL的发布条件类似。

发起者 代码/文档贡献 参与社区互动 开发者 运营： 开 源 基 金 会 为 运营者 使用者 开源代码托管平台 代码维护：对代码进行日常维护，如 审核开发者贡献的代码质量 开源社区 治理与运营者建立开源社区，提供开 发者交流平台，包括建立sig中心、设 立公开课等 开源项目运营 开源基金会 提供基础软件 发起者选择 性捐赠项目 10 ©2023.11 iResearch Inc 产品、运营、战略、职能各部门组织超过千人的团队，投入到开 源项目的治理。近年来，越来越多的企业选择在内部设立开源部门/开源办公室（OSPO）/开源委员会，统筹沟通企业开源人员，协 调开源资源分配，体现了企业对于开源战略及运营重视高度的提升。 来源：根据专家访谈、公开资料，由艾瑞咨询研究院自主研究及绘制。 法务服务 社区 治理 社区 运营 代码 审核 开源 开发 生态 合作 法务 合规 通常使用免费版本，仅 在公共代码仓中分享代 码，并查看其他开源发 起者的公共代码 愿意为基于开源项目的 服务或商业版付费，期 望查看更完整、硬核的 代码。同样地，将自身 代码设置为收费，获得 收益 仅使用代码托管平台中 的基本权益，如代码审 查、测试、版本管理、 关联仓库等 享受平台增值服务，包 括关键指标统计、操作 日志管理、关键行为监 控，方便社区内开发者 的协同开发 15 ©2023.11

unknown direction at high speed. 对于中国开源而言，2021 年的关键词，应该是“助跑”。迹象已经非常明显，工信部信息技术 发展司发布了《“十四五”软件和信息技术服务业发展规划》，就是一个典型的信号，开源领域 即将起飞了。从地面行走，到天空飞行，这是两个完全不同的阶段。而 2021 年，则是起飞之 前的助跑阶段。从地面到天空，意味着整个行为的模式都会发生深刻的变化。我们原来只需要 Software Foundation and the Linux Foundation. 【专家点评】/ [Expert Comment] 段夕华：排名前二的两个基金会一个得益于强大的社区治理能力，一个得益于灵魂人物的 影响力。 Duan Xihua: The top two Foundations benefit from solid community governance circle. 开源 3.0 时代下的技术创新与商业创新正在齐头并进。技术层面上，人工智能、开源数据和区 块链是新兴创新的一些例子。而得益于时刻保持创新的开发者社区，开源已成为云计算，SaaS 服务，下一代数据库，移动设备，互联网甚至区块链的基础。下一代商业模式可能包括广告支 持的 OSS，类似于大型专有企业支持的开源项目、数据驱动的收入以及通过区块链货币化的加 密代币。 Technology

编程、工具和平台，以 及算力几个方面，为开发者整理了当前 LLM 中最为热门 和硬核的技术领域以及相关的软件产品和开源项目。 是的，先整理了一个 LLM 技术图谱，欲知详情，请查看 后续正文。  【开源治理】开源健康发展必不可少的一环。  【硬核发版】最硬核、最极客的年度发版汇总！  【热门话题】回顾 2023 年度热门开发者事件！  【重磅官宣】2023 年度开源官宣。  【R.I.P 江湖评谈，多年 .NET 虚拟机技术 CLR/JIT 研究 设计：张琪  07 | AIGC  11 | 1024 黄金眼  13 | 项目停更  16 | 生产事故  18 | 开源治理 1 1 OpenAI 正式发布GPT-4 AIGC 回顾 2023 大语言模型 LLM 元年的重磅事件。 开源开发者事件回顾 Anthropic 推出Claude 2023 年 3 提供支持的实验性对话式 AI 服务，称为 Bard——与流 行的 ChatGPT 展开直接竞争。 与此同时，微软开源了基于论文实现的项目 JARVIS。其自我描述是用于连 接 LLM 和 AI 模型的协作系统。该系统由 LLM（大语言模型）作为控制器和 许多 AI 模型作为协作执行者（来自 HuggingFace Hub）组成。 7 月 13 日，京东全面推出京东言犀大模型， 服务千行百业，拥抱产业智能。言犀大模型

OpenOffice）和浏览器（Mozilla）掀起了第⼀波开源的浪 潮；近年来随着互联⽹的兴起，开源的项⽬和技术越来越百花⻬放，从数据库到中间 件，从前端到后端，从编程语⾔到编译器，从物联⽹到微服务，从⼤数据到⼈⼯智能， 开源的技术和项⽬越来越丰富和多样化。 4、开源⼯作现状 4.1 接触开源的时间 有近三成参与者接触开源的时间在 1-2 年，近⼋成参与者接触开源时间在⼀年以上。 【专家点评】 蒋涛：随着开源规模和商业化的快速发展，开源平台作为开源项目和开发者生态的重要基础及 支撑体系，未来将承载更多的服务和应用场景，也将发展出各自特色。2020 年新发布的 CODE China，作为独立第三方开源平台，将重点围绕 AIOT，为更多开源项目和开发者提供 运营支持和生态服务。 6.9 技术论坛 知乎和 CSDN ⽬前是最受参与者们⻘睐的两个技术论坛，其次则是 StackOverflow，开源中 封装的⼀套组件库 ant-design/ant-design，基于 Ant Design 框架搭建的中后台管理控制台的脚⼿架 ant-design/ant-design-pro 和致⼒于配置和管理微 服务的特性集 alibaba/nacos 外，饿了么（已被阿⾥收购）的开源项⽬ ElmFE/element 作为 前端组件，表现也⼗分突出。 PingCAP 在开源领域的表现也是⾮常地亮眼。Top50

2023年第八期｜总第十期 开放原子开源基金会出品 2023年5月 2023 CONTENTS 目录 01 行业发展 02 前沿技术 03 开源安全 AMD正计划使用开源的OpenSIL代替AGESA 开放服务网格OSM（Open Service Mesh）项目已停止维护 KSOC推出业内首个实时Kubernetes安全态势管理平台 Nutanix推出Kubernetes数据管理平台 Nutanix Data 开源报告 开源软件国家情报报告-捷克 05 开源法律速览 案例分享：全国首例GPL抗辩获得支持案 开源许可与美国裸许可失权制度介绍 AMD正计划使用开源的 OpenSIL代替AGESA 开放服务网格OSM（Open Service Mesh） 项目已停止维护 在最近举行的Open Compute Project地区峰 会上，AMD披露正计划用开源的Open-Source Silicon 将经历四个阶段的开发周期预计到2026年开始 投入使用。 OSM（Open Service Mesh）是一个轻量级、 可扩展的云原生服务网格项目，旨在为运行在 Kubernetes上的应用程序提供简单、完整且独 立的服务网格解决方案，包括处理在Kuberne- tes集群上运行的微服务的流量管理、策略执行 和可观测性等任务，以简化应用程序的部署和 管理。OSM于2020年8月推出，同年加入云原 生计算基金会（CNCF）。不久后，该项目成为