全国网络安全标准化技术委员会 2024年9月 人工智能 安全治理框架1. 人工智能安全治理原则 …………………………………… 1 2. 人工智能安全治理框架构成 ……………………………… 2 3. 人工智能安全风险分类 …………………………………… 3 3.1 人工智能内生安全风险 ……………………………… 3 3.2 人工智能应用安全风险 ……………………………… 5 4. 技术应对措施 技术应对措施 ……………………………………………… 7 4.1 针对人工智能内生安全风险 ………………………… 7 4.2 针对人工智能应用安全风险 ………………………… 9 5. 综合治理措施 ……………………………………………… 10 6. 人工智能安全开发应用指引 ……………………………… 12 6.1 模型算法研发者安全开发指引 ……………………… 12 6.2 人工智能服务提供者安全指引 目 录- 1 - 人工智能安全治理框架 人工智能是人类发展新领域，给世界带来巨大机遇，也带来各类风险挑战。 落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，为 推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工 智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险，制定本 框架。 1. 人工智能安全治理原则 秉持共同、综合、合作、可持续的安全观，坚持发展和安全并重，以促

云计算开源产业联盟云原生十大优秀案例 infoQ 中国技术力量年度榜单 InfoQ2020 最有价值技术团队 InfoQ2020 最佳技术社区驱动力奖 思否 SegmentFault 中国技术品牌影响力企业 DTCC 第十一届中国数据库技术大会创新产品奖 《Gartner 2021 中国 ICT 技术成熟度曲线》数据中台领域标杆厂商 信通院可信云计算最佳实践服务网格 2021 数博会“十佳大数据案例” 《Gartner 2019中国 08 网易数帆轻舟团队基于云原生技术栈协助德邦快递建立了统一 的 DevOps 体系，通过轻量容器平台和 CICD 研发流水线，实现 了业务快速上线，按需扩容。同时通过轻舟微服务平台实现了服 务的统一治理，保障业务的稳定运行。 信息科技部 罗总 德邦快递 大数据技术的应用，对农业企业的“互联网 +”进程有重大意义。 网易数帆和温氏的携手合作，不仅是在技术上辅助温氏股份完成 信息化、数字化建设的商业闭环，同时也是希望为企业日常运营 产品篇 网易数帆旗下云原生技术与服务品牌 PRODUCT 低代码应用开发平台 LCAP 持续交付平台 CICD 流水线 容器部署 主机部署 策略部署 开放 治理 监控 事务 管理 DevOps 多云部署 服务治理 能力扩展 中间件高可用 全链路监控 容器平台NCS 轻舟混合云 多云管理 多集群管理 镜像仓库 容器管理 轻舟低代码 应用管理 可视化开发 WebIDE 一键发布

www.iresearch.com.cn 基础软件开源界限划分 操作系统、数据库、中间件、AI框架底层代码按规范进行共享与协作 本篇报告研究的基础软件开源范围，是指研究“开源”中“基础软件”板块的情况。开源过程中，参与者可以共享、协作完成开发， 正好与基础软件庞大的开发量需求 其意义惠及软件产业全领域。 注释：由于暂无国内厂商主导的开源编程语言，因而不列入本报告研究范围。 来源：根据专家访谈、公开资料，由艾瑞咨询研究院自主研究及绘制。 对于这四类基础软件（操作系统、数据库、AI框架、中间件），其编写者将实现功能的代码按照一定的开源规范 开放，任何人可以查看、使用、贡献，同时，使用者也要遵循一定的开源规范。 基础软件开源范畴界定 国内基础软件开源界定 基础软件 杂等特点 中间件：不同系统和应用程序之间交互 与协作的桥梁 AI框架：具备构建和部署人工智能模型 的基础的全套开发工具 操作系统：是软硬件资源的资源管理者， 为用户与应用程序提供交互接口 数据库：通过对数据的访问与管理，支 持各种应用程序和业务的需求 编程语言：人与计算机交互的“语言”， 含编译器、基础编程语言、IED等 社区协作：鼓励各方在开放平台上协作 贡献，推动开源内容的发展 创新改进：通过资源共享与协作共生，

Python 开发框架 ………………………………………………………………………………… 23 3.14 前端开发框架 …………………………………………………………………………………… 24 3.15 数据库……………………………………………………………………………………………… 25 3.16 版本控制工具 …………………………………………………………………………………… 26 3.17 AI 开发框架 一、各国开源政策将对开源世界的未来产生重大影响 ………………………………………………… 116 二、开源法务合规趋势 ：意识增强，道阻且长 ………………………………………………………… 116 三、开源治理成为显学 …………………………………………………………………………………… 116 四、国际基金会的左右博弈 ：RMS 重回自由软件基金会与 Rust 社区争议 ……………………… 116 五、中国开源走向世界，塑造新时代影响力 一、各国开源政策将对开源世界的未来产生重大影响 ………………………………………………… 118 二、开源法务合规趋势 ：意识增强，道阻且长 ………………………………………………………… 119 三、开源治理成为显学 …………………………………………………………………………………… 120 四、 国际基金会的左右博弈 ：RMS 重回自由软件基金会与 Rust 社区争议 ……………………… 121 五、中国开源走向世界，塑造新时代影响力

无偿在社区发布，此后二次开发者和使用者作为贡献方进行迭代，并在开源许可证的约束下使用迭代版本，社区中的其他 机构提供法律、行业发展等服务和指导，不同角色间互相配合，有效协作，达成技术交流或商业目的。开源运营和治理环 节，无论是由企业主导还是由基金会主导，在整个开源项目过程中都处于关键位置，包含软件开发和发行、市场推广、版 本迭代更新、版权管理和安全管理等内容，这些环节和商业企业的软件项目有一些相似之处，但更加注重从社区的使用者 开源项目的代码在托管平台上开放， 二次开发者和最终用户均可以免费取 得 • 在二次开发和使用过程中，开发者和 用户也会通过开源社区指出项目缺陷， 为项目的发展带来启发和思考 软件雏形/起步 开源运营和治理 二次开发和使用 or 初步开发 项目捐献 自主开源 社区运营 贡献 反馈 提供 提供 10 ©2022.2 iResearch Inc 商业化 渠道化 为互补产品宣传、导流 提升企业市场声量 产业级影响 促进协同产品出现和创新 构建开源产业基金会 e.g. Linux发行版 e.g. Google浏览器 e.g. 开源数据库托管 产 业 协 同 软件开源核心运营 e.g. Kubernetes 11 ©2022.2 iResearch Inc

大模型、上海人工智能实验室的书生通用大模型、腾 讯的混元大模型、蚂蚁的百灵大模型等。 另一方面，除了大模型本身，中国在 LLM 相关技术领域也 快速迭代发展，诸如 Dify.AI 的 LLMOps、Milvus 的向量 数据库、CodeGeeX 与 Comate 的 AI 编程、对 LLM Prompt 的研究、OneFlow 的深度学习框架。 值得一提的还有华为的盘古大模型，其中盘古气象大模型是 首个精度超过传统数值预报方法的 编程、工具和平台，以 及算力几个方面，为开发者整理了当前 LLM 中最为热门 和硬核的技术领域以及相关的软件产品和开源项目。 是的，先整理了一个 LLM 技术图谱，欲知详情，请查看 后续正文。  【开源治理】开源健康发展必不可少的一环。  【硬核发版】最硬核、最极客的年度发版汇总！  【热门话题】回顾 2023 年度热门开发者事件！  【重磅官宣】2023 年度开源官宣。  【R.I.P 【生产事故】冥场面！速来围观 2023 十大生产事故“名 场面”。 1 1 目录 一、开源开发者事件回顾 三、中国开发者开源新动向 二、2023 LLM 技术报告  46 | 向量数据库  47 | 数据库向量支持  48 | 大模型框架、微调  51 | 大模型训练平台与工具  53 | 编程语言  57 | 知名大模型  58 | 备案上线的中国大模型  21 |

learning. 堵俊平：这两年，一个很明显的趋势是越来越多的初创企业参与开源。这一方面得益于 ToB 赛道成为市场和政策导向的热点，另一方面开源所代表的开放式创新也被投资界所认 可。尤其是开源与数据（数据库&大数据）以及 AI 等热点技术相结合，更是为市场带来 了极大的想象空间。 Du Junping: In the past two years, a clear trend has been that overwhelming advantage. SVN, TFS, and CVS are still in use by many participants. 3.16 数据库 / 3.16 Database 数据库使用情况中，不出意外地，MySQL 以绝对优势遥遥领先，SQL Server 与 Oracle 跟 随其后。 Not surprisingly, MySQL leads the Software Foundation and the Linux Foundation. 【专家点评】/ [Expert Comment] 段夕华：排名前二的两个基金会一个得益于强大的社区治理能力，一个得益于灵魂人物的 影响力。 Duan Xihua: The top two Foundations benefit from solid community governance

作为当时开源项⽬的主战场，Linux 操作系统、 桌⾯办公软件（GNOME， OpenOffice）和浏览器（Mozilla）掀起了第⼀波开源的浪 潮；近年来随着互联⽹的兴起，开源的项⽬和技术越来越百花⻬放，从数据库到中间 件，从前端到后端，从编程语⾔到编译器，从物联⽹到微服务，从⼤数据到⼈⼯智能， 开源的技术和项⽬越来越丰富和多样化。 4、开源⼯作现状 4.1 接触开源的时间 有近三成参与者接触开源的时间在 品和操作系统相关产品仍然是⼤家了解 和接触开源的最初窗⼝。 4.7 最希望能够开源的产品 相⽐于 2019 年，开发⼯具在今年成为⼤家最希望能够开源的产品类型第⼀名，紧接着的是操 作系统，数据库产品与中间件产品也是很多⼈希望能够开源的产品类型。 4.8 企业对开源的贡献 在参与者眼中，GitHub 对于开源软件的贡献最⼤，其次是 Google，⽽在国内企业中， Alibaba、Huawei 今年仍然是最受欢迎的编辑器，紧随其后的是 vim 以及 notepad++。 6.4 版本控制⼯具 毫⽆疑问的是，Git ⼀枝独秀，具有绝对性优势。SVN、TFS、CVS ⽬前仍有不少参与 者在使⽤。 6.5 数据库 数据库使⽤情况中，不出意外地，MySQL 以绝对优势遥遥领先，MongoDB 与 PostgreSQL 跟随其后。 6.6 操作系统 操作系统的使⽤中，Windows、Linux、MacOS X

openatom.org/legal-IP 撰稿：刘博雅；审校：王荷舒 PingCAP 平凯星辰 主要创始团队 PingCAP平凯星辰成立于2015年，是一家企 业级开源分布式数据库厂商，提供包括开源分 布式数据库产品、解决方案与咨询、技术支持 与培训认证服务，致力于为全球行业用户提供 稳定高效、安全可靠、开放兼容的新型数据服 务平台，解放企业生产力，加速企业数字化转 型升级。在帮助企业释放增长空间的同时，也 作者，曾任职豌豆荚/京东，擅长分 布式数据库和分布式缓存。 黄东旭 联合创始人 兼CTO 开源分布式缓存服务Codis 的作者，资深infrastructure 工程师，开源狂热分子。 崔秋 联合创始人 开源爱好者。 开源项目梳理 项目名称 项目开源 时间 技术领域 项目归属 托管平台 GitHub 信息 开源 许可证 2015年开源 分布式HTAP 数据库 公司项目 Apache GitHub GitHub Apache 2.0 Apache 2.0 Apache 2.0 / 公司项目 CNCF CNCF 公司项目 分布式HTAP 数据库 云原生 混沌工程平台 开源软件洞察工具 分布式Key-Value 数据库 2022年开源 2019年开源 2018年开源 / TiDB TiFlash Chaos Mesh ossinsight TiKV Star:13K； Fork:2K；

2024 中国开源开发者报告重点聚焦大模型，本章节以大模 型 LLM 开发技术栈作为切入点，将深入探讨以下中国 AI 大模型领域的代表性开源项目社区。 这些开源项目社区覆盖了深度学习框架、向量数据库、AI辅 助编程、LLM 应用开发框架、模型微调、推理优化、LLM Agent，以及检索增强生成（RAG）等多个关键技术栈。 为了更全面客观地展示中国大模型 LLM 开发技术栈的开源 社区生态，我们使用了 / 111 OSS Compass Insight 生产力-协作开发指数 本部分图表仅用于数据展示，不涉及先后排名 作为国内及业内领先的 AI 开发基础设施，本部分图表 中的开发框架、向量数据库、 开发平台、大模型均表现出 色，代表着它们的代码提交 频率、参与者、代码合并比 率等协作开发工作保持着较 高的水平。 17 / 111 OSS Compass Insight 本部分图表仅用于数据展示，不涉及先后排名 则作为中国模型在国际开源社区的 2024 年首秀，一经发 布便获得了广泛关注，为中国模型在全球开源生态中赢得了更多认可。 平衡发展与合规创新 中国在推动人工智能技术发展的同时，也在监管层面努力建立了完善、透明的治理机制。这 种监管创新为开源模型的发展提供了稳定的政策环境，同时确保技术应用符合社会价值导向。比 如 《人工智能示范法 2.0（专家建议稿）》对于免费且已开源方式提供人工智能研发的个人和 组织给