#html_theme = 'alabaster' html_theme = 'sphinx_rtd_theme’ ``` 在Makefile同级目录运行  make html 生成静态web网页  make latexpdf 生成PDF 文件 我的Sphinx文档 http://pymol.chenzhaoqiang.com/ 我的Sphinx文档 微信公众号 PythonPerl

全国网络安全标准化技术委员会 2024年9月 人工智能 安全治理框架1. 人工智能安全治理原则 …………………………………… 1 2. 人工智能安全治理框架构成 ……………………………… 2 3. 人工智能安全风险分类 …………………………………… 3 3.1 人工智能内生安全风险 ……………………………… 3 3.2 人工智能应用安全风险 ……………………………… 5 4. 技术应对措施 ……………………………… 15 目 录- 1 - 人工智能安全治理框架 人工智能是人类发展新领域，给世界带来巨大机遇，也带来各类风险挑战。 落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，为 推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工 智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险，制定本 框架。 1. 人工智能安全治理原则 秉持共同、综合 包容审慎、确保安全。鼓励发展创新，对人工智能研发及应用采取 包容态度。严守安全底线，对危害国家安全、社会公共利益、公众合法权益的 风险及时采取措施。 人工智能安全治理框架 （V1.0）- 2 - 人工智能安全治理框架 1.2 风险导向、敏捷治理。密切跟踪人工智能研发及应用趋势，从人工 智能技术自身、人工智能应用两方面分析梳理安全风险，提出针对性防范应对 措施。关注安全风险发展变化，

快速迭代发展，诸如 Dify.AI 的 LLMOps、Milvus 的向量 数据库、CodeGeeX 与 Comate 的 AI 编程、对 LLM Prompt 的研究、OneFlow 的深度学习框架。 值得一提的还有华为的盘古大模型，其中盘古气象大模型是 首个精度超过传统数值预报方法的 AI 模型，速度相比传统 数值预报提速 10000 倍以上，能够提供全球气象秒级预 报。盘古大模型的研究成果在国际顶级学术期刊《自然》正 场面”。 1 1 目录 一、开源开发者事件回顾 三、中国开发者开源新动向 二、2023 LLM 技术报告  46 | 向量数据库  47 | 数据库向量支持  48 | 大模型框架、微调  51 | 大模型训练平台与工具  53 | 编程语言  57 | 知名大模型  58 | 备案上线的中国大模型  21 | 硬核发版  26 | 热门话题  33 105 小时之后，该事件迎来大结局—— Sam Altman 重返 OpenAI 担任首席执行官，OpenAI 成立全新董事会，微软 将在董事会中获得一个无投票权的观察员席位。 最火热 LLM 应用框架 LangChain 与此同时，零一万物完成由阿里云领投的新一轮融资，估值已超 10 亿美 元，跻身独角兽行列。 8 / 87 1 1 开源开发者事件回顾 京东发布言犀大模型 百度推出 AI

当前社会普 遍追求更⾼学历深造有关，和本次问卷传播形式有关，但是同时也能说明开源在教育领域 取得了不错的进展；  开发者所从事的技术⽅向仍以前后端为主，其中后端开发占⽐约 31%，其次是 Web 前 端、AI 以及⼤数据分析⽅向，占⽐分别为10%、9%、9%，⾮技术⼈员以及其他⾏业的 从业者占⽐均为 7%，说明开源已经越来越受到社会各界的关注；  参与开源的形式由 2019 年以代 参与者中学⽣和开发者占绝⼤多数，相⽐于 2019年，学⽣占⽐⼤⼤增加，约 37%，开发者 占⽐约 36%。 3.4 所从事的技术⽅向 参与者所从事的技术⽅向以后端开发为主，占⽐约 31%，其次是 Web 前端、AI 以及⼤数据 分析⽅向，占⽐分别为10%、9%、9%，⾮技术⼈员以及其他⾏业的从业者占⽐均为 7%，说 明开源已经越来越受到社会各界的关注。 【专家点评】 陈阳：开源早期的时候， 年的约 1,19 万 增加了约 21.2%。 1.2 指标解释 2、主要内容与发现 2.1 世界开源 Top10 项⽬ 活跃度最⾼的项⽬是来⾃⾕歌的前端跨平台开发框架 flutter/flutter，此外，源于⾕歌的深度 学习框架 tensorflow/tensorflow，容器编排系统 kubernetes/kubernetes 也分别位于第 5 名和第 6 名，这说明了⾕歌在开源上的努⼒和影响⼒获得了业内的认可。

并驾齐驱，某种程度反映了当下的技术热点趋势。开源的大数据 项目，Java (以及基于 JVM 的 Scala)是绝对主力，比如大家耳熟能详的 Hadoop, HBase, Spark 等，而开源的 AI 框架类项目，如：TensorFlow, PyTorch, MindSpore 等，则主要 由 Python 语言所构成。未来，这两大语言还将持续在各自擅长的领域发光发热。 Du Junping: Python Python's advantages over Java should continue to expand. 3.8 Java 开发框架 / 3.8 Java Development Framework Java 开发框架的使用中，Spring 以绝对优势遥遥领先。 Spring is far and away from the leader in using Java time being 3.9 PHP 开发框架 / 3.9 PHP Development Framework PHP 开发框架以 Thinkphp 的使用居多。 PHP development frameworks are predominantly used with Thinkphp. 3.10 Ruby 开发框架 / 3.10 Ruby Development Framework

……………… 20 3.8 Java 开发框架 ……………………………………………………………………………………… 21 3.9 PHP 开发框架 ……………………………………………………………………………………… 21 3.10 Ruby 开发框架 …………………………………………………………………………………… 22 3.11 Go 开发框架 ……………………………………………………………………………………… ……………………………… 22 3.12 Node.js 开发框架 ………………………………………………………………………………… 23 3.13 Python 开发框架 ………………………………………………………………………………… 23 3.14 前端开发框架 …………………………………………………………………………………… 24 3.15 数据库……………………………………………………………………………………………… …………………………………………… 25 3.16 版本控制工具 …………………………………………………………………………………… 26 3.17 AI 开发框架 ……………………………………………………………………………………… 26 3.18 云原生组件 / 工具 ………………………………………………………………………………… 27 4 开源社区参与现状 …………………………………………………………………………

www.iresearch.com.cn 云计算、容 器和虚拟化 22.7% 网络和边缘计算 15.0% web和应用程序开发 13.6% 人工智能、机器学习、数 据和分析 10.8% 隐私与安全 5.1% cross-technology 4.8% 物联网与嵌入式 4.6% 区块链 4.3% Reliability 3.8% 开源最佳实践 3.8% 其他 11.5% 库 22.9% 大数据 11.1% 网络服务器 8.9% 可扩展标记语言 6.8% 数据库 5.7% web框架 5.4% 网络客户端 5.4% 内容 4.6% 构造管理 4.6% 云 3.5% 其他 21.1% 全球开源项目分布 总量持续上升，项目类型反映市场需求与热度 全球对开源的 区提供服务，2021年Linux基金会中云计算、容器和虚拟化开源项目的占 比最大，达到22.7%。整体来看，全球开源项目类型集中在开发框架、文档类开源项目、云计算等相关领域。此外，开源 项目的类型往往能反映当前市场关注的热点，如容器与云原生应用技术、人工智能开发框架等技术的流行。 来源：Apache软件基金会，艾瑞咨询研究院根据公开资料研究及绘制。 来源：Linux基金会，艾瑞咨询研究院根据公开资料研究及绘制。

[https://weblate.org/] Weblate 是 Copylefted 的自由软件，是一个基于 Web 的持续本地化系统， 被 165+ 个国家/地区的 2500+ 个自由项目和公司使用。 安装它，或使用 weblate.org [https://weblate.org/] 上的 Hosted Weblate 服务。 website website weblate.org weblate 关于 Weblate 的即时聊天可以在 Libera.Chat [https://libera.chat/] IRC网络上进 行。频道名称是 #weblate 。这可以通过例如 https://web.libera.chat/#weblate 或安装在你电脑上的IRC客户端来访问。 许可协议 版权所有 © Michal Čihař michal@weblate.org 本程序是自由软件：您可以在自由软件基金会发布的 选项卡，你可以选择默认显示的操作面板视图。如果你选择 部件列 表，你必须从 默认部件列表 下拉菜单中选择要显示哪个部件列表。 参见 部件列表 编辑器链接 默认情况下，源代码链接显示在 部件配置 中配置的 Web 浏览器中。 提示 通过设置 编辑器链接，您可以使用本地编辑器打开翻译字符串的版本控制系 统（VCS） 源代码文件。你可以使用 模板标记。 通常像 editor://open/?file={{

[https://weblate.org/] Weblate 是 Copylefted 的自由软件，是一个基于 Web 的持续本地化系统， 被 165+ 个国家/地区的 2500+ 个自由项目和公司使用。 安装它，或使用 weblate.org [https://weblate.org/] 上的 Hosted Weblate 服务。 website website weblate.org weblate 关于 Weblate 的即时聊天可以在 Libera.Chat [https://libera.chat/] IRC网络上进 行。频道名称是 #weblate 。这可以通过例如 https://web.libera.chat/#weblate 或安装在你电脑上的IRC客户端来访问。 许可协议 版权所有 © Michal Čihař michal@weblate.org 本程序是自由软件：您可以在自由软件基金会发布的 选项卡，你可以选择默认显示的操作面板视图。如果你选择 部件列 表，你必须从 默认部件列表 下拉菜单中选择要显示哪个部件列表。 参见 部件列表 编辑器链接 默认情况下，源代码链接显示在 部件配置 中配置的 Web 浏览器中。 提示 通过设置 编辑器链接，您可以使用本地编辑器打开翻译字符串的版本控制系 统（VCS） 源代码文件。你可以使用 模板标记。 通常像 editor://open/?file={{

[https://weblate.org/] Weblate 是 Copylefted 的自由软件，是一个基于 Web 的持续本地化系统， 被 165+ 个国家/地区的 2500+ 个自由项目和公司使用。 安装它，或使用 weblate.org [https://weblate.org/] 上的 Hosted Weblate 服务。 website website weblate.org weblate 关于 Weblate 的即时聊天可以在 Libera.Chat [https://libera.chat/] IRC网络上进 行。频道名称是 #weblate 。这可以通过例如 https://web.libera.chat/#weblate 或安装在你电脑上的IRC客户端来访问。 许可协议 版权所有 © Michal Čihař michal@weblate.org 本程序是自由软件：您可以在自由软件基金会发布的 选项卡，你可以选择默认显示的操作面板视图。如果你选择 部件列 表，你必须从 默认部件列表 下拉菜单中选择要显示哪个部件列表。 参见 部件列表 编辑器链接 默认情况下，源代码链接显示在 部件配置 中配置的 Web 浏览器中。 提示 通过设置 编辑器链接，您可以使用本地编辑器打开翻译字符串的版本控制系 统（VCS） 源代码文件。你可以使用 模板标记。 通常像 editor://open/?file={{