全国网络安全标准化技术委员会 2024年9月 人工智能 安全治理框架1. 人工智能安全治理原则 …………………………………… 1 2. 人工智能安全治理框架构成 ……………………………… 2 3. 人工智能安全风险分类 …………………………………… 3 3.1 人工智能内生安全风险 ……………………………… 3 3.2 人工智能应用安全风险 ……………………………… 5 4. 技术应对措施 针对人工智能内生安全风险 ………………………… 7 4.2 针对人工智能应用安全风险 ………………………… 9 5. 综合治理措施 ……………………………………………… 10 6. 人工智能安全开发应用指引 ……………………………… 12 6.1 模型算法研发者安全开发指引 ……………………… 12 6.2 人工智能服务提供者安全指引 ……………………… 13 6.3 重点领域使用者安全应用指引 6.4 社会公众安全应用指引 ……………………………… 15 目 录- 1 - 人工智能安全治理框架 人工智能是人类发展新领域，给世界带来巨大机遇，也带来各类风险挑战。 落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，为 推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工 智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险，制定本 框架。

下载和上传译文 术语表 检查和修正 搜索 翻译工作流 常见问题 支持的文件格式 版本控制集成 Weblate 的 REST API Weblate 客户端 Weblate 的 Python API 管理员文档 配置说明 Weblate 部署 升级 Weblate 备份和移动 Weblate 身份验证 访问控制 翻译项目 语言定义 持续本地化 翻译许可 翻译进程 检查和修正 配置自动建议 附加组件 Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 更新日志 Weblate 4.15.1 Weblate 4.15 Weblate 4.14.2 Weblate 4.14.1 Ctrl+M + 1 到 9 或 Cmd+M + 1 到 9 将给定数字的机器翻译复制到当前翻译。 Ctrl+I + 1 到 9 或 Cmd+I + 1 到 9 忽略未通过的检查列表中的一个项目。 键盘快捷键 说明 Ctrl+J 或 Cmd+J 显示 附近字符串 选项卡。 Ctrl+S 或 Cmd+S 定位到搜索框。 Ctrl+O 或 Cmd+O 复制源字符串。

下载和上传译文 术语表 检查和修正 搜索 翻译工作流 常见问题 支持的文件格式 版本控制集成 Weblate 的 REST API Weblate 客户端 Weblate 的 Python API 管理员文档 配置说明 Weblate 部署 升级 Weblate 备份和移动 Weblate 身份验证 访问控制 翻译项目 语言定义 持续本地化 翻译许可 翻译进程 检查和修正 配置自动建议 附加组件 Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 更新日志 Weblate 4.15.2 Weblate 4.15.1 Weblate 4.15 Weblate 4.14.2 Ctrl+M + 1 到 9 或 Cmd+M + 1 到 9 将给定数字的机器翻译复制到当前翻译。 Ctrl+I + 1 到 9 或 Cmd+I + 1 到 9 忽略未通过的检查列表中的一个项目。 键盘快捷键 说明 Ctrl+J 或 Cmd+J 显示 附近字符串 选项卡。 Ctrl+S 或 Cmd+S 定位到搜索框。 Ctrl+O 或 Cmd+O 复制源字符串。

进行翻译工作 下载和上传译文 术语表 检查和修正 搜索 翻译工作流 常见问题 支持的文件格式 版本控制集成 Weblate 的 REST API Weblate 客户端 Weblate 的 Python API 管理员文档 配置说明 Weblate 部署 升级 Weblate 备份和移动 Weblate 身份验证 访问控制 翻译项目 语言定义 持续本地化 翻译许可 翻译进程 检查和修正 配置自动建议 附加组件 Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 更新日志 Weblate 4.15 Weblate 4.14.2 Weblate 4.14.1 Weblate 4.14 Weblate Ctrl+M + 1 到 9 或 Cmd+M + 1 到 9 将给定数字的机器翻译复制到当前翻译。 Ctrl+I + 1 到 9 或 Cmd+I + 1 到 9 忽略未通过的检查列表中的一个项目。 键盘快捷键 说明 Ctrl+J 或 Cmd+J 显示 附近字符串 选项卡。 Ctrl+S 或 Cmd+S 定位到搜索框。 Ctrl+O 或 Cmd+O 复制源字符串。

进行翻译工作 下载和上传译文 术语表 检查和修正 搜索 翻译工作流 常见问题 支持的文件格式 版本控制集成 Weblate 的 REST API Weblate 客户端 Weblate 的 Python API 管理员文档 配置说明 Weblate 部署 升级 Weblate 备份和移动 Weblate 身份验证 访问控制 翻译项目 语言定义 持续本地化 翻译许可 翻译进程 检查和修正 配置自动建议 附加组件 Weblate 源代码 调试 Weblate Weblate 内部 开发附加组件 Weblate 前端 在 Weblate 中汇报问题 Weblate 测试套件与持续集成 数据架构 发布 Weblate 安全和隐私 为 Weblate 模块作贡献 关于 Weblate 许可协议 更新日志 Weblate 4.14.2 Weblate 4.14.1 Weblate 4.14 Weblate 4.13.1 Ctrl+M + 1 到 9 或 Cmd+M + 1 到 9 将给定数字的机器翻译复制到当前翻译。 Ctrl+I + 1 到 9 或 Cmd+I + 1 到 9 忽略未通过的检查列表中的一个项目。 Ctrl+J 或 Cmd+J 显示 附近字符串 选项卡。 Ctrl+S 或 定位到搜索框。 键盘快捷键 说明 Cmd+S Ctrl+O 或 Cmd+O 复制源字符串。

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26 1.6 检查和修正 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28 1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 300 2.12 检查和修正 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 306 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 448 3.12 安全和隐私 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 449 3

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26 1.6 检查和修正 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28 1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 300 2.12 检查和修正 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 306 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 448 3.12 安全和隐私 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 449 3

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23 1.6 检查和修正 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26 1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 282 2.12 检查和修正 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 288 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 424 3.12 安全和隐私 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 425 3

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23 1.6 检查和修正 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26 1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 283 2.12 检查和修正 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 289 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 424 3.12 安全和隐私 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 425 3

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23 1.6 检查和修正 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 26 1 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 284 2.12 检查和修正 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 290 2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 425 3.12 安全和隐私 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 426 3