全国网络安全标准化技术委员会 2024年9月 人工智能 安全治理框架1. 人工智能安全治理原则 …………………………………… 1 2. 人工智能安全治理框架构成 ……………………………… 2 3. 人工智能安全风险分类 …………………………………… 3 3.1 人工智能内生安全风险 ……………………………… 3 3.2 人工智能应用安全风险 ……………………………… 5 4. 技术应对措施 针对人工智能内生安全风险 ………………………… 7 4.2 针对人工智能应用安全风险 ………………………… 9 5. 综合治理措施 ……………………………………………… 10 6. 人工智能安全开发应用指引 ……………………………… 12 6.1 模型算法研发者安全开发指引 ……………………… 12 6.2 人工智能服务提供者安全指引 ……………………… 13 6.3 重点领域使用者安全应用指引 6.4 社会公众安全应用指引 ……………………………… 15 目 录- 1 - 人工智能安全治理框架 人工智能是人类发展新领域，给世界带来巨大机遇，也带来各类风险挑战。 落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，为 推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工 智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险，制定本 框架。

Service Mesh 在蚂蚁金服生产级安全实践 彭泽文 蚂蚁金服高级开发工程师 2019.8.11 Service Mesh Meetup #6 广州站基于 Secret Discovery Service Sidecar 的证书管理方案 使用可信身份服务构建敏感数据下发通道 Service Mesh Sidecar 的 TLS 生产级落地实践 分享内容基于 Secret Discovery Volume 形式挂载。 存在以下三个问题：  Secret 管理方式与现有密钥管理系统有冲突，需要密钥管理系统强依赖 Kubernetes  Secret 以明文形式挂载在容器的文件系统中，存在安全隐患  Secret 更新时，Sidecar 需要通过热重启方式重新加载，成本高昂基于 Secret Discovery Service Sidecar 的证书管理方案 Envoy SDS 证书管理流程 进行密钥管理和分发，Sidecar 通过 gRPC 请求获取证书，并利用 gRPC stream 能力实现证书动态轮转。 当然，Sidecar 和 SDS Server 的通信也需要保证自身的通信安全，存在以下两种方案：  Sidecar 与 SDS Server 采用 mTLS 通信，采用静态证书方案，通过 Secret Mount 方式获取通信证书  Sidecar 与 SDS Server

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 465 20.1. 不安全 Rust . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 542 22.2. B - 运算符与符号 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 昭著的陷阱。即使谨慎的实践者，亦唯恐代码出现漏洞、崩溃或损坏。 Rust 破除了这些障碍：它消除了旧的陷阱，并提供了伴你一路同行的友好、精良的工具。想 要 “深入” 底层控制的程序员可以使用 Rust，无需时刻担心出现崩溃或安全漏洞，也无需因为 工具链不靠谱而被迫去了解其中的细节。更妙的是，语言设计本身会自然而然地引导你编写出 可靠的代码，并且运行速度和内存使用上都十分高效。 已经在从事编写底层代码的程序员可以使用 Rust

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93 4.14.8 省略符对象 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93 4.14.9 未实现对象 ——高阶函数，以及可调用对象上的操作 . . . . . . . . . . . . . . . . . . . . . 393 10.2.1 partial 对象 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 402 10.3 operator --- 标准运算符对应函数 . . . . . . . . . . . . . . . . . . . . . . 402 10.3.1 将运算符映射到函数 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 407 10.3.2 原地运算符 . . . . . . . . . . . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93 4.14.8 省略符对象 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 93 4.14.9 未实现对象 ——高阶函数，以及可调用对象上的操作 . . . . . . . . . . . . . . . . . . . . . 389 10.2.1 partial 对象 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 398 10.3 operator --- 标准运算符对应函数 . . . . . . . . . . . . . . . . . . . . . . 398 10.3.1 将运算符映射到函数 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 403 10.3.2 原地运算符 . . . . . . . . . . . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91 4.14.8 省略符对象 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91 4.14.9 未实现对象 ——高阶函数，以及可调用对象上的操作 . . . . . . . . . . . . . . . . . . . . . 380 10.2.1 partial 对象 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 389 10.3 operator --- 标准运算符对应函数 . . . . . . . . . . . . . . . . . . . . . . 390 10.3.1 将运算符映射到函数 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 394 10.3.2 原地运算符 . . . . . . . . . . . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91 4.14.8 省略符对象 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91 4.14.9 未实现对象 ——高阶函数，以及可调用对象上的操作 . . . . . . . . . . . . . . . . . . . . . 380 10.2.1 partial 对象 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 389 10.3 operator --- 标准运算符对应函数 . . . . . . . . . . . . . . . . . . . . . . 390 10.3.1 将运算符映射到函数 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 394 10.3.2 原地运算符 . . . . . . . . . . . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85 4.13.8 省略符对象 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85 4.13.9 未实现对象 --- 高阶函数和可调用对象上的操作 . . . . . . . . . . . . . . . . . . . . . . . . 358 10.2.1 partial 对象 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 366 10.3 operator --- 标准运算符替代函数 . . . . . . . . . . . . . . . . . . . . . 366 10.3.1 将运算符映射到函数 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 370 10.3.2 原地运算符 . . . . . . . . . . . . . . . . . . . . . . . . . .

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92 4.13.8 省略符对象 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 92 4.13.9 未实现对象 高阶函数和可调用对象上的操作 . . . . . . . . . . . . . . . . . . . . . . . . . . 383 10.2.1 partial 对象 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 391 10.3 operator --- 标准运算符替代函数 . . . . . . . . . . . . . . . . 392 v 10.3.1 将运算符映射到函数 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 396 10.3.2 原地运算符 . . . . . . . . . . . . . . . . . . . . . . . . .