全国网络安全标准化技术委员会 2024年9月 人工智能 安全治理框架1. 人工智能安全治理原则 …………………………………… 1 2. 人工智能安全治理框架构成 ……………………………… 2 3. 人工智能安全风险分类 …………………………………… 3 3.1 人工智能内生安全风险 ……………………………… 3 3.2 人工智能应用安全风险 ……………………………… 5 4. 技术应对措施 工智能研发 应用生态链，明确模型算法研发者、服务提供者、使用者等相关主体的安全责 任，有机发挥政府监管、行业自律、社会监督等治理机制作用。 1.4 开放合作、共治共享。在全球范围推动人工智能安全治理国际合作， 共享最佳实践，提倡建立开放性平台，通过跨学科、跨领域、跨地区、跨国界 的对话和合作，推动形成具有广泛共识的全球人工智能治理体系。 2. 人工智能安全治理框架构成 基于风险管理理 （d）数据泄露风险。人工智能研发应用过程中，因数据处理不当、非授 权访问、恶意攻击、诱导交互等问题，可能导致数据和个人信息泄露。 3.1.3 系统安全风险 （a）缺陷、后门被攻击利用风险。人工智能算法模型设计、训练和验证 的标准接口、特性库和工具包，以及开发界面和执行平台可能存在逻辑缺陷、- 5 - 人工智能安全治理框架 漏洞等脆弱点，还可能被恶意植入后门，存在被触发和攻击利用的风险。 （b）算力安全风险。人工智能训练运行所依赖的算力基础设施，涉及多源、

，形成 慢思考能力 传统软件是辅助人的工具，Agent是能够自主工作的数字员工，是新的生产力政企、创业者必读 22 DeepSeek出现之前的十大预判 之九 开源效果追赶上闭源  技术开放，吸引广大开发人员和用户使用  很多公司参与开源，帮助改进产品，众人拾柴火焰高， 反哺开源产品，形成正循环政企、创业者必读 DeepSeek出现之前的十大预判 之十 中美差距快速缩小  一个开源产品获得突破之后，全世界都能分享成果，结束中国百模大 战，节省大量成本  很多公司参与开源，帮助改进产品，很多人基于DS生态开发应用产 品，增加影响力，人人为我，我为人人  技术开放，对人工智能行业形成蓬勃发展，寒武纪大爆炸，推动AGI 行业发展 DeepSeek颠覆式创新——开源 34政企、创业者必读 成本的急剧降低  DeepSeek可适配国产硬件，促进国产硬件发展 eek上，不用重复发明轮子  公开蒸馏方法，帮助其他模型提升能力，实现了模型制造模型，犹如工业母机  小模型可部署在企业内电脑或一体机上，使用成本降低，形成分布式推理网络  技术门槛降低， 可标准化、SaaS化部署，下载就能用 DeepSeek颠覆式创新——成本暴跌 35政企、创业者必读 惠及全球人民，科技平权，技术平民化  运营商、云服务可免费用，降低云服务成本  大型企业可使

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 271 12.6. 将错误信息输出到标准错误而不是标准输出 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 276 13. 函数式语言特性：迭代器与闭包 let 控 制流结构。在 Rust 中，创建自定义类型需要用到结构体和枚举。 第七章介绍 Rust 的模块（module）系统，其中的私有性规则用来组织代码和公开的 API（应 用程序接口）。第八章讨论标准库提供的常见集合数据结构，例如 Vector（向量）、字符串和 Hash Map（散列表）。第九章探索 Rust 的错误处理的理念与技术。 第十章深入介绍泛型（generic）、Trait 和生命 件中搜索文本。为此会用到之前章节讨论的很多概念。 第十三章探索闭包（closure）和迭代器（iterator），这两个 Rust 特性来自函数式编程语言。 第十四章会深入探讨 Cargo 并介绍分享代码库的最佳实践。第十五章讨论标准库提供的智能 指针以及相关的 trait。 8/562Rust 程序设计语言 简体中文版 第十六章将引导我们了解不同的并发编程模型，并探讨 Rust 如何帮助你无畏地进行多线程编 程。第十七章将在此基础上进一步探索