全国网络安全标准化技术委员会 2024年9月 人工智能 安全治理框架1. 人工智能安全治理原则 …………………………………… 1 2. 人工智能安全治理框架构成 ……………………………… 2 3. 人工智能安全风险分类 …………………………………… 3 3.1 人工智能内生安全风险 ……………………………… 3 3.2 人工智能应用安全风险 ……………………………… 5 4. 技术应对措施 针对人工智能内生安全风险 ………………………… 7 4.2 针对人工智能应用安全风险 ………………………… 9 5. 综合治理措施 ……………………………………………… 10 6. 人工智能安全开发应用指引 ……………………………… 12 6.1 模型算法研发者安全开发指引 ……………………… 12 6.2 人工智能服务提供者安全指引 ……………………… 13 6.3 重点领域使用者安全应用指引 6.4 社会公众安全应用指引 ……………………………… 15 目 录- 1 - 人工智能安全治理框架 人工智能是人类发展新领域，给世界带来巨大机遇，也带来各类风险挑战。 落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，为 推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工 智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险，制定本 框架。

使其在学术研究和工业应 用中具有广泛的应用前景 可解释性和可靠性 需要采取措施确保模型的 可靠性和可解释性 社区参与 需要社区成员的共同参与 维护和更新，需要较高的 社区活跃度和凝聚力 安全性 需要采取措施确保模型的 安全性和隐私保护 模型 训练成本 调用成本 （输入/百万 tokens） 调用成本 （输出/百万 tokens） DeepSeek-V3 557.6万美元 0.14美元（缓存未命中） 完全开源免费；社区支持广泛； 多语言基础能力均衡 多模态功能缺失； 长文本生成质量不稳定 Anthropic Claude-3.5 闭源推理模型 对话系统、内容生成、 逻辑推理 对话逻辑连贯性强； 伦理安全性高；文档分析能力突出 中文支持较弱； 闭源且 API 访问受限 百度 文心一言 闭源大语言模型 多语言处理、复杂的语 言理解和文本生成 中文场景优化最佳； 多模态搜索整合；本土行业适配性强 领域的竞争与合作，推动全球AI技术的多元化发展。  全球AI产业链升级 DeepSeek的崛起带动了全球AI产业链上下游的发展。其低成本高性 能的模型降低了大模型的投资、开发、运营成本，推动了国产AI芯片、 云平台、操作系统等产业的发展。 技术深化：突破局限，能力提升 DeepSeek R1展示了强化学习技术和算法创新在 AI 领域的巨大潜力，但其仍然处于发展阶段，存在一定局限性和优化 空间。未来，随着技术的不断进步和创新，DeepSeek

面对全球大模型产业之争，要打赢「三大战役」 AGI之战 应用场景之战 大模型安全之战 • 探索超越人类的超级人工 智能AGI • 不仅是科技之争，更是国 运之争 • 不发展是最大的不安全， 发挥举国体制优势，打赢 追赶之战 • 大模型带来前所未有安全 挑战 • 外挂式传统安全手段难以 应对 • 应对模型安全新挑战，打 赢未雨绸缪之战 • 大模型是能力而非产品， 结合场景才能发挥价值 创业公司得到DeepSeek加持，创业者拥有便宜领先的大模型，迎来 机遇，带来“iPhone时刻” 中国变成AI渗透率最高的国家，率先实现AI工业革命 37政企、创业者必读 人人智能 万物智能 数转智改 未来产业 科学研究 安全 应用爆发的六大方向 38政企、创业者必读 DeepSeek的开源和低成本使得个人也能够拥有自有大模型，实现超能力， 成长为超级个体 DeepSeek六大应用方向之一 人人智能：人人都要用AI 从数年缩短到几分钟，解开了生物学密码 成功预测了地球存在的2亿种蛋白质结构 45政企、创业者必读  DeepSeek典型的四大安全问题：客户端安全、Agent安全、知识安全、模型安全  360提出「以模制模」新解法，应对DeepSeek安全问题 DeepSeek六大应用方向之六 AI安全：实现安全的「自动驾驶」 46政企、创业者必读 大模型的六大能力 47 基本 能力 业务 能力 创新 能力

智能治理倡议》，进一步加强人工智能标准化工作系统谋划， 加快构建满足人工智能产业高质量发展和“人工智能+”高水 平赋能需求的标准体系，夯实标准对推动技术进步、促进企 业发展、引领产业升级、保障产业安全的支撑作用，更好推 进人工智能赋能新型工业化，特制定本指南。 一、产业发展现状 人工智能是引领新一轮科技革命和产业变革的基础性 和战略性技术，正成为发展新质生产力的重要引擎，加速和 实体经 以习近平新时代中国特色社会主义思想为指导，全面贯 彻党的二十大和二十届二中全会精神，认真落实中央经济工 作会议和全国新型工业化推进大会部署要求，完整、准确、 全面贯彻新发展理念，统筹高质量发展和高水平安全，加快 赋能新型工业化，以抢抓人工智能产业发展先机为目标，完 善人工智能标准工作顶层设计，强化全产业链标准工作协 同，统筹推进标准的研究、制定、实施和国际化，为推动我 国人工智能产业高质量发展提供坚实的技术支撑。 企事业单位积极参与国际标准化活动，携手全球产业链上下 游企业共同制定国际标准。 三、建设思路 （一）人工智能标准体系结构 人工智能标准体系结构包括基础共性、基础支撑、关键 技术、智能产品与服务、赋能新型工业化、行业应用、安全 /治理等 7 个部分，如图 1 所示。其中，基础共性标准是人 工智能的基础性、框架性、总体性标准。基础支撑标准主要 规范数据、算力、算法等技术要求，为人工智能产业发展夯 实技术底座。关键技术标准主要规范人工智能文本、语音、

求： ① 保持时间复杂度不变； ② 使用numpy优化数组操作； ③ 输出带时间测试案例的完整代码。" 创造性需求 "设计一款智能家居产品，要求： ① 解决独居老人安全问题； ② 结合传感器网络和AI预警； ③ 提供三种不同技术路线的原型草图说明。" �实战技巧： 还要不要学提示语？ 提示语（Prompt）是用户输入给AI系统的指令或信息，用于 常见陷阱与应对：新手必知的提示语设计误区 忽视伦理边界陷阱：低估AI的伦理限制 陷阱症状： ▪ 要求AI生成有争议、不道德或非法内容。 ▪ 对AI的拒绝或警告感到困惑或不满。 ▪ 尝试绕过AI的安全机制。 ▪ 忽视AI输出可能带来的伦理影响。 应对策略： ▪ 了解界限：熟悉AI系统的基本伦理准则和限制。 ▪ 合法合规：确保你的请求符合法律和道德标准。 ▪ 伦理指南：在提示语中明确包含伦理考虑和指导原则。 伦理指南：在提示语中明确包含伦理考虑和指导原则。 ▪ 影响评估：要求AI评估其建议或输出的潜在社会影响。 AI伦理考虑要点 ▪ 隐私保护 ▪ 公平性和非歧视 ▪ 透明度和可解释性 ▪ 社会影响评估 ▪ 安全和滥用防范 提示语设计检查清单 ▪ 目标明确性 ▪ 信息充分性 ▪ 结构合理性 ▪ 语言中立性 ▪ 伦理合规性 ▪ 可验证性 ▪ 迭代空间 ▪ 输出格式 ▪ 难度适中 ▪ 多样性考虑

求： ① 保持时间复杂度不变； ② 使用numpy优化数组操作； ③ 输出带时间测试案例的完整代码。" 创造性需求 "设计一款智能家居产品，要求： ① 解决独居老人安全问题； ② 结合传感器网络和AI预警； ③ 提供三种不同技术路线的原型草图说明。" �实战技巧： 还要不要学提示语？ 提示语（Prompt）是用户输入给AI系统的指令或信息，用于 常见陷阱与应对：新手必知的提示语设计误区 忽视伦理边界陷阱：低估AI的伦理限制 陷阱症状： ▪ 要求AI生成有争议、不道德或非法内容。 ▪ 对AI的拒绝或警告感到困惑或不满。 ▪ 尝试绕过AI的安全机制。 ▪ 忽视AI输出可能带来的伦理影响。 应对策略： ▪ 了解界限：熟悉AI系统的基本伦理准则和限制。 ▪ 合法合规：确保你的请求符合法律和道德标准。 ▪ 伦理指南：在提示语中明确包含伦理考虑和指导原则。 伦理指南：在提示语中明确包含伦理考虑和指导原则。 ▪ 影响评估：要求AI评估其建议或输出的潜在社会影响。 AI伦理考虑要点 ▪ 隐私保护 ▪ 公平性和非歧视 ▪ 透明度和可解释性 ▪ 社会影响评估 ▪ 安全和滥用防范 提示语设计检查清单 ▪ 目标明确性 ▪ 信息充分性 ▪ 结构合理性 ▪ 语言中立性 ▪ 伦理合规性 ▪ 可验证性 ▪ 迭代空间 ▪ 输出格式 ▪ 难度适中 ▪ 多样性考虑

. 11 1 1 本地部署并运行 DeepSeek 1.1 为什么要在本地部署 DeepSeek 在本地搭建大模型（如 DeepSeek）具有多个重要的优势，比如： 1. 保护隐私与数据安全。数据不外传：本地运行模型可以完全避免数据上 传至云端，确保敏感信息不被第三方访问。 2. 可定制化与优化。支持微调（Fine-tuning）：可以根据特定业务需求对模 型进行微调，以适应特定任务，如行业术语、企业内部知识库等。 Tuning），如下图11所示。通用强化学习训练过 程后，使得 R1 不仅在推理任务中表现卓越，同时在非推理任务中也表现出 色。但由于其能力拓展至非推理类应用，因此在这些应用中引入了帮助性 （helpfulness）和安全性（safety）奖励模型（类似于 Llama 模型），以优化 与这些应用相关的提示处理能力。 DeepSeek-R1 是训练流程的终点，结合了 R1-Zero 的推理能力和通用强化 学习的任 DeepSeek-R1 中间推理模型生成：通过推理导向的强化学习（Reasoning-Oriented RL）， 直接生成高质量的推理数据（CoT 示例），减少人工标注依赖。通用强化学 习优化：基于帮助性和安全性奖励模型，优化推理与非推理任务表现，构建 通用性强的模型。最终，DeepSeek-R1 将 R1-Zero 的推理能力与通用强化 学习的适应能力相结合，成为一个兼具强推理能力和任务广泛适应性的高

探讨大语言模型（LLMs）在模拟人类意见动态和社 会现象（如极化和错误信息传播）中的表现，特别 是引入偏误信息后的意见动态变化。使用大模型模 拟多个虚拟代理，讨论“气候变暖”、“转基因食 品的安全性”和“疫苗的有效性和安全性”三个具 有科学共识的话题。 实验一在无偏误信息条件下，代理通过社交网络进 行每日对话，记录最终信念状态和信息传播路径。 实验二改变初始信念分布，探讨初始条件对结果的 影响。 "分析近三年新能源汽车销量数据(附CSV), 说 明 ： ① 增长趋势与政策关联性； ② 预测2025年市占率，需使用ARIMA模型并解释参数 选择依据。" "设计一款智能家居产品，要求： ① 解决独居老人安全问题； ② 结合传感器网络和Al预警； ③ 提供三种不同技术路线的原型草图说明。" 决策需求 实战技巧： 分析需求 实战技巧：

执行层: 2. 能力矩阵 (Capability Matrix) •功能范围 •专业技能 •决策权限 约束层: 3. 边界系统 (Boundary System) •伦理规范 •安全限制 •资源约束 操作层: 4. 工作引擎 (Operation Engine) •输入处理 •执行流程 •输出规范 如何使用DeepSeek制作可视化图表？ 如何使用DeepSeek制作可视化图表？

GPU 跑 1 天能完成单次训练，或者 2500 块 A100 GPU 跑 2 周。以每张卡 10 万人民币的价格计算，单 次训练成本就将达到 25-35 亿人民币。 10月17日，美国商务部工业和安全局(BIS)公布新的先进计算芯 片、半导体制造设备出口管制规则，限制中国购买和制造高端芯 片的能力，受管制的包括但不限于 NVIDIA A100、H100、 A800、H800、L40、L40S 以及集成这些高性能计算的