全国网络安全标准化技术委员会 2024年9月 人工智能 安全治理框架1. 人工智能安全治理原则 …………………………………… 1 2. 人工智能安全治理框架构成 ……………………………… 2 3. 人工智能安全风险分类 …………………………………… 3 3.1 人工智能内生安全风险 ……………………………… 3 3.2 人工智能应用安全风险 ……………………………… 5 4. 技术应对措施 针对人工智能内生安全风险 ………………………… 7 4.2 针对人工智能应用安全风险 ………………………… 9 5. 综合治理措施 ……………………………………………… 10 6. 人工智能安全开发应用指引 ……………………………… 12 6.1 模型算法研发者安全开发指引 ……………………… 12 6.2 人工智能服务提供者安全指引 ……………………… 13 6.3 重点领域使用者安全应用指引 6.4 社会公众安全应用指引 ……………………………… 15 目 录- 1 - 人工智能安全治理框架 人工智能是人类发展新领域，给世界带来巨大机遇，也带来各类风险挑战。 落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，为 推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工 智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险，制定本 框架。

求： ① 保持时间复杂度不变； ② 使用numpy优化数组操作； ③ 输出带时间测试案例的完整代码。" 创造性需求 "设计一款智能家居产品，要求： ① 解决独居老人安全问题； ② 结合传感器网络和AI预警； ③ 提供三种不同技术路线的原型草图说明。" �实战技巧： 还要不要学提示语？ 提示语（Prompt）是用户输入给AI系统的指令或信息，用于 常见陷阱与应对：新手必知的提示语设计误区 忽视伦理边界陷阱：低估AI的伦理限制 陷阱症状： ▪ 要求AI生成有争议、不道德或非法内容。 ▪ 对AI的拒绝或警告感到困惑或不满。 ▪ 尝试绕过AI的安全机制。 ▪ 忽视AI输出可能带来的伦理影响。 应对策略： ▪ 了解界限：熟悉AI系统的基本伦理准则和限制。 ▪ 合法合规：确保你的请求符合法律和道德标准。 ▪ 伦理指南：在提示语中明确包含伦理考虑和指导原则。 伦理指南：在提示语中明确包含伦理考虑和指导原则。 ▪ 影响评估：要求AI评估其建议或输出的潜在社会影响。 AI伦理考虑要点 ▪ 隐私保护 ▪ 公平性和非歧视 ▪ 透明度和可解释性 ▪ 社会影响评估 ▪ 安全和滥用防范 提示语设计检查清单 ▪ 目标明确性 ▪ 信息充分性 ▪ 结构合理性 ▪ 语言中立性 ▪ 伦理合规性 ▪ 可验证性 ▪ 迭代空间 ▪ 输出格式 ▪ 难度适中 ▪ 多样性考虑

求： ① 保持时间复杂度不变； ② 使用numpy优化数组操作； ③ 输出带时间测试案例的完整代码。" 创造性需求 "设计一款智能家居产品，要求： ① 解决独居老人安全问题； ② 结合传感器网络和AI预警； ③ 提供三种不同技术路线的原型草图说明。" �实战技巧： 还要不要学提示语？ 提示语（Prompt）是用户输入给AI系统的指令或信息，用于 常见陷阱与应对：新手必知的提示语设计误区 忽视伦理边界陷阱：低估AI的伦理限制 陷阱症状： ▪ 要求AI生成有争议、不道德或非法内容。 ▪ 对AI的拒绝或警告感到困惑或不满。 ▪ 尝试绕过AI的安全机制。 ▪ 忽视AI输出可能带来的伦理影响。 应对策略： ▪ 了解界限：熟悉AI系统的基本伦理准则和限制。 ▪ 合法合规：确保你的请求符合法律和道德标准。 ▪ 伦理指南：在提示语中明确包含伦理考虑和指导原则。 伦理指南：在提示语中明确包含伦理考虑和指导原则。 ▪ 影响评估：要求AI评估其建议或输出的潜在社会影响。 AI伦理考虑要点 ▪ 隐私保护 ▪ 公平性和非歧视 ▪ 透明度和可解释性 ▪ 社会影响评估 ▪ 安全和滥用防范 提示语设计检查清单 ▪ 目标明确性 ▪ 信息充分性 ▪ 结构合理性 ▪ 语言中立性 ▪ 伦理合规性 ▪ 可验证性 ▪ 迭代空间 ▪ 输出格式 ▪ 难度适中 ▪ 多样性考虑

析复杂数据，帮助科学研究和工程领域发现 模式和规律，如天文学中的星系演化或地质 学中的地震数据分析。 • 多源数据融合分析：在智能交通和城市 规划中，o3mini有助于将不同来源的数据 （如交通流量、气象数据等）进行融合分析， 预测交通拥堵，为城市规划提供决策支持。 • 交互式数据可视化：在商业智能和数据 分析领域，o3mini可以将多维数据以可视化 的方式呈现，并支持用户进行交互式分析。 决了纯强化学习训练中可能出现的可读性差和语言混杂等问题。 第一阶段：推理 导向的强化学习 基 于 冷 启 动 数 据 微 调 后 的 基 础 模 型 ， 进 行 大 规 模 强 化 学 习 。 此 阶 段 引 入 语 言 一 致 性 奖 励 ， 优 化 模 型 在 数 学 、 编 程 等 结 构 化 任 务 中 的表现。 第二阶段：拒绝 采样与监督微调 通 过 拒 绝 采 样 从 R L 检 查 使其在学术研究和工业应 用中具有广泛的应用前景 可解释性和可靠性 需要采取措施确保模型的 可靠性和可解释性 社区参与 需要社区成员的共同参与 维护和更新，需要较高的 社区活跃度和凝聚力 安全性 需要采取措施确保模型的 安全性和隐私保护 模型 训练成本 调用成本 （输入/百万 tokens） 调用成本 （输出/百万 tokens） DeepSeek-V3 557.6万美元 0.14美元（缓存未命中）

Pika 闭源的图像编辑工具，专注于简化图像处理流程。 2.3.4 腾讯智影 腾讯推出的 AI 视频编辑工具，支持视频内容的智能编辑和增强。 2.3.5 度加创作工具 度加创作工具是百度开发的一站式 AI 内容生成平台，支持视频制作、文案生成 和数字人模型等功能。 2.3.6 Spike Studio 智能长剪短：一个专为商业视频制作设计的工具，可以将长视频智能剪辑为短 视频。 2.3.7 注意，先不要关闭这个窗口，稍后我们还需要再填入一些信息。 接下来，我们在自己的电脑上，创建一个存放知识库数据的文件夹，然后记 住这个文件夹路径，因为我们还要返回到刚才的上面的界面，找到 Volumes 输 入框，下图 35中 4 处，填入刚才的知识库路径，我的路径如下：/Users/zhen- guo/Documents/words 随后在 Container path 输入框中填入/var/lib/postgresql/data，下图 决于文档内容的多少，内容越多，导入时间就越长。 Figure 44: MaxKB 界面-知识库配置续 5.6 MaxKB 配置本地 llama3 MaxKB 网站内的应用界面中，按照如下所示，图 45点击系统设置，然后再进 入模型设置界面 37 Figure 45: MaxKB 配置 Ollama3 可以看到这里支持的大模型比较多，如图 46所示： Figure 46: MaxKB 配置 Ollama3 续 装完

面对全球大模型产业之争，要打赢「三大战役」 AGI之战 应用场景之战 大模型安全之战 • 探索超越人类的超级人工 智能AGI • 不仅是科技之争，更是国 运之争 • 不发展是最大的不安全， 发挥举国体制优势，打赢 追赶之战 • 大模型带来前所未有安全 挑战 • 外挂式传统安全手段难以 应对 • 应对模型安全新挑战，打 赢未雨绸缪之战 • 大模型是能力而非产品， 结合场景才能发挥价值 创业公司得到DeepSeek加持，创业者拥有便宜领先的大模型，迎来 机遇，带来“iPhone时刻” 中国变成AI渗透率最高的国家，率先实现AI工业革命 37政企、创业者必读 人人智能 万物智能 数转智改 未来产业 科学研究 安全 应用爆发的六大方向 38政企、创业者必读 DeepSeek的开源和低成本使得个人也能够拥有自有大模型，实现超能力， 成长为超级个体 DeepSeek六大应用方向之一 人人智能：人人都要用AI 从数年缩短到几分钟，解开了生物学密码 成功预测了地球存在的2亿种蛋白质结构 45政企、创业者必读  DeepSeek典型的四大安全问题：客户端安全、Agent安全、知识安全、模型安全  360提出「以模制模」新解法，应对DeepSeek安全问题 DeepSeek六大应用方向之六 AI安全：实现安全的「自动驾驶」 46政企、创业者必读 大模型的六大能力 47 基本 能力 业务 能力 创新 能力

是引入偏误信息后的意见动态变化。使用大模型模 拟多个虚拟代理，讨论“气候变暖”、“转基因食 品的安全性”和“疫苗的有效性和安全性”三个具 有科学共识的话题。 实验一在无偏误信息条件下，代理通过社交网络进 行每日对话，记录最终信念状态和信息传播路径。 实验二改变初始信念分布，探讨初始条件对结果的 影响。实验三引入10%代理发布的偏误信息，观察 其对信念动态的影响。50个代理人在30天内共生成 194699条对话。 "分析近三年新能源汽车销量数据(附CSV), 说 明 ： ① 增长趋势与政策关联性； ② 预测2025年市占率，需使用ARIMA模型并解释参数 选择依据。" "设计一款智能家居产品，要求： ① 解决独居老人安全问题； ② 结合传感器网络和Al预警； ③ 提供三种不同技术路线的原型草图说明。" 决策需求 实战技巧： 分析需求 实战技巧：

驱动万物知 Tensorflow deploy.so / deploy.json / deploy.bin | NNVM / Relay 让 Graph Optimization 站 站 Compile | libtvm_hexagon_runtime.so Alios TVM @ Hexagon DSP 。 Compute Kernel Offload to DSP ，loop 。， Performance is our focus next. We tvm.caLL_pure_intrin begin to do some work now. Such 本 站,可 as writing Tensorize to generate vec tvm,const(0， vrmpy instruction when we meet

智能治理倡议》，进一步加强人工智能标准化工作系统谋划， 加快构建满足人工智能产业高质量发展和“人工智能+”高水 平赋能需求的标准体系，夯实标准对推动技术进步、促进企 业发展、引领产业升级、保障产业安全的支撑作用，更好推 进人工智能赋能新型工业化，特制定本指南。 一、产业发展现状 人工智能是引领新一轮科技革命和产业变革的基础性 和战略性技术，正成为发展新质生产力的重要引擎，加速和 实体经 以习近平新时代中国特色社会主义思想为指导，全面贯 彻党的二十大和二十届二中全会精神，认真落实中央经济工 作会议和全国新型工业化推进大会部署要求，完整、准确、 全面贯彻新发展理念，统筹高质量发展和高水平安全，加快 赋能新型工业化，以抢抓人工智能产业发展先机为目标，完 善人工智能标准工作顶层设计，强化全产业链标准工作协 同，统筹推进标准的研究、制定、实施和国际化，为推动我 国人工智能产业高质量发展提供坚实的技术支撑。 企事业单位积极参与国际标准化活动，携手全球产业链上下 游企业共同制定国际标准。 三、建设思路 （一）人工智能标准体系结构 人工智能标准体系结构包括基础共性、基础支撑、关键 技术、智能产品与服务、赋能新型工业化、行业应用、安全 /治理等 7 个部分，如图 1 所示。其中，基础共性标准是人 工智能的基础性、框架性、总体性标准。基础支撑标准主要 规范数据、算力、算法等技术要求，为人工智能产业发展夯 实技术底座。关键技术标准主要规范人工智能文本、语音、

. 11 1 1 本地部署并运行 DeepSeek 1.1 为什么要在本地部署 DeepSeek 在本地搭建大模型（如 DeepSeek）具有多个重要的优势，比如： 1. 保护隐私与数据安全。数据不外传：本地运行模型可以完全避免数据上 传至云端，确保敏感信息不被第三方访问。 2. 可定制化与优化。支持微调（Fine-tuning）：可以根据特定业务需求对模 型进行微调，以适应特定任务，如行业术语、企业内部知识库等。 Tuning），如下图11所示。通用强化学习训练过 程后，使得 R1 不仅在推理任务中表现卓越，同时在非推理任务中也表现出 色。但由于其能力拓展至非推理类应用，因此在这些应用中引入了帮助性 （helpfulness）和安全性（safety）奖励模型（类似于 Llama 模型），以优化 与这些应用相关的提示处理能力。 DeepSeek-R1 是训练流程的终点，结合了 R1-Zero 的推理能力和通用强化 学习的任 DeepSeek-R1 中间推理模型生成：通过推理导向的强化学习（Reasoning-Oriented RL）， 直接生成高质量的推理数据（CoT 示例），减少人工标注依赖。通用强化学 习优化：基于帮助性和安全性奖励模型，优化推理与非推理任务表现，构建 通用性强的模型。最终，DeepSeek-R1 将 R1-Zero 的推理能力与通用强化 学习的适应能力相结合，成为一个兼具强推理能力和任务广泛适应性的高