全国网络安全标准化技术委员会 2024年9月 人工智能 安全治理框架1. 人工智能安全治理原则 …………………………………… 1 2. 人工智能安全治理框架构成 ……………………………… 2 3. 人工智能安全风险分类 …………………………………… 3 3.1 人工智能内生安全风险 ……………………………… 3 3.2 人工智能应用安全风险 ……………………………… 5 4. 技术应对措施 技术应对措施 ……………………………………………… 7 4.1 针对人工智能内生安全风险 ………………………… 7 4.2 针对人工智能应用安全风险 ………………………… 9 5. 综合治理措施 ……………………………………………… 10 6. 人工智能安全开发应用指引 ……………………………… 12 6.1 模型算法研发者安全开发指引 ……………………… 12 6.2 人工智能服务提供者安全指引 目 录- 1 - 人工智能安全治理框架 人工智能是人类发展新领域，给世界带来巨大机遇，也带来各类风险挑战。 落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，为 推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工 智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险，制定本 框架。 1. 人工智能安全治理原则 秉持共同、综合、合作、可持续的安全观，坚持发展和安全并重，以促

七“特” AIGC评测：2个国家级项目+1套自动化测评系统 AIGC评测 指标体系 共计26个细分指标 两项国家级项目： • 2023国家自然科学基金青年项目“面向人工智能生成内 容的风险识别与治理策略研究” • 2023国家资助博士后研究人员计划B档“AIGC意识形态 安全评估” 创新的火花：如何设计出独具匠心的提示语？ 抽象—具体循环法：在不同抽象层次间灵活切换 运用类比与隐喻：增强创意表达 社交互动 • 个性化挑战 • 即时反馈 （4）相似性分析： • 游戏玩家 <-> 学生 • 游戏关卡 <-> 课程单元 • 游戏技能提升 <-> 知识获取 • 游戏社交系统 <-> 学习社区 源域识别 知识抽象 目标域映射 知识重构 应用与验证 随机组合机制（RCM）：打破常规思维 �RCM的理论基础： RCM建立在创造性思维中的“强制联系”和“创意综合”理论基础上，将这些理论应用到AI内容生成领域，提出了 元素库构建： ▪ 咖啡相关：豆种、烘焙、萃取、风味 ▪ 文化艺术：音乐、绘画、舞蹈、文学 ▪ 科技：AR、VR、AI、物联网 ▪ 环保：可持续、回收、碳中和、生物降解 ▪ 社交：社交媒体、直播、社区、互动 创建包含多样化元素的知识库 从元素库中随机选择元素 强制联系 创意整合 将随机选择的元素强制性地联系起来 基于随机组合生成新的创意概念 极端假设策略（EHS）：突破思维界限 �EHS的理论基础：

七“特” AIGC评测：2个国家级项目+1套自动化测评系统 AIGC评测 指标体系 共计26个细分指标 两项国家级项目： • 2023国家自然科学基金青年项目“面向人工智能生成内 容的风险识别与治理策略研究” • 2023国家资助博士后研究人员计划B档“AIGC意识形态 安全评估” 创新的火花：如何设计出独具匠心的提示语？ 抽象—具体循环法：在不同抽象层次间灵活切换 运用类比与隐喻：增强创意表达 社交互动 • 个性化挑战 • 即时反馈 （4）相似性分析： • 游戏玩家 <-> 学生 • 游戏关卡 <-> 课程单元 • 游戏技能提升 <-> 知识获取 • 游戏社交系统 <-> 学习社区 源域识别 知识抽象 目标域映射 知识重构 应用与验证 随机组合机制（RCM）：打破常规思维 �RCM的理论基础： RCM建立在创造性思维中的“强制联系”和“创意综合”理论基础上，将这些理论应用到AI内容生成领域，提出了 元素库构建： ▪ 咖啡相关：豆种、烘焙、萃取、风味 ▪ 文化艺术：音乐、绘画、舞蹈、文学 ▪ 科技：AR、VR、AI、物联网 ▪ 环保：可持续、回收、碳中和、生物降解 ▪ 社交：社交媒体、直播、社区、互动 创建包含多样化元素的知识库 从元素库中随机选择元素 强制联系 创意整合 将随机选择的元素强制性地联系起来 基于随机组合生成新的创意概念 极端假设策略（EHS）：突破思维界限 �EHS的理论基础：

1 国家人工智能产业综合标准化体系建设指南 （2024版） 为深入贯彻落实党中央、国务院关于加快发展人工智能 的部署要求，贯彻落实《国家标准化发展纲要》《全球人工 智能治理倡议》，进一步加强人工智能标准化工作系统谋划， 加快构建满足人工智能产业高质量发展和“人工智能+”高水 平赋能需求的标准体系，夯实标准对推动技术进步、促进企 业发展、引领产业升级、保障产业安全的支撑作用，更好推 产业链上下 游企业共同制定国际标准。 三、建设思路 （一）人工智能标准体系结构 人工智能标准体系结构包括基础共性、基础支撑、关键 技术、智能产品与服务、赋能新型工业化、行业应用、安全 /治理等 7 个部分，如图 1 所示。其中，基础共性标准是人 工智能的基础性、框架性、总体性标准。基础支撑标准主要 规范数据、算力、算法等技术要求，为人工智能产业发展夯 实技术底座。关键技术标准主要规范人工智能文本、语音、 工智能赋能行业应用，推动产业智能化发展提供技术保障。 安全/治理标准主要规范人工智能安全、治理等要求，为人 4 工智能产业发展提供安全保障。 图 1 人工智能标准体系结构图 （二）人工智能标准体系框架 人工智能标准体系框架主要由基础共性、基础支撑、关 键技术、智能产品与服务、赋能新型工业化、行业应用、安 全/治理等 7 个部分组成，如图 2 所示。 5 图 2 人工智能标准体系框架图

如何使用DeepSeek开发AI应用？ 如何使用DeepSeek开发AI应用？ 如何使用DeepSeek开发AI应用？ 如何使用DeepSeek进行市场调查？ 如何使用DeepSeek进行市场调查？ 经济发展 创新活力 社会治理 基础设施 宜居环境 如何使用DeepSeek进行市场调查？ 60.00% 70.00% 80.00% 90.00% 杭州 成都 无锡 青岛 宁波 广州 合肥 嘉兴 绍兴 南京 武汉 大连

实验二改变初始信念分布，探讨初始条件对结果的 影响。实验三引入10%代理发布的偏误信息，观察 其对信念动态的影响。50个代理人在30天内共生成 194699条对话。 50个智能体的在线社区模拟仿真 场景3：多智能体在线社区模拟 p 为了观测偏误信息加入后50个代理意 见动态的具体呈现，研究通过依存关系 构造三个科学共识的语义图谱，并和无 偏误状态进行对比。对每个科学共识议 题，选择图中最有代表性的40个实体 词宾语）、attr（属性）、ROOT（根 依存关系）。 p 偏误信息的引入导致讨论变得更加频繁， 意见分布更加多样化，表明确认偏见和 信息噪声对意见动态的显著影响。 50个智能体的在线社区模拟仿真 场景3：多智能体在线社区模拟 场景4：无人区研究+快速出成果 素数位数关系理论及其思考—— 邵宇捷 各思路具体化及 Python验算 人类提供已有参考案例（拉马努金数、 阿姆斯特朗数等） AI提出可能思路 “生活太累？DeepSeek帮你‘减负’到家！ 场景1：职场妈妈的晨间战役（日常琐事管理） 优先级排序（幼儿园事务＞会议准备＞生活采购） 生成最优动线：地图标注幼儿园/干洗店/超市与公司的位置关系 即时服务对接： ✓ 调用社区跑腿API下单手工材料配送 ✓ 接入干洗店智能柜系统预约取件码 ✓ 生鲜平台比价后自动补货牛奶 ③ 会议准备： 自动提取上周销售数据生成可视化图表框架 调取历史报告模板进行语义重组 ④ 风险预警：

研究者可以根据自身需求 进行二次开发和优化 可定制性 允许研究者根据特定应用 场景进行定制，从而更好 地满足需求 社区支持 使其在学术研究和工业应 用中具有广泛的应用前景 可解释性和可靠性 需要采取措施确保模型的 可靠性和可解释性 社区参与 需要社区成员的共同参与 维护和更新，需要较高的 社区活跃度和凝聚力 安全性 需要采取措施确保模型的 安全性和隐私保护 模型 训练成本 调用成本 （输入/百万 全模态能力行业领先； 实时交互响应快；商业化成熟度高 训练成本高；运营成本高 数据隐私争议大 Meta Llama 3.2 开源大语言模型 多语言支持、内容生成、 信息检索 完全开源免费；社区支持广泛； 多语言基础能力均衡 多模态功能缺失； 长文本生成质量不稳定 Anthropic Claude-3.5 闭源推理模型 对话系统、内容生成、 逻辑推理 对话逻辑连贯性强； 伦理安全性高；文档分析能力突出

客户需求 评估阶段：客户用于评估芯片的网络，caffe 模型占很大比重。 竞品已支持 caffe 前端 当前各大芯片厂商的部署工具大多数都支持，支持 caffe 前端有利于提高竞争力。 开源社区 存量的开源 caffe 网络模型众多，TVM 直接支持 caffe 让大家更方便尝试 caffe 资源。绝赞招聘中 当前进度 无 caffe 依赖 from_caffe 直接导入 caffe priorbox绝赞招聘中 未来 命令行工具 将 caffe 模型转换的功能，通过一组命令行工具提供，命令行工具支持 windows / linux 平台。 支持更多 caffe op / net 随着客户需求和社区发展，提供更多的 caffe 分支变种的 op / net 支持。绝赞招聘中 THANKS

与企业业务流程、组织、系统打通 L3 L5 L4 多个Agent的相互协作 L6 64政企、创业者必读 示例：斯坦福医疗预约中心的AI化改造 智能体应用案例：定义角色、分解流程 社区医生手工填写患者病历 并传真到斯坦福预约中心 传统人工预约流程 AI辅助预约流程 传真识别智能体 接到传真，人工查看病历 利用多模态大模型，识别传真病历， 并自动录入数据库 数字人打电话给患者，预约就诊时间 大模型查询保险知识库，自动生成理赔申请， 提交保险公司 就诊预约智能体 保险报告生成智能体 人工打电话给患者，预约就诊时间 病人到医院就诊 人工填写理赔申请，提交保险公司 病人到医院就诊 社区医生将患者病历传真到斯坦福预约中心 65政企、创业者必读 2023年是大模型之年 2024年是专业大模型之年 2025年是AI应用之年 AI应用= DeepSeek+场景+智能体+知识库

或 TPU 等硬件。这类工具可以显著提高训练和推理的速度， 使得处理大规模数据集和复杂模型变得可行。NVIDIA CUDA 和 Google Cloud TPU 均是此类工具。 这类工具通常由开源社区支持和维护，提供了灵活、可扩展的工具和 库来构建和训练大型机器学习模型，如 TensorFlow 和 PyTorch 和 Hugging Face Transformers 等。 TensorFlow