全国网络安全标准化技术委员会 2024年9月 人工智能 安全治理框架1. 人工智能安全治理原则 …………………………………… 1 2. 人工智能安全治理框架构成 ……………………………… 2 3. 人工智能安全风险分类 …………………………………… 3 3.1 人工智能内生安全风险 ……………………………… 3 3.2 人工智能应用安全风险 ……………………………… 5 4. 技术应对措施 ……………………………… 15 目 录- 1 - 人工智能安全治理框架 人工智能是人类发展新领域，给世界带来巨大机遇，也带来各类风险挑战。 落实《全球人工智能治理倡议》，遵循“以人为本、智能向善”的发展方向，为 推动政府、国际组织、企业、科研院所、民间机构和社会公众等各方，就人工 智能安全治理达成共识、协调一致，有效防范化解人工智能安全风险，制定本 框架。 1. 人工智能安全治理原则 秉持共同、综合 包容审慎、确保安全。鼓励发展创新，对人工智能研发及应用采取 包容态度。严守安全底线，对危害国家安全、社会公共利益、公众合法权益的 风险及时采取措施。 人工智能安全治理框架 （V1.0）- 2 - 人工智能安全治理框架 1.2 风险导向、敏捷治理。密切跟踪人工智能研发及应用趋势，从人工 智能技术自身、人工智能应用两方面分析梳理安全风险，提出针对性防范应对 措施。关注安全风险发展变化，

用 GIMP 图像编辑软件设计简单照片背景贺卡 用 GIMP 图像编辑软件 设计简单照片背景贺卡 二零一六年七月 1 用 GIMP 图像编辑软件设计简单照片背景贺卡 内容目录 前言...........................................................................3 GIMP 图像编辑软件的下载和安装 ................................27 四 贺卡设计需要注意的一些问题.................................................28 2 用 GIMP 图像编辑软件设计简单照片背景贺卡 前言 贺卡设计是平面设计的一种，虽然设计一款精美的贺卡可能需要一定的艺术常识和电脑知识， 但是做一个简单大方好看的贺卡其 电脑的 人也完全可以做出美观大方的贺卡。本文将从头介绍如何用 GIMP 图像处理软件来设计一款 简单的照片背景的贺卡。 一款贺卡，不论设计有多复杂，其实最终就是由两部分组成：图，文。“图”就是贺卡的 背景加上一些图案，表达出贺卡的主题，比如庆祝，思念，祝贺等。“文”就是贺卡作者想 表达的文字，祝辞，落款等。设计的时候，其实只要做到图精美，文清晰，图文协调，就是 一款不错的贺卡了。 本文所介绍的方法

一汽解放汽车有限公司 中国工商银行股份有限公司 中国南方电网有限责任公司 浙江邦盛科技有限公司 浙江大华技术股份有限公司 浙江古茗科技有限公司 浙江壳牌燃油有限公司 浙江日报传媒有限公司 浙江省交通规划设计研究院有限公司 浙江数链科技有限公司 浙江绍兴瑞丰农村商业银行股份有限公司 浙江绍兴苏泊尔家居用品有限公司 浙江省银行业协会 浙江中控技术股份有限公司 招联消费金融有限公司 中山大学附属第七医院（深圳） （部分签约客户，按照A-Z顺序排列，服务不分先后） COSTOMER 客户名录 08 网易数帆轻舟团队基于云原生技术栈协助德邦快递建立了统一 的 DevOps 体系，通过轻量容器平台和 CICD 研发流水线，实现 了业务快速上线，按需扩容。同时通过轻舟微服务平台实现了服 务的统一治理，保障业务的稳定运行。 信息科技部 罗总 德邦快递 大数据技术的应用，对农业企业的“互联网 +”进程有重大意义。 网易数 管理提供数据监控、预警、决策支持，进一步提升现代农业企业 的科技含量和企业竞争力。 温氏集团 IT 负责人 温先生 温氏集团 网易数帆轻舟团队协助我们构建了大华统一产品服务中心，大幅 提升了不同产品线的信息交互效率。轻舟云原生平台使我们统一 了企业信息化标准，降低了运维难度，并提升了平台的稳定性和可 扩展性，改善了用户体验。后续将继续基于轻舟进行共享能力中 心的沉淀，加速前端业务需求的响应速度，构建企业信息化服务

Compass Insight 106 | AI 创新应用开发大赛获奖作品 局长，OSCHINA 副主编 肖滢，OSCHINA 副主编 李泽辰，Gitee 主编 高瞻，Gitee AI 运营 设计：张琪 开发者是开源生态的重要支柱。 本章结合 、 的数据分 析，勾勒 2024 年中国开源开发者的整体画像趋势轮廓，主要 反映中国开源开发者使用开源大模型概况、开源项目/组织健康 度，以及中国开源社区的生态评估等情况。 中国开源开发者报告重点聚焦大模型，本章节以大模 型 LLM 开发技术栈作为切入点，将深入探讨以下中国 AI 大模型领域的代表性开源项目社区。 这些开源项目社区覆盖了深度学习框架、向量数据库、AI辅 助编程、LLM 应用开发框架、模型微调、推理优化、LLM Agent，以及检索增强生成（RAG）等多个关键技术栈。 为了更全面客观地展示中国大模型 LLM 开发技术栈的开源 社区生态，我们使用了 对开源社区的生态评 开发基础设施，本部分图表 中的开发框架、向量数据库、 开发平台、大模型均表现出 色，代表着它们的代码提交 频率、参与者、代码合并比 率等协作开发工作保持着较 高的水平。 17 / 111 OSS Compass Insight 本部分图表仅用于数据展示，不涉及先后排名 稳健性-活跃度 作为 AI 开发生态中的关键组 成部分，本部分图表中的开发 框架、大模型及相关工具在活 跃度的表现各有千秋。

www.iresearch.com.cn 基础软件开源界限划分 操作系统、数据库、中间件、AI框架底层代码按规范进行共享与协作 本篇报告研究的基础软件开源范围，是指研究“开源”中“基础软件”板块的情况。开源过程中，参与者可以共享、协作完成开发， 正好与基础软件庞大的开发量需求相契合。这种契合性 对于这四类基础软件（操作系统、数据库、AI框架、中间件），其编写者将实现功能的代码按照一定的开源规范 开放，任何人可以查看、使用、贡献，同时，使用者也要遵循一定的开源规范。 基础软件开源范畴界定 国内基础软件开源界定 基础软件 具备能衍生出并支撑 多个技术簇的一类根 技术软件，拥有技术 门槛高、衍生场景复 杂等特点 中间件：不同系统和应用程序之间交互 与协作的桥梁 AI框架：具备构建和部署人工智能模型 www.iresearch.com.cn 中国基础软件开源产业主要参与者图谱 来源：根据专家访谈、公开资料，由艾瑞咨询研究院自主研究及绘制。 中间件 操作系统 AI框架 数据库 开源技术论坛 开源产业联盟 开源组织 基础软件开源项目 开源基金会 开源社区评估机构 X-Deep Learning 开源代码托管平台 11 ©2023.11 iResearch

图片中的文字内容。 文本生成 表格、列表生成（如日程安排、菜谱） 代码注释、文档撰写 结构化生成 文章/故事/诗歌写作 营销文案、广告语生成 社交媒体内容（如推文、帖子） 剧本或对话设计 文本创作 长文本摘要（论文、报告） 文本简化（降低复杂度） 多语言翻译与本地化 摘要与改写 02 01 03 文本生成 自然语言理解与分析 知识推理 知识推理 逻辑问题解答（数学、常识推 依赖提示语补偿能力短板（如要求分 步思考、提供示例）。 关键原则 3 2 1 模型选择 • 优先根据任务类型而非模型热度选择（如数学任务选推理模型，创意任务选通用 模型）。 提示语设计 • 推理模型：简洁指令，聚焦目标，信任其内化能力。（“要什么直接说”）。 • 通用模型：结构化、补偿性引导（“缺什么补什么”）。 避免误区 • 不要对推理模型使用“启发式”提示（如角色扮演），可能干扰其逻辑主线。 复杂问题、需模型自主 推理 “我需要优化用户登录流程， 请分析当前瓶颈并提出3种方 案。” ✅ 激发模型深层推理 ❌ 需清晰定义需求边界 混合模式 结合需求描述与关键 约束条件 平衡灵活性与可控性 “设计一个杭州三日游计划， 要求包含西湖和灵隐寺，且 预算控制在2000元内。” ✅ 兼顾目标与细节 ❌ 需避免过度约束 启发式提问 通过提问引导模型主 动思考（如“为什 么”“如何”）

图片中的文字内容。 文本生成 表格、列表生成（如日程安排、菜谱） 代码注释、文档撰写 结构化生成 文章/故事/诗歌写作 营销文案、广告语生成 社交媒体内容（如推文、帖子） 剧本或对话设计 文本创作 长文本摘要（论文、报告） 文本简化（降低复杂度） 多语言翻译与本地化 摘要与改写 02 01 03 文本生成 自然语言理解与分析 知识推理 知识推理 逻辑问题解答（数学、常识推 依赖提示语补偿能力短板（如要求分 步思考、提供示例）。 关键原则 3 2 1 模型选择 • 优先根据任务类型而非模型热度选择（如数学任务选推理模型，创意任务选通用 模型）。 提示语设计 • 推理模型：简洁指令，聚焦目标，信任其内化能力。（“要什么直接说”）。 • 通用模型：结构化、补偿性引导（“缺什么补什么”）。 避免误区 • 不要对推理模型使用“启发式”提示（如角色扮演），可能干扰其逻辑主线。 复杂问题、需模型自主 推理 “我需要优化用户登录流程， 请分析当前瓶颈并提出3种方 案。” ✅ 激发模型深层推理 ❌ 需清晰定义需求边界 混合模式 结合需求描述与关键 约束条件 平衡灵活性与可控性 “设计一个杭州三日游计划， 要求包含西湖和灵隐寺，且 预算控制在2000元内。” ✅ 兼顾目标与细节 ❌ 需避免过度约束 启发式提问 通过提问引导模型主 动思考（如“为什 么”“如何”）

快速迭代发展，诸如 Dify.AI 的 LLMOps、Milvus 的向量 数据库、CodeGeeX 与 Comate 的 AI 编程、对 LLM Prompt 的研究、OneFlow 的深度学习框架。 值得一提的还有华为的盘古大模型，其中盘古气象大模型是 首个精度超过传统数值预报方法的 AI 模型，速度相比传统 数值预报提速 10000 倍以上，能够提供全球气象秒级预 报。盘古大模型的研究成果在国际顶级学术期刊《自然》正 LLM 种种“不成熟”中我最关切的，我会 说“LLM 解决方案”。 当前 LLM 行业面临的一个大方向上的问题是：还没有很好 地从“解决方案”的角度去做技术或者应用。 所谓“解决方案”，是指在设计和开发 LLM 技术和应用时， 首先明确用户的目标，然后围绕目标进行技术研发和应用设 计，并且它带有“整体解决”、“解决的不只是某个单点问题” 的含义。只有这样，才能确保 LLM 能够真正解决实际问题， 场面”。 1 1 目录 一、开源开发者事件回顾 三、中国开发者开源新动向 二、2023 LLM 技术报告  46 | 向量数据库  47 | 数据库向量支持  48 | 大模型框架、微调  51 | 大模型训练平台与工具  53 | 编程语言  57 | 知名大模型  58 | 备案上线的中国大模型  21 | 硬核发版  26 | 热门话题  33

近日，Envoy Gateway v0.4发布，版本特性更新 如下： • 升级网关API依赖，升级至Gateway API v0.6.2； • 支持通过Helm完成Envoy Gateway安装； • 添加构建初始框架用于扩展Envoy Gateway； • 添加对基于IP子网的速率限制的支持； • 支持自定义Envoy代理引导配置、Envoy代理 镜像和服务配置注释、资源和安全上下文设 置等； • 添加EDS支持（Endpoint 置文件结构。此外，Contour引入全新入口 API HTTPProxy，该API通过自定义资源定义 （CRD）来实现。其主要目标是扩展Ingress API的功能，以提供更丰富的用户体验并解决 原始设计中的局限性。 近日，Contour v1.25.0发布，版本特性更新 如下： • Contour的HTTPProxy支持配置Envoy的 RBAC过滤器的功能，以根据IP地址允许或 拒绝请求； • 可行的 情况下，优先选择采用开源软件。 最近，OpenTalk在德国公共管理开源代码仓库OpenCoDE.de中依据EUPL（欧洲 公共许可证）共享了其代码。在此之前，他们对解决方案进行了全面重新设计，以 满足所需的机密性和安全性要求。OpenTalk首席执行官详细地演示了更多专门为 公共管理部门使用该解决方案而开发的各种功能，包括法律合规性、可扩展性等。 案例分享：全国首例GPL抗辩获得支持案i

LLM 技术报告 大语言模型（LLM） 技术作为人工智能领域的一项重要创 新在今年引起了广泛的关注。 LLM 是利用深度学习和大数据训练的人工智能系统，专门 设计来理解、生成和回应自然语言。这些模型通过分析大量 的文本数据来学习语言的结构和用法，从而能够执行各种语 言相关任务。以 GPT 系列为代表，LLM 以其在自然语言 处理领域的卓越表现，成为推动语言理解、生成和应用的引 擎。 LLM 本报告从技术人视角出发，将深入探讨 LLM 技术的背景、 基础设施、应用现状，以及相关的工具和平台。 2 / 32 LLM Tech Map  向量数据库  数据库向量支持  大模型框架、微调 (Fine Tuning)  大模型训练平台与工具 基础设施 LLM Agent  备案上线的中国大模型  知名大模型  知名大模型应用 大模型 算力 工具和平台  LLMOps  代码生成工具 编程语言 3 / 32 LLM 技术背景 Transformer 架构和预训练与微调策略是 LLM 技术的核心，随着大规模语言数据集的可用性和计算能 力的提升，研究者们开始设计更大规模的神经网络，以提高对语言复杂性的理解。 GPT (Generative Pre-trained Transformer) 的提出标志着 LLM 技术的飞速发展，其预训练和微调的 方法为语言