LLM 技术报告 大语言模型（LLM） 技术作为人工智能领域的一项重要创 新在今年引起了广泛的关注。 LLM 是利用深度学习和大数据训练的人工智能系统，专门 设计来理解、生成和回应自然语言。这些模型通过分析大量 的文本数据来学习语言的结构和用法，从而能够执行各种语 言相关任务。以 GPT 系列为代表，LLM 以其在自然语言 处理领域的卓越表现，成为推动语言理解、生成和应用的引 擎。 LLM LLM 在多个领域都取得了令人瞩目的成就。在自然语言处 理领域，GPT 系列模型在文本生成、问答系统和对话生成 等任务中展现出色的性能。在知识图谱构建、智能助手开发 等方面，LLM 技术也发挥了关键作用。此外，它还在代码 生成、文本摘要、翻译等任务中展现了强大的通用性。 本报告从技术人视角出发，将深入探讨 LLM 技术的背景、 基础设施、应用现状，以及相关的工具和平台。 2 / 32 LLM Tech Tech Map  向量数据库  数据库向量支持  大模型框架、微调 (Fine Tuning)  大模型训练平台与工具 基础设施 LLM Agent  备案上线的中国大模型  知名大模型  知名大模型应用 大模型 算力 工具和平台  LLMOps  大模型聚合平台  开发工具 AI 编程  插件、IDE、终端  代码生成工具 编程语言 3 / 32

亿图项目管理 用户手册 1 目 录 亿图项目管理............................................................................................................................ 0 第一章 亿图项目管理简介................................ ...................................................................... 3 第二章 亿图项目管理的配置和帮助...................................................................................... 4 系统要求................ ................................................................................... 6 第四章 开始使用亿图项目管理软件...................................................................................... 9 开始一个项目.

1 1 /*使用电脑阅读，获得最佳体验 1 1 序 毫无疑问，开源开发者圈子来看，2023 年是大模型 LLM 年、生成式 AI GenAI 年。 一、 这自然要从 OpenAI 说起，前一年年底，ChatGPT 的横 空出世，标志着对话式 LLM 开始进入公众视野，为人们 提供了全新的人机交互方式。而 2023 年 3 月，同系 GPT-4.0 的发布则将 LLM 的规模和能力提升到一个新 Google 紧随其后推出 Bard，作为其首次亮相的对话 LLM 产品，无疑具有其里程碑意义，尽管它的首秀并不尽 如人意，车翻了又翻。 三、 Claude 2、PaLM 2、Llama 等模型与产品也展现了 LLM 在语言理解和多模态处理能力方面的探索，甚至 Claude 2 还一度被誉为实力可以硬刚 ChatGPT。而 Meta 开源的 Llama 2 更成为了 LLM 领域开源势力的典型代表，它的 广大的个人用户和创意行业提供了强有力的工具，彻底改变 了数字艺术内容的创作方式。同时，它们也引发了人工智能 在创作领域的伦理和法律讨论。LLM 杀进多媒体领域。往 后 DALL-E 3 模型升级、Adobe 产品整合 LLM 能力、 语音模型 whisper-3 更新、AI 虚拟主播创造等，都是在 这条路上的进一步发展。 五、 AI 编程方面，Copilot 可以根据开发者的代码提示自动补 全代码，大大

浙江省云计算和大数据省级企业研究院 CNCF 官方认可的 Kubernetes 服务提供商 CNCF KCSP认证 管理体系相关资质 ISO 27001 信息安全管理体系认证 ISO 2000 信息技术服务管理体系认证 ISO 9001 质量管理体系认证 CSA STAR Certification 2013 服务管理认证 CMMI (三级) 认证 大数据技术认证资质 信通院第十二批“大数据产品能力评测”（有数BI） 北京嗨学网教育科技股份有限公司 北京卡车之家信息技术股份有限公司 北京世纪好未来教育科技有限公司 北京新唐思创教育科技有限公司 北京直客通科技有限公司 北京自如信息科技有限公司 博时基金管理有限公司 百胜咨询（上海）有限公司 八维通科技有限公司 成都南博教育咨询有限公司 成都四方伟业股份有限公司 城云科技（中国）有限公司 德邦物流股份有限公司 东北证券股份有限公司 东方通信股份有限公司 申万宏源证券有限公司 深圳航天科创实业有限公司 深圳市丰宜科技有限公司 深圳市巨益科技开发有限公司 深圳越海全球供应链有限公司 深圳证券交易所 土巴兔集团股份有限公司 泰康资产管理有限责任公司 天启物联网科技（青岛）有限公司 网易传媒科技（北京）有限公司 网易严选科技有限公司 兴业银行股份有限公司 延长壳牌（四川）石油有限公司 云邸软件（上海）有限公司 壹链盟生态科技有限公司

观 点 编委会 21 | 2024 年中国开源模型：崛起与变革 26 | 开源模型未必更先进，但会更长久 30 | 大模型撞上“算力墙”，超级应用的探寻之路 36 | AI 的三岔路口：专业模型和个人模型 40 | 2024 年 AI 编程技术与工具发展综述 45 | RAG 的 2024：随需而变，从狂热到理性 51 | 大模型训练中的开源数据和算法：机遇及挑战 57 | 2024 开发者中间件工具生态 2024 年总结 66 | AI Agent 逐渐成为 AI 应用的核心架构 68 | 谈开源大模型的技术主权问题 72 | 2024:大模型背景下知识图谱的理性回归 77 | 人工智能与处理器芯片架构 89 | 大模型生成代码的安全与质量 93 | 2024 年 AI 大模型如何影响基础软件行业中 的「开发工具与环境」 98 | 推理中心化：构建未来 AI 基础设施的关键 Part 高瞻，Gitee AI 运营 设计：张琪 开发者是开源生态的重要支柱。 本章结合 、 的数据分 析，勾勒 2024 年中国开源开发者的整体画像趋势轮廓，主要 反映中国开源开发者使用开源大模型概况、开源项目/组织健康 度，以及中国开源社区的生态评估等情况。 Gitee 数据篇 本报告数据来源：2024年1月至2024年12月 Gitee及Gitee AI平台相关公开数据 4 / 111

2 针对人工智能应用安全风险 ………………………… 9 5. 综合治理措施 ……………………………………………… 10 6. 人工智能安全开发应用指引 ……………………………… 12 6.1 模型算法研发者安全开发指引 ……………………… 12 6.2 人工智能服务提供者安全指引 ……………………… 13 6.3 重点领域使用者安全应用指引 ……………………… 14 6.4 社会公众安全应用指引 措施。关注安全风险发展变化，快速动态精准调整治理措施，持续优化治理机 制和方式，对确需政府监管事项及时予以响应。 1.3 技管结合、协同应对。面向人工智能研发应用全过程，综合运用技术、 管理相结合的安全治理措施，防范应对不同类型安全风险。围绕人工智能研发 应用生态链，明确模型算法研发者、服务提供者、使用者等相关主体的安全责 任，有机发挥政府监管、行业自律、社会监督等治理机制作用。 1.4 开放合作、共治共享。在全球范围推动人工智能安全治理国际合作， 共享最佳实践，提倡建立开放性平台，通过跨学科、跨领域、跨地区、跨国界 的对话和合作，推动形成具有广泛共识的全球人工智能治理体系。 2. 人工智能安全治理框架构成 基于风险管理理念，本框架针对不同类型的人工智能安全风险，从技术、 管理两方面提出防范应对措施。同时，目前人工智能研发应用仍在快速发展， 安全风险的表现形式、影响程度、认识感知亦随之变化，防范应对措施也将相 应动态调整更新，需要各方共同对治理框架持续优化完善。

图层和蒙版 图层的管理 图层类型 Krita 的图层合成顺序 继承透明度和剪贴图层 蒙版和滤镜 选区 创建选区 编辑选区 移除选区 选区显示模式 全局选区蒙版 (绘制选区) 按照图层透明度建立选区 像素选区和矢量选区 选区工具的常用配套快捷键 Python 脚本编程 安装和管理 Python 插件 Krita Python 脚本编程入门 Krita Python 插件编写教程 标签管理 新建标签 exe)，你也可以自选 下载免安装包 (.zip) 版本。请留意：免安装包版本的 Krita 不提 供在 Windows 文件管理器内显示 KRA 文件缩略图的功能。如 需为免安装包的 Krita 启用缩略图显示功能，请在下载页面下载 并安装 Krita 的 Windows 文件管理器扩展程序。 你也可以从KDE 下载目录 [https://download.kde.org/stable/krita/] KDE 软件库来支持 其运行。根据发行版的具体情况，你可能需要安装 KDE 系统设置 模块后才能调整它图形界面的主题、字体等。 Nautilus/Nemo 文件缩略图扩展程序 KDE 的默认文件管理器 Dolphin 从 2016 年 4 月起已经可以显示 KRA 和 ORA 文件的缩略图了，但 Nautilus 及其衍生项目需要安装 额外的扩展程序。我们推荐使用 Moritz Molch 开发的

图层和蒙版 图层的管理 图层类型 Krita 的图层合成顺序 继承透明度和剪贴图层 蒙版和滤镜 选区 创建选区 编辑选区 移除选区 选区显示模式 全局选区蒙版 (绘制选区) 按照图层透明度建立选区 像素选区和矢量选区 选区工具的常用配套快捷键 Python 脚本编程 安装和管理 Python 插件 Krita Python 脚本编程入门 Krita Python 插件编写教程 标签管理 新建标签 exe)，你也可以自选下载免安 装包 (.zip) 版本。请留意：免安装包版本的 Krita 不提供在 Windows 文件 管理器内显示 KRA 文件缩略图的功能。如需为免安装包的 Krita 启用缩略 图显示功能，请在下载页面下载并安装 Krita 的 Windows 文件管理器扩展 程序。 你也可以从KDE 下载目录 [https://download.kde.org/stable/krita/]网站获取 它需要安装 KDE 软件库来支持其运行。根据发行版的具体情况，你可能需要 安装 KDE 系统设置模块后才能调整它图形界面的主题、字体等。 Nautilus/Nemo 文件缩略图扩展程序 KDE 的默认文件管理器 Dolphin 从 2016 年 4 月起已经可以显示 KRA 和 ORA 文件的缩略图了，但 Nautilus 及其衍生项目需要安装额外的扩展程序。我们推 荐使用 Moritz Molch 开发的

图层和蒙版 图层的管理 图层类型 Krita 的图层合成顺序 继承透明度和剪贴图层 蒙版和滤镜 选区 创建选区 编辑选区 移除选区 选区显示模式 全局选区蒙版 (绘制选区) 按照图层透明度建立选区 像素选区和矢量选区 选区工具的常用配套快捷键 Python 脚本编程 安装和管理 Python 插件 Krita Python 脚本编程入门 Krita Python 插件编写教程 标签管理 新建标签 exe)，你也可以自选下载免安装 包 (.zip) 版本。请留意：免安装包版本的 Krita 不提供在 Windows 文件管理 器内显示 KRA 文件缩略图的功能。如需为免安装包的 Krita 启用缩略图显 示功能，请在下载页面下载并安装 Krita 的 Windows 文件管理器扩展程 序。 你也可以从KDE 下载目录 [https://download.kde.org/stable/krita/]网站获取上述软件 它需要安装 KDE 软件库来支持其运行。根据发行版的具体情况，你可能需要 安装 KDE 系统设置模块后才能调整它图形界面的主题、字体等。 Nautilus/Nemo 文件缩略图扩展程序 KDE 的默认文件管理器 Dolphin 从 2016 年 4 月起已经可以显示 KRA 和 ORA 文件的缩略图了，但 Nautilus 及其衍生项目需要安装额外的扩展程序。我们推 荐使用 Moritz Molch 开发的

技术软件，拥有技术 门槛高、衍生场景复 杂等特点 中间件：不同系统和应用程序之间交互 与协作的桥梁 AI框架：具备构建和部署人工智能模型 的基础的全套开发工具 操作系统：是软硬件资源的资源管理者， 为用户与应用程序提供交互接口 数据库：通过对数据的访问与管理，支 持各种应用程序和业务的需求 编程语言：人与计算机交互的“语言”， 含编译器、基础编程语言、IED等 社区协作：鼓励各方在开放平台上协作 愿意为基于开源项目的 服务或商业版付费，期 望查看更完整、硬核的 代码。同样地，将自身 代码设置为收费，获得 收益 仅使用代码托管平台中 的基本权益，如代码审 查、测试、版本管理、 关联仓库等 享受平台增值服务，包 括关键指标统计、操作 日志管理、关键行为监 控，方便社区内开发者 的协同开发 15 ©2023.11 iResearch Inc. 量需要相应规模的人分工合作才能共同完 成设计。加之国内的操作系统起步较晚，需要更多的人才不断迭代整体性能水平。 操作系统生态适配需要大量人力：操作系统需要对软硬件生态适配、兼容，才能更好的发挥其资源管理者的作用。这种适配是双向 的，不同应用场景操作系统适配的生态也有所差异，随着场景的不断创新增加，生态适配性问题日渐复杂，仅靠单个操作系统发行 商进行生态匹配难以解决问题，需要开源集合更多的开发者力量进行帮助。