LLM 技术报告 大语言模型（LLM） 技术作为人工智能领域的一项重要创 新在今年引起了广泛的关注。 LLM 是利用深度学习和大数据训练的人工智能系统，专门 设计来理解、生成和回应自然语言。这些模型通过分析大量 的文本数据来学习语言的结构和用法，从而能够执行各种语 言相关任务。以 GPT 系列为代表，LLM 以其在自然语言 处理领域的卓越表现，成为推动语言理解、生成和应用的引 擎。 LLM 基础设施、应用现状，以及相关的工具和平台。 2 / 32 LLM Tech Map  向量数据库  数据库向量支持  大模型框架、微调 (Fine Tuning)  大模型训练平台与工具 基础设施 LLM Agent  备案上线的中国大模型  知名大模型  知名大模型应用 大模型 算力 工具和平台  LLMOps  大模型聚合平台  开发工具 AI 编程  插件、IDE、终端   代码生成工具 编程语言 3 / 32 LLM 技术背景 Transformer 架构和预训练与微调策略是 LLM 技术的核心，随着大规模语言数据集的可用性和计算能 力的提升，研究者们开始设计更大规模的神经网络，以提高对语言复杂性的理解。 GPT (Generative Pre-trained Transformer) 的提出标志着 LLM 技术的飞速发展，其预训练和微调的 方法为语言任

2023 年 6 ⽉ ⼈⼈可⽤的开源数据可视化分析⼯具 数据可视化对企业的价值 DataEase 开源项⽬介绍 DataEase 模板市场 DataEase 企业版介绍 1 2 3 4 可视化 原始数据 数据价值 数据孤岛 管理混乱 缺失分析 全业务场景 ⽤户⾏为管理 数据驾驶舱 数据→信息→价值 可以为企业运营 带来直接收益 数据可视化对企业的价值 能够快速、⾼效地 能够快速、⾼效地 提供体验良好的数 据展现⼿段，通过 分析数据资产的质 量，助⼒企业做出 更加准确的业务策 略。 前端业务⼈员 数据管理⼈员 企业管理者 IT 建设⼈员 提供多种数据使⽤ 模式，提供更为丰 富、安全的数据管 理⼿段，有助于企 业内部进⾏更为⼴ 泛的数据整合与分 析，并由此创造数 据价值。 能够合理评估、规 范 和 洞 察 企 业 信 息，洞悉企业发展 趋 势 ， 在 有 效 管 理 IT 投资和降本 投资和降本 增效的同时，挖掘 和发挥数据资产的 价值，辅助企业制 定发展决策。 能够规范数据处理 的过程、保证数据 质量、提升 IT 系 统建设效率、快速 ⽀撑业务部⻔的运 营发展需要，有效 激发 IT 建设的创 新、体现 IT 信息 的价值。 数据可视化对不同⼈员的价值 数据可视化⼯具更加强调⼈性化，功能趋于“傻⽠”式，强调易⽤、稳定、开放，协作和⾃助，关注信息数 据的整合与展示，能够通过⾃

2022 年 12 ⽉ ⼈⼈可⽤的开源数据可视化分析⼯具 数据可视化对企业的价值 DataEase 开源项⽬介绍 DataEase 模板市场 DataEase 企业版介绍 1 2 3 4 可视化 原始数据 数据价值 数据孤岛 管理混乱 缺失分析 全业务场景 ⽤户⾏为管理 数据驾驶舱 数据→信息→价值 可以为企业运营 带来直接收益 数据可视化对企业的价值 能够快速、⾼效地 能够快速、⾼效地 提供体验良好的数 据展现⼿段，通过 分析数据资产的质 量，助⼒企业做出 更加准确的业务策 略。 前端业务⼈员 数据管理⼈员 企业管理者 IT 建设⼈员 提供多种数据使⽤ 模式，提供更为丰 富、安全的数据管 理⼿段，有助于企 业内部进⾏更为⼴ 泛的数据整合与分 析，并由此创造数 据价值。 能够合理评估、规 范 和 洞 察 企 业 信 息，洞悉企业发展 趋 势 ， 在 有 效 管 理 IT 投资和降本 投资和降本 增效的同时，挖掘 和发挥数据资产的 价值，辅助企业制 定发展决策。 能够规范数据处理 的过程、保证数据 质量、提升 IT 系 统建设效率、快速 ⽀撑业务部⻔的运 营发展需要，有效 激发 IT 建设的创 新、体现 IT 信息 的价值。 数据可视化对不同⼈员的价值 数据可视化⼯具更加强调⼈性化，功能趋于“傻⽠”式，强调易⽤、稳定、开放，协作和⾃助，关注信息数 据的整合与展示，能够通过⾃

2022 年 6 ⽉ ⼈⼈可⽤的开源数据可视化分析⼯具 数据可视化对企业的价值 DataEase 开源项⽬介绍 DataEase 模板市场 DataEase 企业版介绍 1 2 3 4 可视化 原始数据 数据价值 数据孤岛 管理混乱 缺失分析 全业务场景 ⽤户⾏为管理 数据驾驶舱 数据→信息→价值 可以为企业运营 带来直接收益 数据可视化对企业的价值 能够快速、⾼效地 能够快速、⾼效地 提供体验良好的数 据展现⼿段，通过 分析数据资产的质 量，助⼒企业做出 更加准确的业务策 略。 前端业务⼈员 数据管理⼈员 企业管理者 IT 建设⼈员 提供多种数据使⽤ 模式，提供更为丰 富、安全的数据管 理⼿段，有助于企 业内部进⾏更为⼴ 泛的数据整合与分 析，并由此创造数 据价值。 能够合理评估、规 范 和 洞 察 企 业 信 息，洞悉企业发展 趋 势 ， 在 有 效 管 理 IT 投资和降本 投资和降本 增效的同时，挖掘 和发挥数据资产的 价值，辅助企业制 定发展决策。 能够规范数据处理 的过程、保证数据 质量、提升 IT 系 统建设效率、快速 ⽀撑业务部⻔的运 营发展需要，有效 激发 IT 建设的创 新、体现 IT 信息 的价值。 数据可视化对不同⼈员的价值 数据可视化⼯具更加强调⼈性化，功能趋于“傻⽠”式，强调易⽤、稳定、开放，协作和⾃助，关注信息数 据的整合与展示，能够通过⾃

2023 年 04 ⽉ ⼈⼈可⽤的开源数据可视化分析⼯具 数据可视化对企业的价值 DataEase 开源项⽬介绍 DataEase 模板市场 DataEase 企业版介绍 1 2 3 4 可视化 原始数据 数据价值 数据孤岛 管理混乱 缺失分析 全业务场景 ⽤户⾏为管理 数据驾驶舱 数据→信息→价值 可以为企业运营 带来直接收益 数据可视化对企业的价值 能够快速、⾼效地 能够快速、⾼效地 提供体验良好的数 据展现⼿段，通过 分析数据资产的质 量，助⼒企业做出 更加准确的业务策 略。 前端业务⼈员 数据管理⼈员 企业管理者 IT 建设⼈员 提供多种数据使⽤ 模式，提供更为丰 富、安全的数据管 理⼿段，有助于企 业内部进⾏更为⼴ 泛的数据整合与分 析，并由此创造数 据价值。 能够合理评估、规 范 和 洞 察 企 业 信 息，洞悉企业发展 趋 势 ， 在 有 效 管 理 IT 投资和降本 投资和降本 增效的同时，挖掘 和发挥数据资产的 价值，辅助企业制 定发展决策。 能够规范数据处理 的过程、保证数据 质量、提升 IT 系 统建设效率、快速 ⽀撑业务部⻔的运 营发展需要，有效 激发 IT 建设的创 新、体现 IT 信息 的价值。 数据可视化对不同⼈员的价值 数据可视化⼯具更加强调⼈性化，功能趋于“傻⽠”式，强调易⽤、稳定、开放，协作和⾃助，关注信息数 据的整合与展示，能够通过⾃

可以帮助用户快速分析业务数据并洞察其趋势，为企业的业 务改进与优化提供支持。 人 人 可 用 的 开源数据可视化分析工具 DataEase 的使命 他们都在用 DataEase 累计安装下载约 10 万次，50+ 技术支持群，广受各行各业用户的喜爱 DataEase 功能架构 数据源 DataEase 支持近 20 种常见的数据源，更多数据源支持持续增加中… 核心概念 数据集 通过 通过对表的数据进行关联与处理，用户可自由组合形成自有数据集合，供后续进行业务分析与图表制作使用 核心概念 数据大屏 支持图层管理与大屏尺寸设置 灵活在大型显示器上实时展示各种数据指标和信息，以帮助用户监测业务状况、分析趋势和做出实时决策 大屏制作 大屏展示 核心概念 仪表板 支持元素自动挤压占位，方便用户快速编辑，同时支持设置移动端布局 通常偏向于静态或定期更新，适用于日常分析与制作各项业务数据报告等 各项业务数据报告等 PC 端 移动端 核心概念 连接数据 数据准备 可视化分析 数据源 1 数据源 2 数据源 3 数据源 4 组合及处理数据 数据集 1 数据集 2 数据集 3 数据集 4 仪表板创建与管理 数据大屏创建与管理 数据图表制作 数据实时分析 数据大屏展示 收藏导出分享 DataEase 工作流程 DataEase 支持丰富的数据源连接，能够有

可以帮助用户快速分析业务数据并洞察其趋势，为企业的业 务改进与优化提供支持。 人 人 可 用 的 开源数据可视化分析工具 DataEase 的使命 他们都在用 DataEase 累计安装下载约 10 万次，50+ 技术支持群，广受各行各业用户的喜爱 DataEase 功能架构 数据源 DataEase 支持近 20 种常见的数据源，更多数据源支持持续增加中… 核心概念 数据集 通过 通过对表的数据进行关联与处理，用户可自由组合形成自有数据集合，供后续进行业务分析与图表制作使用 核心概念 数据大屏 支持图层管理与大屏尺寸设置 灵活在大型显示器上实时展示各种数据指标和信息，以帮助用户监测业务状况、分析趋势和做出实时决策 大屏制作 大屏展示 核心概念 仪表板 支持元素自动挤压占位，方便用户快速编辑，同时支持设置移动端布局 通常偏向于静态或定期更新，适用于日常分析与制作各项业务数据报告等 各项业务数据报告等 PC 端 移动端 核心概念 连接数据 数据准备 可视化分析 数据源 1 数据源 2 数据源 3 数据源 4 组合及处理数据 数据集 1 数据集 2 数据集 3 数据集 4 仪表板创建与管理 数据大屏创建与管理 数据图表制作 数据实时分析 数据大屏展示 收藏导出分享 DataEase 工作流程 DataEase 支持丰富的数据源连接，能够有

TOP101-2024 大 模 型 观 点 编委会 21 | 2024 年中国开源模型：崛起与变革 26 | 开源模型未必更先进，但会更长久 30 | 大模型撞上“算力墙”，超级应用的探寻之路 36 | AI 的三岔路口：专业模型和个人模型 40 | 2024 年 AI 编程技术与工具发展综述 45 | RAG 的 2024：随需而变，从狂热到理性 51 | 大模型训练中的开源数据和算法：机遇及挑战 AI 编程工具的进化 62 | AI 开发者中间件工具生态 2024 年总结 66 | AI Agent 逐渐成为 AI 应用的核心架构 68 | 谈开源大模型的技术主权问题 72 | 2024:大模型背景下知识图谱的理性回归 77 | 人工智能与处理器芯片架构 89 | 大模型生成代码的安全与质量 93 | 2024 年 AI 大模型如何影响基础软件行业中 的「开发工具与环境」 98 98 | 推理中心化：构建未来 AI 基础设施的关键 Part 1：中国开源开发者生态数据 04 | Gitee 数据篇 Part 3：国内 GenAI 生态高亮瞬间 104 | 中国 GenAI 消费应用人气榜 Top10 15 | OSS Compass Insight 106 | AI 创新应用开发大赛获奖作品 局长，OSCHINA 副主编 肖滢，OSCHINA 副主编 李泽辰，Gitee

1 1 /*使用电脑阅读，获得最佳体验 1 1 序 毫无疑问，开源开发者圈子来看，2023 年是大模型 LLM 年、生成式 AI GenAI 年。 一、 这自然要从 OpenAI 说起，前一年年底，ChatGPT 的横 空出世，标志着对话式 LLM 开始进入公众视野，为人们 提供了全新的人机交互方式。而 2023 年 3 月，同系 GPT-4.0 的发布则将 LLM 的规模和能力提升到一个新 Gemini 与“磁力链开源” Mistral 8x7B 两大神作，也凭借不输 GPT-4 的实力，将 LLM 狂 潮卷到天际。 四、 Stable Diffusion 和 Midjourney 这两大图像生成系统 的出现，极大地拓展和加速了 LLM 在计算机视觉领域的应 用，它们突破了传统图像生成方式的局限，仅需要用户提供 文字描述，就可以生成高质量的数字艺术作品。它们的图像 生成质量、样 论，但它已经实实在在将 LLM 拉进了编程应用领域。 六、 LangChain 的出现，实现了 LLM 之间的链式交互，使多 个 LLM 模型串联工作，发挥各自的优势，并且可以将 LLM 模型与外部数据源进行连接，产生更强大的语言理解 和生成效果。这开启了 LLM 集成应用的新方向，并诞生了 一个新的细分领域“LLMOps”。 七、 “提示词工程”，这是 LLM 直接催生出来的新“学科”，

iresearch.com.cn 基础软件开源界限划分 操作系统、数据库、中间件、AI框架底层代码按规范进行共享与协作 本篇报告研究的基础软件开源范围，是指研究“开源”中“基础软件”板块的情况。开源过程中，参与者可以共享、协作完成开发， 正好与基础软件庞大的开发量需求相契合。这种契合性促进了基础软件良性、可持续性发展，并因为基础软件对上层软件生态有支 撑作用，基础软件的开源价值远超过单一产品的范畴，其意义惠及软件产业全领域。 义惠及软件产业全领域。 注释：由于暂无国内厂商主导的开源编程语言，因而不列入本报告研究范围。 来源：根据专家访谈、公开资料，由艾瑞咨询研究院自主研究及绘制。 对于这四类基础软件（操作系统、数据库、AI框架、中间件），其编写者将实现功能的代码按照一定的开源规范 开放，任何人可以查看、使用、贡献，同时，使用者也要遵循一定的开源规范。 基础软件开源范畴界定 国内基础软件开源界定 基础软件 具备能衍生出并支撑 杂等特点 中间件：不同系统和应用程序之间交互 与协作的桥梁 AI框架：具备构建和部署人工智能模型 的基础的全套开发工具 操作系统：是软硬件资源的资源管理者， 为用户与应用程序提供交互接口 数据库：通过对数据的访问与管理，支 持各种应用程序和业务的需求 编程语言：人与计算机交互的“语言”， 含编译器、基础编程语言、IED等 社区协作：鼓励各方在开放平台上协作 贡献，推动开源内容的发展 创新改进：通过资源共享与协作共生，