#html_theme = 'alabaster' html_theme = 'sphinx_rtd_theme’ ``` 在Makefile同级目录运行  make html 生成静态web网页  make latexpdf 生成PDF 文件 我的Sphinx文档 http://pymol.chenzhaoqiang.com/ 我的Sphinx文档 微信公众号 PythonPerl

的台阶，为 LLM 的广泛应用奠定了基础。再之后的 11 月份，OpenAI 再发力，GPTs 的到来，“用户自定义 ChatGPT”的能力，更是让世人领略了 OpenAI 作为 LLM 一哥的宏大叙事能力与强劲技术实力。 二、 New Bing（Bing AI）代表了微软在 LLM 领域的野心和 决心，它首次把当时世人能想到最有价值又可行的 LLM 应用场景——“智能对话+联网搜索”——无缝整合了起来， 全代码，大大提高了开发效率。这也引发了代码原创性的讨 论，但它已经实实在在将 LLM 拉进了编程应用领域。 六、 LangChain 的出现，实现了 LLM 之间的链式交互，使多 个 LLM 模型串联工作，发挥各自的优势，并且可以将 LLM 模型与外部数据源进行连接，产生更强大的语言理解 和生成效果。这开启了 LLM 集成应用的新方向，并诞生了 一个新的细分领域“LLMOps”。 七、 “提示词工程”，这是 LLM 从传 统的模型训练和应用模式，转向以 Agent 为中心的智能 化模式。LLM Agent 打破了传统 LLM 的被动性，使 LLM 能够主动学习和执行任务，从而提高了 LLM 的应用 范围和价值；它为 LLM 的智能化发展提供了新的方向， 使 LLM 能够更加接近于人类智能。 九、 AI 原生，目前还没有明确的定义，大致是说，不同于当前 各种应用在原本的基础上增加 AI 能力，使其智能化，但

处理领域的卓越表现，成为推动语言理解、生成和应用的引 擎。 LLM 在多个领域都取得了令人瞩目的成就。在自然语言处 理领域，GPT 系列模型在文本生成、问答系统和对话生成 等任务中展现出色的性能。在知识图谱构建、智能助手开发 等方面，LLM 技术也发挥了关键作用。此外，它还在代码 生成、文本摘要、翻译等任务中展现了强大的通用性。 本报告从技术人视角出发，将深入探讨 LLM 技术的背景、 基础设施、应用现状，以及相关的工具和平台。 向量数据库  数据库向量支持  大模型框架、微调 (Fine Tuning)  大模型训练平台与工具 基础设施 LLM Agent  备案上线的中国大模型  知名大模型  知名大模型应用 大模型 算力 工具和平台  LLMOps  大模型聚合平台  开发工具 AI 编程  插件、IDE、终端  代码生成工具 编程语言 3 / 32 LLM 技术背景 Transformer (Generative Pre-trained Transformer) 的提出标志着 LLM 技术的飞速发展，其预训练和微调的 方法为语言任务提供了前所未有的性能，以此为基础，多模态融合的应用使得 LLM 更全面地处理各种 信息，支持更广泛的应用领域。 图源：https://postgresml.org/docs/.gitbook/assets/ml_system.svg 4 / 32 LLM 基础设施

，艾瑞咨询研究院根据公开资料研究及绘制。 企业开源的战略意义（二） 开源在企业中的使用率提升，带来多维度战略价值 除前文所述的商业价值和成本优化之外，开源软件产业对企业的战略意义还体现在以下三方面：1）技术价值，对具备技 术优势的头部企业而言，开源可加强同业间的交流，实现产品优化，走向国际；对技术能力较弱的企业来说，开源可实现 社会协作，缩小与业界头部企业的技术差距，扩大市场份额。2）品牌价值，企业建立开源社区可实现对技术、人才的网 红帽（RedHat）公司的收入结构 谷歌公司收入结构 17 20 21 4.4 6.2 8.2 2.8 3.5 4.2 FY2017 FY2018 FY2019 基础设施订阅（亿美元） 应用开发新兴技术订阅（亿美元） 培训服务（亿美元） 853 981 1041 112 170 198 200 215 231 141 170 217 58 89 131 www.iresearch.com.cn 云计算、容 器和虚拟化 22.7% 网络和边缘计算 15.0% web和应用程序开发 13.6% 人工智能、机器学习、数 据和分析 10.8% 隐私与安全 5.1% cross-technology 4.8% 物联网与嵌入式 4.6% 区块链 4.3%

Part 2： TOP101-2024 大 模 型 观 点 编委会 21 | 2024 年中国开源模型：崛起与变革 26 | 开源模型未必更先进，但会更长久 30 | 大模型撞上“算力墙”，超级应用的探寻之路 36 | AI 的三岔路口：专业模型和个人模型 40 | 2024 年 AI 编程技术与工具发展综述 45 | RAG 的 2024：随需而变，从狂热到理性 51 | 大模型训练中的开源数据和算法：机遇及挑战 大模型训练中的开源数据和算法：机遇及挑战 57 | 2024 年 AI 编程工具的进化 62 | AI 开发者中间件工具生态 2024 年总结 66 | AI Agent 逐渐成为 AI 应用的核心架构 68 | 谈开源大模型的技术主权问题 72 | 2024:大模型背景下知识图谱的理性回归 77 | 人工智能与处理器芯片架构 89 | 大模型生成代码的安全与质量 93 | 2024 年 AI Part 1：中国开源开发者生态数据 04 | Gitee 数据篇 Part 3：国内 GenAI 生态高亮瞬间 104 | 中国 GenAI 消费应用人气榜 Top10 15 | OSS Compass Insight 106 | AI 创新应用开发大赛获奖作品 局长，OSCHINA 副主编 肖滢，OSCHINA 副主编 李泽辰，Gitee 主编 高瞻，Gitee AI 运营 设计：张琪

Ubuntu 和 Kubuntu Ubuntu 的默认软件仓库已经提供了可以正常运行的 Krita 软件 包，但它们通常不是最新版本。你可以通过 AppImage、Flatpak 或者 Ubuntu 应用商店提供的 Snap 软件包来使用最新版本的 Krita。我们还维护着一个提供最新版本 Krita 的 PPA，详情请访问 该 PPA 页面 [https://launchpad.net/~krit 你可以及时跟踪 Krita 的最新开发进度。如果你定期从开发代 码仓库获取最新代码编译 Krita，你将可以试用许多正在开发 的新功能。 你可以在构建时为你的处理器进行优化。预构建的软件包往往 只能针对最低标准的 CPU 进行优化。 你可以立即获得全部已完成的程序缺陷修复。 你可以向我们的程序员提供反馈新功能中的问题，帮助我们进 行软件测试。这对 Krita 的开发来说至关重要，以至于我们会 在关于对话框里列出经常协助测试的人员名单。 如果你打算从源代码自行构建 Krita，请按照 Krita 构建指南页面的 说明进行操作。 如果你遇到了问题，或者对软件的编译并不熟悉，可以联系 Krita 的开发人员。我们有三个主要的联系渠道： IRC：web.libera.chat 的 #krita 频道 Krita 开发邮件列表 [https://mail.kde.org/mailman/listinfo/kimageshop] Krita 国际画师论坛

Ubuntu 和 Kubuntu Ubuntu 的默认软件仓库已经提供了可以正常运行的 Krita 软件包，但它们通常 不是最新版本。你可以通过 AppImage、Flatpak 或者 Ubuntu 应用商店提供的 Snap 软件包来使用最新版本的 Krita。我们还维护着一个提供最新版本 Krita 的 PPA，详情请访问该 PPA 页面 [https://launchpad.net/~krita 你可以及时跟踪 Krita 的最新开发进度。如果你定期从开发代码仓库获取 最新代码编译 Krita，你将可以试用许多正在开发的新功能。 你可以在构建时为你的处理器进行优化。预构建的软件包往往只能针对最 低标准的 CPU 进行优化。 你可以立即获得全部已完成的程序缺陷修复。 你可以向我们的程序员提供反馈新功能中的问题，帮助我们进行软件测 试。这对 Krita 的开发来说至关重要，以至于我们会在关于对话框里列出 如果你打算从源代码自行构建 Krita，请按照 Krita 构建指南页面的说明进行操 作。 如果你遇到了问题，或者对软件的编译并不熟悉，可以联系 Krita 的开发人 员。我们有三个主要的联系渠道： IRC：web.libera.chat 的 #krita 频道 Krita 开发邮件列表 [https://mail.kde.org/mailman/listinfo/kimageshop] Krita 国际画师论坛

Ubuntu 和 Kubuntu Ubuntu 的默认软件仓库已经提供了可以正常运行的 Krita 软件包，但它们通常 不是最新版本。你可以通过 AppImage、Flatpak 或者 Ubuntu 应用商店提供的 Snap 软件包来使用最新版本的 Krita。我们还维护着一个提供最新版本 Krita 的 PPA，详情请访问该 PPA 页面 [https://launchpad.net/~krita 你可以及时跟踪 Krita 的最新开发进度。如果你定期从开发代码仓库获取 最新代码编译 Krita，你将可以试用许多正在开发的新功能。 你可以在构建时为你的处理器进行优化。预构建的软件包往往只能针对最 低标准的 CPU 进行优化。 你可以立即获得全部已完成的程序缺陷修复。 你可以向我们的程序员提供反馈新功能中的问题，帮助我们进行软件测 试。这对 Krita 的开发来说至关重要，以至于我们会在关于对话框里列出 如果你打算从源代码自行构建 Krita，请按照 Krita 构建指南页面的说明进行操 作。 如果你遇到了问题，或者对软件的编译并不熟悉，可以联系 Krita 的开发人 员。我们有三个主要的联系渠道： IRC：web.libera.chat 的 #krita 频道 Krita 开发邮件列表 [https://mail.kde.org/mailman/listinfo/kimageshop] Krita 国际画师论坛

Ubuntu 和 Kubuntu Ubuntu 的默认软件仓库已经提供了可以正常运行的 Krita 软件包，但它们通常 不是最新版本。你可以通过 AppImage、Flatpak 或者 Ubuntu 应用商店提供的 Snap 软件包来使用最新版本的 Krita。我们还维护着一个提供最新版本 Krita 的 PPA，详情请访问该 PPA 页面 [https://launchpad.net/~krita 你可以及时跟踪 Krita 的最新开发进度。如果你定期从开发代码仓库获取 最新代码编译 Krita，你将可以试用许多正在开发的新功能。 你可以在构建时为你的处理器进行优化。预构建的软件包往往只能针对最 低标准的 CPU 进行优化。 你可以立即获得全部已完成的程序缺陷修复。 你可以向我们的程序员提供反馈新功能中的问题，帮助我们进行软件测 试。这对 Krita 的开发来说至关重要，以至于我们会在关于对话框里列出 如果你打算从源代码自行构建 Krita，请按照 Krita 构建指南页面的说明进行操 作。 如果你遇到了问题，或者对软件的编译并不熟悉，可以联系 Krita 的开发人 员。我们有三个主要的联系渠道： IRC：web.libera.chat 的 #krita 频道 Krita 开发邮件列表 [https://mail.kde.org/mailman/listinfo/kimageshop] Krita 国际画师论坛

. . . . . . . . 34 5.6 MaxKB 配置本地 llama3 . . . . . . . . . . . . . . . . . . . . . . 37 5.7 创建知识库应用 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40 3 1 AI 大模型基础 1.1 AIGC AIGC 是指使用人工智能 AI 大模型，AIGC 和 AGI 关系 4 1.2 AGI AGI（Artificial General Intelligence，人工通用智能）是一种理论上的人工智能， 它可以理解、学习和应用知识跨越各种不同领域，功能上等同于人类智能。 与专用人工智能（AI）不同，AGI 能够执行任何智力任务，具备自我意识和 自适应学习能力。AGI 的研发目标是创造出可以广泛地模拟人类认知能力的智 能系统。 本数据来学习语 言结构和信息，使其能够生成连贯的文本、回答问题、撰写文章、进行对话等。 6 Figure 3: AI 问答工具 ChatGPT 经过特别训练，可以理解和生成人类语言，从而在多种应用场景中提 供辅助，包括聊天机器人、写作辅助、信息查询等。 2.1.2 Claude Claude 是 Anthropic 公司开发的一系列大型语言模型，它设计用于执行多种涉 及语言、推理、分析和编码的任务。