2024 年中国开源模型：崛起与变革 26 | 开源模型未必更先进，但会更长久 30 | 大模型撞上“算力墙”，超级应用的探寻之路 36 | AI 的三岔路口：专业模型和个人模型 40 | 2024 年 AI 编程技术与工具发展综述 45 | RAG 的 2024：随需而变，从狂热到理性 51 | 大模型训练中的开源数据和算法：机遇及挑战 57 | 2024 年 AI 编程工具的进化 62 开发者中间件工具生态 2024 年总结 66 | AI Agent 逐渐成为 AI 应用的核心架构 68 | 谈开源大模型的技术主权问题 72 | 2024:大模型背景下知识图谱的理性回归 77 | 人工智能与处理器芯片架构 89 | 大模型生成代码的安全与质量 93 | 2024 年 AI 大模型如何影响基础软件行业中 的「开发工具与环境」 98 | 推理中心化：构建未来 AI 基础设施的关键 Part 高瞻，Gitee AI 运营 设计：张琪 开发者是开源生态的重要支柱。 本章结合 、 的数据分 析，勾勒 2024 年中国开源开发者的整体画像趋势轮廓，主要 反映中国开源开发者使用开源大模型概况、开源项目/组织健康 度，以及中国开源社区的生态评估等情况。 Gitee 数据篇 本报告数据来源：2024年1月至2024年12月 Gitee及Gitee AI平台相关公开数据 4 / 111

1 1 /*使用电脑阅读，获得最佳体验 1 1 序 毫无疑问，开源开发者圈子来看，2023 年是大模型 LLM 年、生成式 AI GenAI 年。 一、 这自然要从 OpenAI 说起，前一年年底，ChatGPT 的横 空出世，标志着对话式 LLM 开始进入公众视野，为人们 提供了全新的人机交互方式。而 2023 年 3 月，同系 GPT-4.0 的发布则将 LLM 的规模和能力提升到一个新 Google 紧随其后推出 Bard，作为其首次亮相的对话 LLM 产品，无疑具有其里程碑意义，尽管它的首秀并不尽 如人意，车翻了又翻。 三、 Claude 2、PaLM 2、Llama 等模型与产品也展现了 LLM 在语言理解和多模态处理能力方面的探索，甚至 Claude 2 还一度被誉为实力可以硬刚 ChatGPT。而 Meta 开源的 Llama 2 更成为了 LLM 领域开源势力的典型代表，它的 杀进多媒体领域。往 后 DALL-E 3 模型升级、Adobe 产品整合 LLM 能力、 语音模型 whisper-3 更新、AI 虚拟主播创造等，都是在 这条路上的进一步发展。 五、 AI 编程方面，Copilot 可以根据开发者的代码提示自动补 全代码，大大提高了开发效率。这也引发了代码原创性的讨 论，但它已经实实在在将 LLM 拉进了编程应用领域。 六、 LangChain 的出现，实现了

正好与基础软件庞大的开发量需求相契合。这种契合性促进了基础软件良性、可持续性发展，并因为基础软件对上层软件生态有支 撑作用，基础软件的开源价值远超过单一产品的范畴，其意义惠及软件产业全领域。 注释：由于暂无国内厂商主导的开源编程语言，因而不列入本报告研究范围。 来源：根据专家访谈、公开资料，由艾瑞咨询研究院自主研究及绘制。 对于这四类基础软件（操作系统、数据库、AI框架、中间件），其编写者将实现功能的代码按照一定的开源规范 杂等特点 中间件：不同系统和应用程序之间交互 与协作的桥梁 AI框架：具备构建和部署人工智能模型 的基础的全套开发工具 操作系统：是软硬件资源的资源管理者， 为用户与应用程序提供交互接口 数据库：通过对数据的访问与管理，支 持各种应用程序和业务的需求 编程语言：人与计算机交互的“语言”， 含编译器、基础编程语言、IED等 社区协作：鼓励各方在开放平台上协作 贡献，推动开源内容的发展 创新改进：通过资源共享与协作共生， 来源：根据专家访谈、公开资料，由艾瑞咨询研究院自主研究及绘制。 数据库开发者开源贡献特征 数据库指标提升 响应时间 并发能力 吞吐量 … 性能 数据备份 数据恢复 故障切换 … 可靠性 编程语言 系统接口 … 兼容性 存储 引擎 数据库内核  修改计算引擎支 持语法扩充  修改存储协议支 持更多数据库格 式  底层IO调优支持 高并发能力  … 围绕内核层级的

海外⼈才加⼊：
i. ⼤模型⽅⾯。团队成员发明了RoPE相对位置编码，是Meta
LLaMa和Google
PALM等⼤多数 主流模型的重要组成部分；发明了group
normalization，是Stable
Diffusion等AI模型成功 的关键组件；发明了
Transformer-XL，是历史上第⼀个在词级别和字级别都全⾯超越RNN 的注意⼒语⾔模型，解决了语⾔建模上下⽂⻓度的关键问题，定义了语⾔建模的新标准；曾 机器）分 布式系统数量级性能优化的经验。
c. ⽬前团队⼈数超过
80
⼈，每个⽉都有在全球某个领域有显著影响⼒的⼈加⼊。
2.
团队聚焦底层技术创新，技术Vision强
a. 引领⼤模型的“⽆损⻓上下⽂”时代。2023年10⽉上旬，在产品
Kimi
智能助⼿中实现“⽆损 ⻓上下⽂窗⼝（Lossless
Long
Context
Window）”，⽀持
20
万汉字输⼊，实现对⻓⽂本的⽆ 和中⽂能⼒上
Kimi
智能助⼿依然领先。
b. 聚焦底层技术创新，不⾛技术捷径。最早提出“Lossless
Long
Context
可以解决
90%
以上的 模型定制问题”，坚持对数据的⽆损压缩，实现模型能⼒的提升，不⾛技术捷径（通过滑动窗 ⼝、降采样、⼩模型等技术实现上下⽂窗⼝延⻓，都是“技术捷径”）
c. 通过这篇⽂章，您可以了解更多技术⽅⾯信息：专访⽉之暗⾯杨植麟：lossless
long
context
is

的比例偏低，技术人员梯度不够合理，也是国内各大开源社区在吸引贡献者方面，可以优化的地方。 段夕华：近些年来，学生在开源人群中占比持续增多到今天接近一半，可能也是因为用人单位越来越认可学生 在开源中所展现出的编程技能、沟通能力及合作精神，因此这其中应该也不乏各种刷榜行为，需要开源项目所 有者更多关注学生贡献者增多所带来的质量、合规等问题。 杨丽蕴：我国开源人才后备力量足、基数大。 我国高校越来越重视开源人才的培养 中国开源年度报告 65 Gitee 数据 1 概述 Gitee 是开源中国旗下的代码托管平台，至今已有超过 800 万开发者用户。我们对托管在 Gitee 的开源 项目进行了统计分析，梳理和解读编程语言、功能分布的变化趋势，分析开发者在 Gitee 参与开源的情况， 以期为观察国内开源的演进提供一个 “本土平台” 视⻆。 2 主要内容与发现 2.1 总体趋势 2021 年 Gitee 上托管的代码仓库超过了 的工作地点与模式， 提高自身的人才储备来加速产品开发。 图表 5 ：开源提高开发人员生产力 资料来源：GitHub 2.2.2 开源软件具有的 Product-Led Growth（PLG）模型特征可以促进付费转化 PLG 模式主要通过自下而上的销售模式进行获客，产品是整个销售过程的核心。PLG 模式的增长飞轮 有三个主要阶段 ：获客、转化、留存。在这三个阶段中，开源都有着区别于传统商业模式的优势。

be optimized to attract contributors. 段夕华：近些年来，学生在开源人群中占比持续增多到今天接近一半，可能也是因为用人 单位越来越认可学生在开源中所展现出的编程技能、沟通能力及合作精神，因此这其中应 该也不乏各种刷榜行为，需要开源项目所有者更多关注学生贡献者增多所带来的质量、合 规等问题。 Duan Xihua: In recent years, the Gitee 数据 Gitee Data 1. 概述 Gitee 是开源中国旗下的代码托管平台，至今已有超过 800 万开发者用户。我们对托管在 Gitee 的开源项目进行了统计分析，梳理和解读编程语言、功能分布的变化趋势，分析开发者 在 Gitee 参与开源的情况，以期为观察国内开源的演进提供一个 “本土平台” 视⻆。 Gitee is the code hosting platform increase their talent pool to accelerate product development. 2.2.2 开源软件具有的 Product-Led Growth（PLG）模型特征可以促进付费转化 The Product-Led Growth (PLG) model features of open source software could facilitate

桌⾯办公软件（GNOME， OpenOffice）和浏览器（Mozilla）掀起了第⼀波开源的浪 潮；近年来随着互联⽹的兴起，开源的项⽬和技术越来越百花⻬放，从数据库到中间 件，从前端到后端，从编程语⾔到编译器，从物联⽹到微服务，从⼤数据到⼈⼯智能， 开源的技术和项⽬越来越丰富和多样化。 4、开源⼯作现状 4.1 接触开源的时间 有近三成参与者接触开源的时间在 1-2 年，近⼋成参与者接触开源时间在⼀年以上。 成功。 6、开发者技术现状 6.1 开发语⾔ 开发语⾔呈现多超多强的状态，前三甲分别为 Java、JavaScript 和 Python，排名与去年基 本保持⼀致。 【专家点评】 王伟：编程语⾔是⼤家喜闻乐⻅的话题，排名⽅⾯没有太⼤的变化。值得⼀提的是 SQL 语 ⾔，这个平时存在感貌似不是很强，但实⽤性却⾮常强。实际上，本报告中的 GitHub 数据篇 中的基础数据全部都是⽤ SQL 全域事件⽇志进⾏统计分析（2020 年共计 8.74亿条），相较 2019 年的 5.46 亿条增⻓约 60%。并对分析出的部分项⽬进⾏⼈⼯标注，挑选出中国的个⼈开发 者和企业组织，同时构建了科学合理的数学模型进⾏分析。 在开发者活跃度与项⽬活跃度的定义下，本次统计得到 2020 年总活跃项⽬数量约 5,373万 个，相较 2019 年的约 3,972 万 增⻓约 35.3%；2020 年 GitHub

无需全量测试，能够快速应对需求变化 微服务可以技术独立演进 成本低 PRODUCT 13 PRODUCT 基于可视化编程语言 基于通用语言封装的可视化开发语言，具 备完善的静态类型系统和组件扩展机 制，适合 80% 企业级应用开发，灵活性 高，可靠性强。 数据模型驱动 可视化构建实体、数据结构、枚举等低 代码数据模型，自动生成数据库表和页 面交互。 支持企业集成 能够通过 API 集成企业内部的服务，实 现应用组装。 数仓设计中心 指标设计 模型设计 数据治理中心 数据质量 数据地图 数据资产 数据标准 UDF管理 任务开发 版本管理 任务运维 资源管理 任务上线 数据服务中心 智能BI 数据准备 大屏 自助取数 移动应用 数据填报 全渠道 数据融合 会员 标签管理 用户分群 营销 活动管理 投放数据 追踪 活动数据 分析 特征治理 模型管理 交互式建模 可视化建模 API管理 支持数据产品研发 无代码平台，与 BI 、数据填报、复杂报 表、智能决策深度融合。 开放与集成能力 以标准类接口开放所有资源，支持集 成，兼容性强。 内置增强分析 内置高级分析模型，如预测、聚类，离 散；支持智能问答、智能分析等多种分 析场景。 产品特色 产品能力 业务流程覆盖数据收集、加工、分析、应用等全链路环节，内置可视化报告、自助式 ETL 、自助取数、驾驶舱、数据

——《大教堂与集市》中文版，机械工业出版社 好的软件作品，往往源自于开发者的个人需要——按说这是显而易见的（正如 老话说“需要是发明之母”），但太多的软件开发人员并不需要也不热爱他们 正在开发的软件，他们把编程当差事，为的只是拿薪酬。Linux世界里可不是 这样——也许这可以解释为什么Linux社区里原创软件的平均质量是如此之高。 5 ©2022.2 iResearch Inc www.iresearch.com.cn 来源：艾瑞咨询研究院自主研究及绘制。 企业的开源商业模型（一） 软件开源为企业带来直接收益、渠道收益、行业生态收益 从商业成功的角度上看，企业发布开源软件能够为自身带来直接商业化收益、渠道收益和市场影响力提升带来的产业协同 收益。其中，直接商业化收益 开 源运营，而开源运营的核心是通过不断提升用户和贡献者的数量来构建“质”和“量”互相驱动和促进的良性循环。如果 没有成功的开源运营，软件开源就无法产生显著的商业化效果。 企业实施软件开源战略的商业模型 企业之内 企业之外 软件开源 用户增长 加速创新 产品升级 提供付费订阅版本 提供专业配套服务 引流产生广告收入 直接 商业化 渠道化 为互补产品宣传、导流 提升企业市场声量

Face、微软、英伟达与Stability AI等 顶尖人工智能提供商，共同参与对生成式人工 智能系统的公开安全评估。 AI Village组织方将这个合作活动描述为“有史 以来规模最大的人工智能模型红队演习”。将 有数千人参与对公共人工智能模型的评估，期 间使用的评估平台由Scale AI负责开发。 近日，微软发布了一个补丁，用于修复Secure Boot绕过漏洞。在2023年1月份，微软释出补 丁修复了编号为CVE-2022-21894的漏洞，但 多的人了解如何开展红队测试和评估人工智能模 型，才能解决这些模型中的各种问题。”通过对 人工智能模型组开展最大规模的红队演习，AI Village和DEF CON希望能培养出处理人工智能 系统漏洞的研究者社区。事实证明，大语言模型 的锁定难度远超想象，部分原因在于所谓“提示 词注入”技术。人工智能研究员Simon Willison 详细介绍了提示词注入的危险，这种技术可以令 语言模型偏离正轨，执行创建者想要回避的操 作。在DEF CON大会期间，参与者将通过主办方 提供的笔记本电脑定时访问多个大语言模型。并 将会有一个夺旗式的积分系统，促进测试各种潜 在威胁。积分最高的参与者将获得英伟达高端 GPU作为奖品。AI Village公告中写道，“我们将 公布从此次竞赛中得到的启发，帮助其他想要做 类似尝试的人们。希望越来越多的人能知晓该如 何使用大语言模型，了解这些模型的局限性。” 注释：“红队”测试，是指安全专家尝试在组织系