中国开源开发者报告重点聚焦大模型，本章节以大模 型 LLM 开发技术栈作为切入点，将深入探讨以下中国 AI 大模型领域的代表性开源项目社区。 这些开源项目社区覆盖了深度学习框架、向量数据库、AI辅 助编程、LLM 应用开发框架、模型微调、推理优化、LLM Agent，以及检索增强生成（RAG）等多个关键技术栈。 为了更全面客观地展示中国大模型 LLM 开发技术栈的开源 社区生态，我们使用了 对开源社区的生态评 开发基础设施，本部分图表 中的开发框架、向量数据库、 开发平台、大模型均表现出 色，代表着它们的代码提交 频率、参与者、代码合并比 率等协作开发工作保持着较 高的水平。 17 / 111 OSS Compass Insight 本部分图表仅用于数据展示，不涉及先后排名 稳健性-活跃度 作为 AI 开发生态中的关键组 成部分，本部分图表中的开发 框架、大模型及相关工具在活 跃度的表现各有千秋。 111 本章汇集了来自不同领域专家和开发者对开源大模型和人工 智能技术的深刻见解，不仅涵盖了技术层面的深入探讨，也 触及了社会、伦理和政策层面的广泛议题。 从对中国开源模型崛起的分析，到对开源模型持久性的思考， 再到对超级应用探寻之路的探索，每篇文章都为我们提供了 独特的视角，帮助我们理解开源大模型在 AI 技术领域的作用 和影响。 20 / 111 2024 年中国开源模型：崛起与变革

近日，Envoy Gateway v0.4发布，版本特性更新 如下： • 升级网关API依赖，升级至Gateway API v0.6.2； • 支持通过Helm完成Envoy Gateway安装； • 添加构建初始框架用于扩展Envoy Gateway； • 添加对基于IP子网的速率限制的支持； • 支持自定义Envoy代理引导配置、Envoy代理 镜像和服务配置注释、资源和安全上下文设 置等； • 添加EDS支持（Endpoint cloud以开源软件的形式进行研发，于2015年 早期对外发布早期版本。2016年5月，继 Kubernetes之后成为第二个正式加入CNCF基金 会的项目，同年6月正式发布1.0版本。2017年 底发布了基于全新存储层的2.0版本，能更好地 与容器平台、云平台配合。 全球开源态势洞察｜第十期 05 Contour v1.25.0发布 Contour是基于Kubernetes的Ingress控制 器，通过将Envoy代理部署为反向代理和负载 献者。 TiKV：TiKV是一个分布式事务型的键值数据库，提供了满足ACID约束的分布式事务接口，并且通 过Raft协议保证了多副本数据一致性以及高可用。TiKV作为TiDB的存储层，为用户写入TiDB的数据 提供了持久化以及读写服务，同时还存储了TiDB的统计信息数据。TiKV于2018年8月被云原生计算 基金会接受为沙盒项目。2019年5月，CNCF宣布正式将TiKV从沙箱项目晋级至孵化项目。2020年

⼩时，每周对开源投⼊时间在 5-20个⼩ 时的参与者约有 40%。 【专家点评】 吴晟：较低的职业开源开发者（⼀周超过 20 ⼩时的贡献者）⽐例，显示出中国企业对于开源 项⽬，依然主要停留在⽤户层⾯。多数开源贡献者依然使⽤业务时间或者⼯作间隙进⾏有限的 贡献和参与。 4.3 开源活动 绝⼤多数参与者每年只会参加⼏次线上/线下的开源活动，每个⽉参加⼀到两次线上/线下开源 活动的参与者占⽐ 年的约 1,19 万 增加了约 21.2%。 1.2 指标解释 2、主要内容与发现 2.1 世界开源 Top10 项⽬ 活跃度最⾼的项⽬是来⾃⾕歌的前端跨平台开发框架 flutter/flutter，此外，源于⾕歌的深度 学习框架 tensorflow/tensorflow，容器编排系统 kubernetes/kubernetes 也分别位于第 5 名和第 6 名，这说明了⾕歌在开源上的努⼒和影响⼒获得了业内的认可。 从这个列表中，我们发现，阿⾥在开源领域中的成绩显著。Top10 项⽬中上榜的项⽬有 4 个，除了蚂蚁⾦服采⽤ React 封装的⼀套组件库 ant-design/ant-design，基于 Ant Design 框架搭建的中后台管理控制台的脚⼿架 ant-design/ant-design-pro 和致⼒于配置和管理微 服务的特性集 alibaba/nacos 外，饿了么（已被阿⾥收购）的开源项⽬ ElmFE/element

www.iresearch.com.cn 基础软件开源界限划分 操作系统、数据库、中间件、AI框架底层代码按规范进行共享与协作 本篇报告研究的基础软件开源范围，是指研究“开源”中“基础软件”板块的情况。开源过程中，参与者可以共享、协作完成开发， 正好与基础软件庞大的开发量需求相契合。这种契合性 对于这四类基础软件（操作系统、数据库、AI框架、中间件），其编写者将实现功能的代码按照一定的开源规范 开放，任何人可以查看、使用、贡献，同时，使用者也要遵循一定的开源规范。 基础软件开源范畴界定 国内基础软件开源界定 基础软件 具备能衍生出并支撑 多个技术簇的一类根 技术软件，拥有技术 门槛高、衍生场景复 杂等特点 中间件：不同系统和应用程序之间交互 与协作的桥梁 AI框架：具备构建和部署人工智能模型 www.iresearch.com.cn 中国基础软件开源产业主要参与者图谱 来源：根据专家访谈、公开资料，由艾瑞咨询研究院自主研究及绘制。 中间件 操作系统 AI框架 数据库 开源技术论坛 开源产业联盟 开源组织 基础软件开源项目 开源基金会 开源社区评估机构 X-Deep Learning 开源代码托管平台 11 ©2023.11 iResearch

功能、 交互层是围绕 LLM 中枢来构建的。也许 ChatGPT 是最 经典的“AI 原生”应用。此概念目前还处在萌芽期，明确 的概念、应用场景、架构、技术栈细节等尚未完成自洽。 换一种视角来看，这个概念的提出其实都没技术什么事， 有人称之为“造商业概念”，这里按下不表。 十、 镜头给到国内。相比国际上当前逢 AI 必 GenAI，国内更 多地还是在 LLM 这一层面，Robin Li 快速迭代发展，诸如 Dify.AI 的 LLMOps、Milvus 的向量 数据库、CodeGeeX 与 Comate 的 AI 编程、对 LLM Prompt 的研究、OneFlow 的深度学习框架。 值得一提的还有华为的盘古大模型，其中盘古气象大模型是 首个精度超过传统数值预报方法的 AI 模型，速度相比传统 数值预报提速 10000 倍以上，能够提供全球气象秒级预 报。盘古大模型的研究成果在国际顶级学术期刊《自然》正 场面”。 1 1 目录 一、开源开发者事件回顾 三、中国开发者开源新动向 二、2023 LLM 技术报告  46 | 向量数据库  47 | 数据库向量支持  48 | 大模型框架、微调  51 | 大模型训练平台与工具  53 | 编程语言  57 | 知名大模型  58 | 备案上线的中国大模型  21 | 硬核发版  26 | 热门话题  33

Google、MIT、Amazon等团队的使⽤和扩展，并获得过OpenAI
RL联创及负责⼈John
Schulman亲⾃邀请加盟。
iv. 基础设施⽅⾯。团队核⼼成员曾带领数⼗⼈从零开发世界领先的深度学习框架，也具备数千 卡集群全⾃动化硬件运维告警、数百亿特征检索、⼤规模（数⼗PB数据、百万台机器）分 布式系统数量级性能优化的经验。
c. ⽬前团队⼈数超过
80
⼈，每个⽉都有在全球某个领域有显著影响⼒的⼈加⼊。
要做差异化，我认为就是去看这⾥⾯的
tech
space
有多⼤，tech
space
越⼤，技术、产品、商业层⾯ 能实现的差异化就越⼤。如果技术已经收敛了，那⼤家只能去追赶，就是同质化内卷。 然后我其实⽐较乐观，因为现在仍有巨⼤的
tech
space。AGI
技术可以分为三层：
第⼀层是
scaling
law
结合
next-token-prediction。这个基础对所有⼈都是⼀样的，追赶过程逐渐收 追赶过程逐渐收 敛。在这个路径上，
OpenAI
现在做得更好，因为他们过去四五年投⼊了相应的资源。 第⼆层现在有两个核⼼问题。⾸先是如何通⽤地表⽰这个世界？真正的“通⽤”是像计算机⼀样，⽤
0
和
1

就能表⽰整个世界。对于基于
transformer
的语⾔模型来说，它能表⽰⼀本书、⼀篇⽂章、甚 ⾄⼀个视频，但表⽰⼀个更⼤的
3D
世界或你硬盘上的所有⽂件还有难度，没做到
token-in-token-

Reliability 3.8% 开源最佳实践 3.8% 其他 11.5% 库 22.9% 大数据 11.1% 网络服务器 8.9% 可扩展标记语言 6.8% 数据库 5.7% web框架 5.4% 网络客户端 5.4% 内容 4.6% 构造管理 4.6% 云 3.5% 其他 21.1% 全球开源项目分布 总量持续上升，项目类型反映市场需求与热度 全球对开源的热 区提供服务，2021年Linux基金会中云计算、容器和虚拟化开源项目的占 比最大，达到22.7%。整体来看，全球开源项目类型集中在开发框架、文档类开源项目、云计算等相关领域。此外，开源 项目的类型往往能反映当前市场关注的热点，如容器与云原生应用技术、人工智能开发框架等技术的流行。 来源：Apache软件基金会，艾瑞咨询研究院根据公开资料研究及绘制。 来源：Linux基金会，艾瑞咨询研究院根据公开资料研究及绘制。 开源软件产品丰富了云厂商的产品矩阵——以云数据库为例 除了搭建基础云服务的软件平台之外，全球范围内主流公有云平台上的部分产品也是基于开源软件二次开发和托管，典型 代表包括数据库、大数据分析框架、AI开发框架、DevOps开发和运维工具等。对于云厂商而言，成熟的开源软件已经具 备了成熟的市场和用户群体，而厂商基于开源软件和社区资源进行二次开发并提供配套服务的成本较低，能够借助这些产 品的市场影响力

民生证券股份有限公司 宁波紫藤信息科技有限公司 南方日报社 南京联创信息科技有限公司 南微医学科技股份有限公司 平安科技（深圳）有限公司 乔治阿玛尼（上海）商务有限公司 人保金融服务有限公司 尚层装饰（北京）有限公司 山东曼威软件有限公司 胜斗士（上海）科技技术发展有限公司 上海德启信息科技有限公司 上海景盟软件有限公司 上海赢科信息技术有限公司 上海燕汐软件信息科技有限公司 申万宏源证券有限公司 监控分析 应用 Spring Clould Dubbo Service Mesh 分布式事务 GTXS TCC 事务消息 事务轨迹 认证鉴权 发布管理 流量控制 协议转换 微服务框架 NSF 注册发现 服务治理 服务路由 流量染色 服务化 将企业能力转化为数字化的 服务，打破企业软件应用中数 据孤岛等现状。 敏捷 通过小步快跑的方式敏捷迭 代，不断适应市场与业务需求 的变化，摆脱缓慢的大版本更 的流量管控能力。 架构平滑演进 支持单体架构向微服务架构、微服务架 构向服务网格架构平滑演进。 开放兼容 全面覆盖主流微服务开发技术选型，增 强、扩展开源服务网格。 异构应用统一治理 多框架、多协议、多语言服务的统一治 理，避免技术栈重复建设。 异构集成 支持异构协议转换为 HTTP 协议 RESTFUL 接口，具备请求转换能力，有 效集成企业存量应用。 产品能力 云原生微服务

并驾齐驱，某种程度反映了当下的技术热点趋势。开源的大数据 项目，Java (以及基于 JVM 的 Scala)是绝对主力，比如大家耳熟能详的 Hadoop, HBase, Spark 等，而开源的 AI 框架类项目，如：TensorFlow, PyTorch, MindSpore 等，则主要 由 Python 语言所构成。未来，这两大语言还将持续在各自擅长的领域发光发热。 Du Junping: Python Python's advantages over Java should continue to expand. 3.8 Java 开发框架 / 3.8 Java Development Framework Java 开发框架的使用中，Spring 以绝对优势遥遥领先。 Spring is far and away from the leader in using Java time being 3.9 PHP 开发框架 / 3.9 PHP Development Framework PHP 开发框架以 Thinkphp 的使用居多。 PHP development frameworks are predominantly used with Thinkphp. 3.10 Ruby 开发框架 / 3.10 Ruby Development Framework

……………… 20 3.8 Java 开发框架 ……………………………………………………………………………………… 21 3.9 PHP 开发框架 ……………………………………………………………………………………… 21 3.10 Ruby 开发框架 …………………………………………………………………………………… 22 3.11 Go 开发框架 ……………………………………………………………………………………… ……………………………… 22 3.12 Node.js 开发框架 ………………………………………………………………………………… 23 3.13 Python 开发框架 ………………………………………………………………………………… 23 3.14 前端开发框架 …………………………………………………………………………………… 24 3.15 数据库……………………………………………………………………………………………… …………………………………………… 25 3.16 版本控制工具 …………………………………………………………………………………… 26 3.17 AI 开发框架 ……………………………………………………………………………………… 26 3.18 云原生组件 / 工具 ………………………………………………………………………………… 27 4 开源社区参与现状 …………………………………………………………………………