1 1 /*使用电脑阅读，获得最佳体验 1 1 序 毫无疑问，开源开发者圈子来看，2023 年是大模型 LLM 年、生成式 AI GenAI 年。 一、 这自然要从 OpenAI 说起，前一年年底，ChatGPT 的横 空出世，标志着对话式 LLM 开始进入公众视野，为人们 提供了全新的人机交互方式。而 2023 年 3 月，同系 GPT-4.0 的发布则将 LLM 的规模和能力提升到一个新 Google 紧随其后推出 Bard，作为其首次亮相的对话 LLM 产品，无疑具有其里程碑意义，尽管它的首秀并不尽 如人意，车翻了又翻。 三、 Claude 2、PaLM 2、Llama 等模型与产品也展现了 LLM 在语言理解和多模态处理能力方面的探索，甚至 Claude 2 还一度被誉为实力可以硬刚 ChatGPT。而 Meta 开源的 Llama 2 更成为了 LLM 领域开源势力的典型代表，它的 广大的个人用户和创意行业提供了强有力的工具，彻底改变 了数字艺术内容的创作方式。同时，它们也引发了人工智能 在创作领域的伦理和法律讨论。LLM 杀进多媒体领域。往 后 DALL-E 3 模型升级、Adobe 产品整合 LLM 能力、 语音模型 whisper-3 更新、AI 虚拟主播创造等，都是在 这条路上的进一步发展。 五、 AI 编程方面，Copilot 可以根据开发者的代码提示自动补 全代码，大大

浙江省云计算和大数据省级企业研究院 CNCF 官方认可的 Kubernetes 服务提供商 CNCF KCSP认证 管理体系相关资质 ISO 27001 信息安全管理体系认证 ISO 2000 信息技术服务管理体系认证 ISO 9001 质量管理体系认证 CSA STAR Certification 2013 服务管理认证 CMMI (三级) 认证 大数据技术认证资质 信通院第十二批“大数据产品能力评测”（有数BI） 北京嗨学网教育科技股份有限公司 北京卡车之家信息技术股份有限公司 北京世纪好未来教育科技有限公司 北京新唐思创教育科技有限公司 北京直客通科技有限公司 北京自如信息科技有限公司 博时基金管理有限公司 百胜咨询（上海）有限公司 八维通科技有限公司 成都南博教育咨询有限公司 成都四方伟业股份有限公司 城云科技（中国）有限公司 德邦物流股份有限公司 东北证券股份有限公司 东方通信股份有限公司 申万宏源证券有限公司 深圳航天科创实业有限公司 深圳市丰宜科技有限公司 深圳市巨益科技开发有限公司 深圳越海全球供应链有限公司 深圳证券交易所 土巴兔集团股份有限公司 泰康资产管理有限责任公司 天启物联网科技（青岛）有限公司 网易传媒科技（北京）有限公司 网易严选科技有限公司 兴业银行股份有限公司 延长壳牌（四川）石油有限公司 云邸软件（上海）有限公司 壹链盟生态科技有限公司

观 点 编委会 21 | 2024 年中国开源模型：崛起与变革 26 | 开源模型未必更先进，但会更长久 30 | 大模型撞上“算力墙”，超级应用的探寻之路 36 | AI 的三岔路口：专业模型和个人模型 40 | 2024 年 AI 编程技术与工具发展综述 45 | RAG 的 2024：随需而变，从狂热到理性 51 | 大模型训练中的开源数据和算法：机遇及挑战 57 | 2024 开发者中间件工具生态 2024 年总结 66 | AI Agent 逐渐成为 AI 应用的核心架构 68 | 谈开源大模型的技术主权问题 72 | 2024:大模型背景下知识图谱的理性回归 77 | 人工智能与处理器芯片架构 89 | 大模型生成代码的安全与质量 93 | 2024 年 AI 大模型如何影响基础软件行业中 的「开发工具与环境」 98 | 推理中心化：构建未来 AI 基础设施的关键 Part 高瞻，Gitee AI 运营 设计：张琪 开发者是开源生态的重要支柱。 本章结合 、 的数据分 析，勾勒 2024 年中国开源开发者的整体画像趋势轮廓，主要 反映中国开源开发者使用开源大模型概况、开源项目/组织健康 度，以及中国开源社区的生态评估等情况。 Gitee 数据篇 本报告数据来源：2024年1月至2024年12月 Gitee及Gitee AI平台相关公开数据 4 / 111

技术软件，拥有技术 门槛高、衍生场景复 杂等特点 中间件：不同系统和应用程序之间交互 与协作的桥梁 AI框架：具备构建和部署人工智能模型 的基础的全套开发工具 操作系统：是软硬件资源的资源管理者， 为用户与应用程序提供交互接口 数据库：通过对数据的访问与管理，支 持各种应用程序和业务的需求 编程语言：人与计算机交互的“语言”， 含编译器、基础编程语言、IED等 社区协作：鼓励各方在开放平台上协作 愿意为基于开源项目的 服务或商业版付费，期 望查看更完整、硬核的 代码。同样地，将自身 代码设置为收费，获得 收益 仅使用代码托管平台中 的基本权益，如代码审 查、测试、版本管理、 关联仓库等 享受平台增值服务，包 括关键指标统计、操作 日志管理、关键行为监 控，方便社区内开发者 的协同开发 15 ©2023.11 iResearch Inc. 量需要相应规模的人分工合作才能共同完 成设计。加之国内的操作系统起步较晚，需要更多的人才不断迭代整体性能水平。 操作系统生态适配需要大量人力：操作系统需要对软硬件生态适配、兼容，才能更好的发挥其资源管理者的作用。这种适配是双向 的，不同应用场景操作系统适配的生态也有所差异，随着场景的不断创新增加，生态适配性问题日渐复杂，仅靠单个操作系统发行 商进行生态匹配难以解决问题，需要开源集合更多的开发者力量进行帮助。

AMD正计划使用开源的OpenSIL代替AGESA 开放服务网格OSM（Open Service Mesh）项目已停止维护 KSOC推出业内首个实时Kubernetes安全态势管理平台 Nutanix推出Kubernetes数据管理平台 Nutanix Data Services for Kubernetes Mirantis发布轻量级Kubernetes发行版k0s v1.27 Azure AKS正式推出网络方案Azure 可扩展的云原生服务网格项目，旨在为运行在 Kubernetes上的应用程序提供简单、完整且独 立的服务网格解决方案，包括处理在Kuberne- tes集群上运行的微服务的流量管理、策略执行 和可观测性等任务，以简化应用程序的部署和 管理。OSM于2020年8月推出，同年加入云原 生计算基金会（CNCF）。不久后，该项目成为 云原生计算基金会（CNCF）沙箱级别的项目。 2022年初，OSM正式发布v1.0 真正执行。 KSOC推出业内首个实时 Kubernetes安全态势管理平台 近日，KSOC推出业内首个实时Kubernetes安 全态势管理平台。Kubernetes安全态势管理平 台可以通过实时上下文以及当前和历史信息准 确定位攻击活动，同时还可以根据集群的当前 状态提供可操作的补救措施。具体功能包括： • 实时态势管理，发现基于事件的错误配置； • 汇总并找到Kubernetes RBAC中的过度权限；

海外⼈才加⼊：
i. ⼤模型⽅⾯。团队成员发明了RoPE相对位置编码，是Meta
LLaMa和Google
PALM等⼤多数 主流模型的重要组成部分；发明了group
normalization，是Stable
Diffusion等AI模型成功 的关键组件；发明了
Transformer-XL，是历史上第⼀个在词级别和字级别都全⾯超越RNN 的注意⼒语⾔模型，解决了语⾔建模上下⽂⻓度的关键问题，定义了语⾔建模的新标准；曾 机器）分 布式系统数量级性能优化的经验。
c. ⽬前团队⼈数超过
80
⼈，每个⽉都有在全球某个领域有显著影响⼒的⼈加⼊。
2.
团队聚焦底层技术创新，技术Vision强
a. 引领⼤模型的“⽆损⻓上下⽂”时代。2023年10⽉上旬，在产品
Kimi
智能助⼿中实现“⽆损 ⻓上下⽂窗⼝（Lossless
Long
Context
Window）”，⽀持
20
万汉字输⼊，实现对⻓⽂本的⽆ 和中⽂能⼒上
Kimi
智能助⼿依然领先。
b. 聚焦底层技术创新，不⾛技术捷径。最早提出“Lossless
Long
Context
可以解决
90%
以上的 模型定制问题”，坚持对数据的⽆损压缩，实现模型能⼒的提升，不⾛技术捷径（通过滑动窗 ⼝、降采样、⼩模型等技术实现上下⽂窗⼝延⻓，都是“技术捷径”）
c. 通过这篇⽂章，您可以了解更多技术⽅⾯信息：专访⽉之暗⾯杨植麟：lossless
long
context
is

角色间互相配合，有效协作，达成技术交流或商业目的。开源运营和治理环 节，无论是由企业主导还是由基金会主导，在整个开源项目过程中都处于关键位置，包含软件开发和发行、市场推广、版 本迭代更新、版权管理和安全管理等内容，这些环节和商业企业的软件项目有一些相似之处，但更加注重从社区的使用者 和贡献者处得到观点和启发，并用以驱动项目未来的发展。 开源软件主体和产业链关系 源作者 软件作品 企业开源 开源基金会 www.iresearch.com.cn 来源：艾瑞咨询研究院自主研究及绘制。 企业的开源商业模型（一） 软件开源为企业带来直接收益、渠道收益、行业生态收益 从商业成功的角度上看，企业发布开源软件能够为自身带来直接商业化收益、渠道收益和市场影响力提升带来的产业协同 收益。其中，直接商业化收益 开 源运营，而开源运营的核心是通过不断提升用户和贡献者的数量来构建“质”和“量”互相驱动和促进的良性循环。如果 没有成功的开源运营，软件开源就无法产生显著的商业化效果。 企业实施软件开源战略的商业模型 企业之内 企业之外 软件开源 用户增长 加速创新 产品升级 提供付费订阅版本 提供专业配套服务 引流产生广告收入 直接 商业化 渠道化 为互补产品宣传、导流 提升企业市场声量

家参与问卷并发表自己的想法。 通过 44 项左右问题的统计调查与分析，我们希望能够还原出当前中国开源社区的真实现状， 从而为开源的后来人提供权威的参考。 调查对象 ：覆盖开发者、社区成员、贡献者、学生、政府企业管理人员 调查内容 ：主要涵盖个人信息、工作状况、开源社区以及开发者技术 调查方法 ：以在线问卷方式搜集样本和数据，交叉对比法分析数据 推广方法 ：线上社交媒体、博客、开源社、开源中国网站 问题数量 中讨论问题，但受限于微信群的规模 以及非公开的讨论问题的方式，需要聊天机器人等辅助工具才能达成开源社区的沟通需要。 34 4.7 开源社区中重要的角色 受访者们认为开源社区中核心开发者、社区管理人员、普通开发者、布 道师都是很重要的角色，他们共同支持着社区的良好运转。 专家点评 堵俊平：大家对开源社区中各种角色的认知还有局限性，这里列出的除了代码开发就是布道，其实还有运营、 法务、营销等角色，共同构成了社区的贡献者。 几乎是无法 替代的体验，相信后续我们通过工具和形式创新，探索出合适合中国开发者的混合活动最佳实践。 4.11 聊天运维工具 目前，绝大多数的受访者都没有使用过聊天运维工具来进行项目的自动 化管理，而对于使用过该类工具的受访者来说，Hubot 是使用最多的聊 天运维工具，而且多数人不清楚具体的技术细节。 2021 中国开源年度报告 39 4.12 度量开源社区的必要性 超过 9 成

authoritative reference for the later generations of open source. 调查对象 ：覆盖开发者、社区成员、贡献者、学生、政府企业管理人员 Target: Covering developers, community members, contributors, students, government and corporate communities. 4.7 开源社区中重要的角色 / 4.7 Important players in the open source community 受访者们认为开源社区中核心开发者、社区管理人员、普通开发者、布道师都是很重要的角 色，他们共同支持着社区的良好运转。 Respondents identified core developers, community managers tools and format innovation. 4.11 聊天运维工具 / 4.11 ChatOps Tools 目前，绝大多数的受访者都没有使用过聊天运维工具来进行项目的自动化管理，而对于使用过 该类工具的受访者来说，Hubot 是使用最多的聊天运维工具，而且多数人不清楚具体的技术 细节。 Currently, the vast majority of respondents

作，以及开源能够为世界带来什么等主题。 通过近 60 项左右问题的统计调查与分析，我们希望能够还原出当前中国开源社区的真实现 状，从⽽为开源的后来⼈提供权威的参考。  调查对象：覆盖开发者、社区成员、贡献者、学⽣、政府企业管理⼈员  调查内容：主要涵盖个⼈信息、⼯作状况、开源社区以及开发者技术  调查⽅法：以在线问卷⽅式搜集样本和数据，交叉对⽐法分析数据  推⼴⽅法：线上社交媒体、博客、开源社、开源中国⽹站 上， 都有举办女性论坛的传 统。 2020 年的 COSCon 上， 我们邀请到了开源社区中的女性领袖，以她们独特能力和视角 将整个社区链接起来。GitHub COO Erica Brescia，管理着超过 5千万程序员的社区； Stormy Peters，从 GNOME 基金会执行总监，到现在负责着微软的开源办公室；来自亚洲 越南的 Hong Phuc Dang，从创办 FOSSASIA 开始参与开源，目前出任着 X 三分天下。 6.6 会议⼯具 腾讯会议是⽬前参与者们使⽤最多的会议⼯具，其次则是 Zoom、钉钉。 6.7 聊天运维⼯具 ⽬前，绝⼤多数的参与者都没有使⽤过聊天运维⼯具来进⾏项⽬的⾃动化管理，⽽对于使⽤过 该类⼯具的参与者来说，Hubot 是他们使⽤最多的 ChatOps ⼯具。 6.8 开源平台 如果要开源⾃⼰的项⽬，87% 参与者都表示将会在 GitHub 来开源⾃⼰的项⽬，其次则是