TOP101-2024 大 模 型 观 点 编委会 21 | 2024 年中国开源模型：崛起与变革 26 | 开源模型未必更先进，但会更长久 30 | 大模型撞上“算力墙”，超级应用的探寻之路 36 | AI 的三岔路口：专业模型和个人模型 40 | 2024 年 AI 编程技术与工具发展综述 45 | RAG 的 2024：随需而变，从狂热到理性 51 | 大模型训练中的开源数据和算法：机遇及挑战 | AI Agent 逐渐成为 AI 应用的核心架构 68 | 谈开源大模型的技术主权问题 72 | 2024:大模型背景下知识图谱的理性回归 77 | 人工智能与处理器芯片架构 89 | 大模型生成代码的安全与质量 93 | 2024 年 AI 大模型如何影响基础软件行业中 的「开发工具与环境」 98 | 推理中心化：构建未来 AI 基础设施的关键 Part 1：中国开源开发者生态数据 高瞻，Gitee AI 运营 设计：张琪 开发者是开源生态的重要支柱。 本章结合 、 的数据分 析，勾勒 2024 年中国开源开发者的整体画像趋势轮廓，主要 反映中国开源开发者使用开源大模型概况、开源项目/组织健康 度，以及中国开源社区的生态评估等情况。 Gitee 数据篇 本报告数据来源：2024年1月至2024年12月 Gitee及Gitee AI平台相关公开数据 4 / 111

1 1 /*使用电脑阅读，获得最佳体验 1 1 序 毫无疑问，开源开发者圈子来看，2023 年是大模型 LLM 年、生成式 AI GenAI 年。 一、 这自然要从 OpenAI 说起，前一年年底，ChatGPT 的横 空出世，标志着对话式 LLM 开始进入公众视野，为人们 提供了全新的人机交互方式。而 2023 年 3 月，同系 GPT-4.0 的发布则将 LLM 的规模和能力提升到一个新 Google 紧随其后推出 Bard，作为其首次亮相的对话 LLM 产品，无疑具有其里程碑意义，尽管它的首秀并不尽 如人意，车翻了又翻。 三、 Claude 2、PaLM 2、Llama 等模型与产品也展现了 LLM 在语言理解和多模态处理能力方面的探索，甚至 Claude 2 还一度被誉为实力可以硬刚 ChatGPT。而 Meta 开源的 Llama 2 更成为了 LLM 领域开源势力的典型代表，它的 Gemini 与“磁力链开源” Mistral 8x7B 两大神作，也凭借不输 GPT-4 的实力，将 LLM 狂 潮卷到天际。 四、 Stable Diffusion 和 Midjourney 这两大图像生成系统 的出现，极大地拓展和加速了 LLM 在计算机视觉领域的应 用，它们突破了传统图像生成方式的局限，仅需要用户提供 文字描述，就可以生成高质量的数字艺术作品。它们的图像 生成质量、样

企业服务品牌，定位于领先的数字化转型 技术与服务提供商，为客户提供创新、可靠的国产软件基础平台产品及相 应技术服务，业务覆盖云原生基础软件、数据智能全链路产品、人工智能 算法应用三大领域，旗下拥有轻舟、有数、易智三大产品线，致力于帮助 客户搭建无绑定、高兼容、自主可控的创新基础平台架构，快速应对新一 代信息技术下实现数字化转型的需求。 网易数帆依托网易二十余年互联网技术积累，系列软件基础平台产品和技 《Gartner 2020 中国 ICT 技术成熟度曲线》数据中台领域标杆厂商 信通院“大数据'星河'案例-行业大数据应用优秀案例” 信通院 OSCAR 尖峰开源创新（二次开发）奖 云计算开源产业联盟云原生十大优秀案例 infoQ 中国技术力量年度榜单 InfoQ2020 最有价值技术团队 InfoQ2020 最佳技术社区驱动力奖 思否 SegmentFault 中国技术品牌影响力企业 DTCC 第十一届中国数据库技术大会创新产品奖 注册发现 服务治理 服务路由 流量染色 服务化 将企业能力转化为数字化的 服务，打破企业软件应用中数 据孤岛等现状。 敏捷 通过小步快跑的方式敏捷迭 代，不断适应市场与业务需求 的变化，摆脱缓慢的大版本更 新与业务需求脱节的窘境。 高效 通过自动化与生产协作方式 的优化，多环节提升软件生产 的效率。 开放 基于开放的技术体系，打造开 放的软件架构。 轻舟云原生软件生产力平台 2.0 能力全景图

国内基础软件开源界定 基础软件 具备能衍生出并支撑 多个技术簇的一类根 技术软件，拥有技术 门槛高、衍生场景复 杂等特点 中间件：不同系统和应用程序之间交互 与协作的桥梁 AI框架：具备构建和部署人工智能模型 的基础的全套开发工具 操作系统：是软硬件资源的资源管理者， 为用户与应用程序提供交互接口 数据库：通过对数据的访问与管理，支 持各种应用程序和业务的需求 编程语言：人与计算机交互的“语言”， 制。 来源：开源社《 2022年中国开源年度报告》，艾瑞咨询研究院自主研究及绘制。 开源开发者洞察（1/2） 开源使用者多于开源贡献者，寻求知识增长、自我认同与职业发展是开 发者参与开源社区的三大主要原因 开源社区中，使用开源项目的开发者占比最高，达到27.8%，仍将社区视为获取资源的重要渠道。同时我们看到，也有18.2%的开发 者对社区做出了代码贡献，比例排名第二。在开发者参与开源贡献的原 秉持科技、公益、慈善的属性，华为、阿里巴巴、百度等多家行业龙头于2020年发起设立开放原子开源基金会，是目前为止中国境 内最重要的开源产业非盈利机构，为行业中各参与者提供战略咨询、法律赋能、项目运营、品牌推广四大能力加持。3年内，开放原 子基金会在包括操作系统、中间件、数据库的基础软件及其他共12个重点领域已通过32个开源项目的技术准入，汇聚产业领袖、行 业专家与“技术大神”，履行了“提升我国对全球开源贡献”这一重要使命。

海外⼈才加⼊：
i. ⼤模型⽅⾯。团队成员发明了RoPE相对位置编码，是Meta
LLaMa和Google
PALM等⼤多数 主流模型的重要组成部分；发明了group
normalization，是Stable
Diffusion等AI模型成功 的关键组件；发明了
Transformer-XL，是历史上第⼀个在词级别和字级别都全⾯超越RNN 的注意⼒语⾔模型，解决了语⾔建模上下⽂⻓度的关键问题，定义了语⾔建模的新标准；曾 机器）分 布式系统数量级性能优化的经验。
c. ⽬前团队⼈数超过
80
⼈，每个⽉都有在全球某个领域有显著影响⼒的⼈加⼊。
2.
团队聚焦底层技术创新，技术Vision强
a. 引领⼤模型的“⽆损⻓上下⽂”时代。2023年10⽉上旬，在产品
Kimi
智能助⼿中实现“⽆损 ⻓上下⽂窗⼝（Lossless
Long
Context
Window）”，⽀持
20
万汉字输⼊，实现对⻓⽂本的⽆ 和中⽂能⼒上
Kimi
智能助⼿依然领先。
b. 聚焦底层技术创新，不⾛技术捷径。最早提出“Lossless
Long
Context
可以解决
90%
以上的 模型定制问题”，坚持对数据的⽆损压缩，实现模型能⼒的提升，不⾛技术捷径（通过滑动窗 ⼝、降采样、⼩模型等技术实现上下⽂窗⼝延⻓，都是“技术捷径”）
c. 通过这篇⽂章，您可以了解更多技术⽅⾯信息：专访⽉之暗⾯杨植麟：lossless
long
context
is

全域事件⽇志进⾏统计分析（2020 年共计 8.74亿条），相较 2019 年的 5.46 亿条增⻓约 60%。并对分析出的部分项⽬进⾏⼈⼯标注，挑选出中国的个⼈开发 者和企业组织，同时构建了科学合理的数学模型进⾏分析。 在开发者活跃度与项⽬活跃度的定义下，本次统计得到 2020 年总活跃项⽬数量约 5,373万 个，相较 2019 年的约 3,972 万 增⻓约 35.3%；2020 年 GitHub 活跃度，也可以看出其社区的活跃程度。 百度在⼈⼯智能领域的表现⾮常不错，其深度学习平台 PaddlePaddle 占据了 6 个项⽬，分 别是核⼼框架 Paddle 以及相关⼯具库、扩展版本和模型库 Models；此外开放⾃动驾驶平台 ApolloAuto/apollo 也榜上有名。 中国的 Top50 项⽬列表中，包括阿⾥的 Ant-Design 组件库，京东基于 React 前端框架的 GitHub 接受 Issue 与 PR，这让项⽬有了更加全⾯的发展。 （3）案例分析——MindSpore  项⽬简介 MindSpore 是⼀种适⽤于端边云场景的新型开源深度学习训练/推理框架。 MindSpore 提供 了友好的设计和⾼效的执⾏，旨在提升数据科学家和算法⼯程师的开发体验，并为 Ascend AI 处理器提供原⽣⽀持，以及软硬件协同优化。 项⽬地址：https://gitee

于调研的分析报告不过是纸上谈兵。问卷 从两个角度展开，其中包括个人信息（包括工作信息和开发者技术信息）和开源社区参与 情况，与往年不同的是，今年我们加入了开源社区度量和开源商业化相关的话题，欢迎大 家参与问卷并发表自己的想法。 通过 44 项左右问题的统计调查与分析，我们希望能够还原出当前中国开源社区的真实现状， 从而为开源的后来人提供权威的参考。 调查对象 ：覆盖开发者、社区成员、贡献者、学生、政府企业管理人员 公司在购买开源产品时，多由工程团队负责人（技术总监 / 架构师 /TL）来进行产品的选择， 而且在同类型软件的购买中，半数的人会考虑软件供应商对开源社区的贡献，但不是主要 的考虑因素，只有在产品性能差别不大时，才会选择对开源社区贡献大的供应商。 参与者首次参与 / 转而参与开源项目的原因多为主观原因，例如更好的技能施展空间、更和谐的 社区氛围、更多的朋友，而应公司所在组织的要求来参与开源社区的占比很小。 与去年类似，参与开源 生 在开源中所展现出的编程技能、沟通能力及合作精神，因此这其中应该也不乏各种刷榜行为，需要开源项目所 有者更多关注学生贡献者增多所带来的质量、合规等问题。 杨丽蕴：我国开源人才后备力量足、基数大。 我国高校越来越重视开源人才的培养 , 越来越多的学生参与到开 源开发中，开源人才培养周期前置，越来越多的学校开设开源课程，希望后续可以实现在学习计算机、编译原 理、软件工程等理论知识的同时，让

公司在购买开源产品时，多由工程团队负责人（技术总监 / 架构师 /TL）来进行产品的选 择，而且在同类型软件的购买中，半数的人会考虑软件供应商对开源社区的贡献，但不是 主要的考虑因素，只有在产品性能差别不大时，才会选择对开源社区贡献大的供应商。  When companies buy open source products, the engineering team leader (technical director/architect compliance and other issues brought about by the increase in student contributors. 杨丽蕴：我国开源人才后备力量足、基数大。 我国高校越来越重视开源人才的培养,越来 越多的学生参与到开源开发中，开源人才培养周期前置，越来越多的学校开设开源课程， 希望后续可以实现在学习计算机、编译原理、软件工程等理论知识的同时，让学生学习掌 责人（技术总监/架 构师/TL）来进行产品的选择，而且在同类型软件的购买中，半数的人会考虑软件供应商对开 源社区的贡献，但不是主要的考虑因素，只有在产品性能差别不大时，才会选择对开源社区贡 献大的供应商。 When companies buy open source products (commercial products based on open source projects)

结合自由软件所蕴含的创新性理念与 私有软件的创新性理念与私有软件的 开源软件的【模式探索期】 商业化能力的发展模式，当今 的“开源软件”理念在此时应 运而生 • 1998年，开源组织OSI正式提出 “开源”理念及其十大规范特性， 开源软件产业进入成长期 • 20世纪末互联网经济的加速发展为 开源软件提供了良好的发展环境 7 ©2022.2 iResearch Inc www.iresearch.com.cn 来源：艾瑞咨询研究院自主研究及绘制。 企业的开源商业模型（一） 软件开源为企业带来直接收益、渠道收益、行业生态收益 从商业成功的角度上看，企业发布开源软件能够为自身带来直接商业化收益、渠道收益和市场影响力提升带来的产业协同 收益。其中，直接商业化收益 开 源运营，而开源运营的核心是通过不断提升用户和贡献者的数量来构建“质”和“量”互相驱动和促进的良性循环。如果 没有成功的开源运营，软件开源就无法产生显著的商业化效果。 企业实施软件开源战略的商业模型 企业之内 企业之外 软件开源 用户增长 加速创新 产品升级 提供付费订阅版本 提供专业配套服务 引流产生广告收入 直接 商业化 渠道化 为互补产品宣传、导流 提升企业市场声量

AKS正式推出网络方案 Azure CNI Overlay Azure CNI Overlay可以利用覆盖的网络来降低 IP地址的使用率，同时提供更好的性能和可扩 展性。借助该功能，AKS集群可以扩展至非常 大的规模，并且用户定义的私有CIDR还可以在 不同AKS集群中重复使用，从而大幅扩展了 AKS中运行的容器化应用程序可用的IP空间。 02 前沿技术 全球开源态势洞察｜第十期 04 Envoy Gateway Face、微软、英伟达与Stability AI等 顶尖人工智能提供商，共同参与对生成式人工 智能系统的公开安全评估。 AI Village组织方将这个合作活动描述为“有史 以来规模最大的人工智能模型红队演习”。将 有数千人参与对公共人工智能模型的评估，期 间使用的评估平台由Scale AI负责开发。 近日，微软发布了一个补丁，用于修复Secure Boot绕过漏洞。在2023年1月份，微软释出补 丁修复了编号为CVE-2022-21894的漏洞，但 多的人了解如何开展红队测试和评估人工智能模 型，才能解决这些模型中的各种问题。”通过对 人工智能模型组开展最大规模的红队演习，AI Village和DEF CON希望能培养出处理人工智能 系统漏洞的研究者社区。事实证明，大语言模型 的锁定难度远超想象，部分原因在于所谓“提示 词注入”技术。人工智能研究员Simon Willison 详细介绍了提示词注入的危险，这种技术可以令 语言模型偏离正轨，执行创建者想要回避的操 作。在DEF