www.iresearch.com.cn 基础软件开源界限划分 操作系统、数据库、中间件、AI框架底层代码按规范进行共享与协作 本篇报告研究的基础软件开源范围，是指研究“开源”中“基础软件”板块的情况。开源过程中，参与者可以共享、协作完成开发， 正好与基础软件庞大的开发量需求相契合。 制。 对于这四类基础软件（操作系统、数据库、AI框架、中间件），其编写者将实现功能的代码按照一定的开源规范 开放，任何人可以查看、使用、贡献，同时，使用者也要遵循一定的开源规范。 基础软件开源范畴界定 国内基础软件开源界定 基础软件 具备能衍生出并支撑 多个技术簇的一类根 技术软件，拥有技术 门槛高、衍生场景复 杂等特点 中间件：不同系统和应用程序之间交互 与协作的桥梁 AI框架：具备构建和部署人工智能模型 www.iresearch.com.cn 中国基础软件开源产业主要参与者图谱 来源：根据专家访谈、公开资料，由艾瑞咨询研究院自主研究及绘制。 中间件 操作系统 AI框架 数据库 开源技术论坛 开源产业联盟 开源组织 基础软件开源项目 开源基金会 开源社区评估机构 X-Deep Learning 开源代码托管平台 11 ©2023

编程技术与工具发展综述 45 | RAG 的 2024：随需而变，从狂热到理性 51 | 大模型训练中的开源数据和算法：机遇及挑战 57 | 2024 年 AI 编程工具的进化 62 | AI 开发者中间件工具生态 2024 年总结 66 | AI Agent 逐渐成为 AI 应用的核心架构 68 | 谈开源大模型的技术主权问题 72 | 2024:大模型背景下知识图谱的理性回归 77 | 人工智能与处理器芯片架构 98%以上。比直接把大文本扔进同一个 LLM 测试的问答准确率 几乎高出 14 个百分点。 有同学会说，LLM 幻觉的深层原因是 temperature 或者说概率引起的。就我纯个人观点来 看，现当下的 LLM 参数足够大、知识量足够多，temperature 引起的偏差对于最终结果的正确 性影响已经微乎其微了。 （三）市场表现 你应该看出来了，在 RAG 和微调之间，我明显站队了，而且从一年前就开始站队了，我们 日，开放源代码促进会（Open Source Initiative，OSI）发布了关于“开 源 AI 定义（OSAID）”1.0 版本，其规定了 AI 大模型若要被视为开源必须具备三个三个：训练 数据透明性、完整代码、模型参数。虽然对比目前市面上的“开源模型”，少有能力较高的模型 能完全符合，但这种声明本身就是一种开源开放态度的彰显。 我相信，在更加透明的数据集和算法的支持下，模型将在可控性上获得更好的发展机遇，相

主机部署 策略部署 开放 治理 监控 事务 管理 DevOps 多云部署 服务治理 能力扩展 中间件高可用 全链路监控 容器平台NCS 轻舟混合云 多云管理 多集群管理 镜像仓库 容器管理 轻舟低代码 应用管理 可视化开发 WebIDE 一键发布 资产中心 轻舟中间件 中间件PaaS RDS MySQL Redis Kafka RocketMQ RabbitMQ Elastiscearch 可灵活集成公司现有研发资产 提供一站式云原生应用管理平台 灵活管理应用及制品 PRODUCT 企业级应用快速开发平台，助力企业提升开发效率降低开发成本。 轻舟低代码 14 生命周期管理 丰富的中间件及统一的管控平台，支持 全生命周期的运维操作。 高可用 支持节点、可用区级故障，灵活调度策 略，有效保障数据安全性与可用性。 故障恢复 支持 Node 级和实例级故障自动恢复， 无需人工值守。 高级部署策略 支持主机和容器部署，滚动部署、灰度 部署、蓝绿部署多种高级部署策略。 产品能力 产品能力 PRODUCT 提供企业已有主机中间件和基于 Kubernetes 构建的云原生中间件生命周期管理和自动化运维能力的 PaaS 平台。 轻舟中间件 云原生基础设施管理平台，支持应用从代码、部署、运维全生命周期管理。 轻舟混合云 15 大数据底座 Hadoop Spark Flink

的 GPT-4 更先进。 Meta 开源Llama 2 2023 年 3 月 15 日，由 OpenAI 前成员创立的 Anthropic 发布对话 AI 产品 Claude，包含 520 亿个参数。 与 ChatGPT 类似，Claude 能够执行各种基于文字对话的任务，如文档搜索、 摘要、写作、编码，以及响应用户的提问。 四个月后，Anthropic 推出 Claude 2。Claude 这是蚂蚁自研的代码生成专属 大模型，帮助开发者自动生成代 码、自动增加注释、自动生成测 试用例、修复和优化代码等。 2023 年 8 月，阿联酋研究团队宣布开源阿拉伯语大模型 Jais。Jais 是一个 经过 130 亿个参数预训练的阿拉伯语和英语双语大型语言模型，在包含 720 亿个阿拉伯语词块和 2790 亿个英语 / 代码词块的数据集上进行训练。 谷歌发布 AI 代码编辑器：Project IDX 2023 年 孵化项目被公然抄袭，开源世界真 的会变得更好吗？ TII（阿联酋阿布扎比技术创新研究所）在 2023 年 5 月推出了号称是 “史上最强的开源大语言模型” Falcon（猎鹰）。虽然 Falcon 的参数比 LLaMA 小，但性能却更加强大。 但 Falcon 采用了自拟的 TII Falcon LLM License——在 Apache License 的基础上进行了一系列修改。 TII Falcon

相关产品仍然是⼤家了解 和接触开源的最初窗⼝。 4.7 最希望能够开源的产品 相⽐于 2019 年，开发⼯具在今年成为⼤家最希望能够开源的产品类型第⼀名，紧接着的是操 作系统，数据库产品与中间件产品也是很多⼈希望能够开源的产品类型。 4.8 企业对开源的贡献 在参与者眼中，GitHub 对于开源软件的贡献最⼤，其次是 Google，⽽在国内企业中， Alibaba、Huawei 和 Baidu ⼊围中国开源项⽬排⾏榜 Top50。 Apache 软件基⾦会下属的中国开源项⽬中，最活跃的项⽬是 apache/shardingsphere， Apache ShardingSphere 是⼀套开源的分布式数据库中间件解决⽅案组成的⽣态圈，它由 JDBC、Proxy 和 Sidecar（规划中）这 3 款产品组成，该项⽬已于 2020 年 4 ⽉ 16 ⽇成为 Apache 基⾦会的顶级项⽬。 apac

于软件的 运维，那么可以选择 SaaS 作为商业模式。但是要面对公共云厂商竞争的潜在风险。 不是所有开源软件都适合做商业化。根据对美国开源独角兽公司的相应研究，发现大数据、AI、企业搜索、 中间件和操作系统这几个领域相对是容易商业化的。相反一些前端的控件，关注度很高，但是很难设置 收费点，商业化会有难度。因此成功的开源公司有成熟的商业模式，并且通常在美国有对标的项目。 资料来源：GitHub，云启资本 5.5 EMQ 映云科技 EMQ 公司是一家开源物联网数据基础设施软件供应商。EMQ 开源项目发起于 2013 年，2017 年在杭 州正式成立公司，致力于提供覆盖云边端的开源物联网消息中间件及流数据库产品，⼀站式满足企业在 5G 时代物联网实时数据移动分发、流处理及分析的需求。有超过 10 个开发团队，分布在世界各地。目 前，EMQ 国内在北京、上海、深圳、南京、昆明设有分支机构；海外研发总部设在斯德哥尔摩，在瑞典、

risk of competition from public cloud vendors. 不是所有开源软件都适合做商业化。根据对美国开源独角兽公司的相应研究，发现大数据、AI、 企业搜索、中间件和操作系统这几个领域相对是容易商业化的。相反一些前端的控件，关注度 很高，但是很难设置收费点，商业化会有难度。因此成功的开源公司有成熟的商业模式，并且 通常在美国有对标的项目。 Not all 5.5 EMQ 映云科技 EMQ 公司是一家开源物联网数据基础设施软件供应商。EMQ 开源项目发起于 2013 年， 2017 年在杭州正式成立公司，致力于提供覆盖云边端的开源物联网消息中间件及流数据库产 品，⼀站式满足企业在 5G 时代物联网实时数据移动分发、流处理及分析的需求。有超过 10 个开发团队，分布在世界各地。目前，EMQ 国内在北京、上海、深圳、南京、昆明设有分支机

升，云服务正在逐步成为数字化时代企业级IT基础设施的标配，而传统意义 上的不同层次的云服务中，IaaS、PaaS和虚拟机等基础云服务产品中不乏开源产品的身影——这也和传统IT架构中底层操 作系统和中间件所处的位置相似。本报告第一章已经提到，传统IT架构中，处于底层的操作系统、数据库管理系统等软件 更有可能是开源软件，这些厂商更有可能将开源作为提升用户技术、扩大市场影响力的战略手段。同样的，在整个云服务

才会提升模型的能⼒。 杨植麟：你可以认为带
MoE
和不带
MoE
是两条
scaling
law。本质上
scaling
law
刻画的是
loss
跟参 数量之间的关系。MoE
改变了这个函数，让你能够⽤更⼤的参数，但同时
FLOPs
不变。合成数据改变 的是另⼀个关系，FLOPs
不变的情况下让数据规模增⻓。
沿着
scaling
law
⼀直⾛是个有确定性的事情，⼤家通过试图改变
scaling
law
⾥的具体关系来获得更 ⼀个统⼀的表⽰空间以及可规模化的数据⽣产。


海外独⻆兽：如果算⼒⾜够，会有⼈想做⼀个万亿参数的
dense
model
吗？
杨植麟：取决于推理成本的下降速度，但我觉得肯定会有。现在⼤家是因为推理成本太⾼，所以都在 做
tradeoff。但是最终直接训练⼀个万亿的
dense
model
肯定效果会⽐⼀个只有千亿参数的模型要 好。
海外独⻆兽：Anthropic
⼀直在提模型的可解释性，这⼀点其实有蛮多争论。你是如何思考可解释性 产品Kimi
智能助⼿，具备世界级的⻓⽂本处理能⼒，该 产品⽀持约20万字中⽂的上下⽂⻓度，使得整体表现⾮常惊艳。杨植麟认为，如今基于Transformer架 构的⼤模型，是“新时代的计算机”，参数数量决定计算复杂度，上下⽂⻓度决定内存⼤⼩⸺因此， 上下⽂⻓度是毫⽆疑问的关键所在。 上下⽂⻓度也正是近期AI圈中的⽐拼热点，各家都在这⼀指标上你追我赶。但这背后的核⼼问题在 于：什么才是真正有效的规模化？

以便进行更全面的分析和监控； • 支持对所有主机进行外部授权； • HttpProxy的条件块还增加了对精确路径匹 配条件的支持； • 支持内部重定向； • 对基于HTTPProxy资源的路由实现了HTTP 查询参数匹配功能。 Flagger v1.31.0发布 Flagger是基于Kubernetes的开源工具，用 于实现持续交付和自动化部署。它提供流量分 配管理、故障检测和回滚机制等功能，帮助开 发人员和运维团队实现高效可靠的应用程序部