© XXX Page 1 of 19 curvefs copyset与fs对应关系© XXX Page 2 of 19 版本 时间 修改者 修改内容 1.0 2021/7/23 陈威 初稿 1.1 2021/8/4 陈威 根据评审意见修改 1.2 2021/8/9 陈威 增加详细设计 1、背景 2、chubaofs的元数据管理 2.1、meta partition的创建 2.2、meta 2、meta partition的管理 2.3、meta partition和inode以及dentry的对应关系？ 3、curvefs的copyset和fs的对应关系 3.1 如何获取inodeid 3.2 copyset fs共用吗？ 3.3 copyset个数是否可以动态调整？ 4、curvefs的topo信息 5、curvefs mds和metaserver的心跳 6、详细设计 6.1 创建fs B的空间。而curvefs的元数据，并不能一次申请一批在client端，而是每次都需 要去metaserver上去进行分配。 这里需要重新考虑curvefs的copyset和fs的元数据分片的对应关系。© XXX Page 3 of 19 2、chubaofs的元数据管理 chubaofs（补充链接）的元数据也是采用的raft的方式进行管理，可以借鉴一下chubaofs的元数据的分片策略。

开源操作系统的构建过程，也是供应链聚合优化的过程。拥有可靠开源软件供应链，是大规模商用操作系统的基础。 openEuler 从用户场景出发，回溯梳理相应的软件依赖关系，理清所有软件包的上游社区地址，源码和上游对应验证。完 成构建验证、分发、实现生命周期管理。开源软件的构建、运行依赖关系、上游社区，三者之前形成闭环且完整透明的软 件供应链管理。 openEuler 开放透明的开源软件供应链管理 服务器 云计算 边缘 嵌入式 HBM）中以提高计算速度。加速器厂商们也不可避免地需要开发复杂的内存管理系统。 现行加速器内存管理方案存在诸多缺陷： • CPU 侧内存管理与加速器侧分离，数据显式搬移，加速器内存管理的易用性和性能难以平衡。 • 大模型场景下加速器设备 HBM 内存（Hign BandWidth Memory）严重不足，现有的手动 swap 方案性能损耗大且 通用性差。 • 搜推、大数据场景存在大量无效数据搬移，缺少高效内存池化方案。 前上限为 CPU 的 DRAM 容量）。GMEM 将较冷的设备内存页换出到 CPU 内存上，拓展了应用处理的问题规模，实现高性能、低门槛训推。 通过 GMEM 提供的极简异构内存管理框架，在超大模型训练中，GMEM 性能领先 NVIDIA-UVM。随着内存使用量增长，领 先比例不断提升，在超分两倍以上时可领先 NVIDIA-UVM 60% 以上。（数据基于 NPU-Ascend910 与 GPU-A100

开源操作系统的构建过程，也是供应链聚合优化的过程。拥有可靠开源软件供应链，是大规模商用操作系统的基础。 openEuler 从用户场景出发，回溯梳理相应的软件依赖关系，理清所有软件包的上游社区地址、源码和上游对应验证。完 成构建验证、分发、实现生命周期管理。开源软件的构建、运行依赖关系、上游社区，三者之前形成闭环且完整透明的软 件供应链管理。 openEuler 开放透明的开源软件供应链管理 服务器 云计算 边缘 嵌入式 优先级负载均衡特性 负载均衡 FIFO 任务迁移队列不区分优先级，无法解决跨核迁移抢占保障高优先级，特别是 CPU 敏感型任务的优先调 度，针对在线、离线容器混部场景下，CFS 负载均衡需要提出一种优先级队列模型，支持高低优先级的 QoS 负载均衡，确 保在线业务能更快得到调度和执行，最大化压制离线任务的 QoS 干扰，提高整机 CPU 资源利用率。 混部场景中，开启了 CPU QoS 优先级负载均衡特性，需要将 热补丁生命周期管理 SysCare 提供一套完整的，傻瓜式补丁生命周期管理方式，旨在减少用户学习、使用成本，通过单条命令即可对热补 丁进行管理。依托于 RPM 系统，SysCare 构建出的热补丁依赖关系完整，热补丁分发、安装、更新与卸载流程均无需进行 特殊处理，可直接集成放入软件仓 repo。 功能描述 builder cli build system kpatch upatch kernel

开源操作系统的构建过程，也是供应链聚合优化的过程。拥有可靠开源软件供应链，是大规模商用操作系统的基础。 openEuler 从用户场景出发，回溯梳理相应的软件依赖关系，理清所有软件包的上游社区地址，源码和上游对应验证。完成 构建验证、分发、实现生命周期管理。开源软件的构建、运行依赖关系，上游社区，三者之前形成闭环且完整透明的软件供 应链管理。 Intel Linaro Red Hat AMD Google Huawei 数据读写压力的方法。准确的检测方法可以帮资 源使用者确定合适的工作量，帮助系统制定高效 的资源调度策略，最大化利用系统资源，改善用 户体验。 8. TCP 发包切换到了 Early Departure Time 模型： 解决原来 TCP 框架的限制，根据调度策略给数据 包设置 Early Departure Time 时间戳，避免大的 队列缓存带来的时延，同时大幅提升 TCP 性能。 9. 支持 MultiPath 内存访问效率。 • IO 子系统增强：支持多通道并发 IO 能力，提高 IO 性能。支持 IO-QOS 能力，提升虚拟机 IO 流量管理的灵活性和 稳定性。 • 系统调用过滤：通过极简设备模型设计和 SECOMP 过滤系统调用，最简配置下仅需使用 35 个系统调用，有效减小 系统攻击面。 更多详细内容请参考 openEuler 20.09 技术白皮书：https://openeuler

开源操作系统的构建过程，也是供应链聚合优化的过程。拥有可靠开源软件供应链，是大规模商用操作系统的基础。 openEuler 从用户场景出发，回溯梳理相应的软件依赖关系，理清所有软件包的上游社区地址、源码和上游对应验证。完成构建验证、 分发、实现生命周期管理。开源软件的构建、运行依赖关系、上游社区，三者之前形成闭环且完整透明的软件供应链管理。 openEuler 开放透明的开源软件供应链管理 平台架构 04 openEuler CANN 或 NVIDIA 的 CUDA 软件。 • AI 框架镜像：以 SDK 镜像为基础，安装 AI 框架软件，如 PyTorch 或 TensorFlow。 • 模型应用镜像：在 AI 框架镜像的基础上，包含完整的工具链和模型应用。 相关使用方式请参考 openEuler AI 容器镜像用户指南。 openEuler 使能 AI，向用户提供更多 OS 选择。基于 openEuler 的 AI 等应用的开发和调试。同时， 可在该类容器中运行高性能计算任务，例如大规模数据处理、并行计算等。 • AI 框架镜像：用户可直接在该类容器中进行 AI 模型开发、训练及推理等任务。 • 模型应用镜像：已预置完整的 AI 软件栈和特定的模型，用户可根据自身需求选择相应的模型应用镜像来开展模型推理或微调 任务。 应用场景 场景创新 12 openEuler 24.03 LTS 技术白皮书 EulerCopilot

 元数据获取及缓存  逻辑chunk与物理chunk映射关系  物理chunk所属的复制组(copyset)  复制组所在的chunkserver列表  复制组的leader信息  Failover支持  MDS：只有主MDS才会监听端口  ChunkServer：通过raft维护复制组内的主-从关系CLIENT IO流程 用户下发一个写请求 off: 8M len: 子请求由哪个chunkserver处理，依赖以 下信息：  逻辑chunk与物理chunk映射关系  物理chunk所属的复制组(copyset)  复制组所在的chunkserver列表  复制组的leader信息CLIENT IO流程 逻辑chunk与物理chunk映射关系 物理chunk所属的复制组(copyset)  由MDS分配并持久化，client拆分用户请 求时会获取并进行缓存  为了减少元数据量，MDS一次会连续分配 1G范围内的映射关系，称为SegmentCLIENT IO流程 复制组所在的chunkserver列表  chunkserver心跳定期上报给MDS  通过MDSClient向MDS获取 复制组的leader信息  复制组之间通过raft维护  通过CliClient向Chunkserver获取 这两种信息client也会进行缓存

开源操作系统的构建过程，也是供应链聚合优化的过程。拥有可靠开源软件供应链，是大规模商用操作系统的基础。 openEuler 从用户场景出发，回溯梳理相应的软件依赖关系，理清所有软件包的上游社区地址，源码和上游对应验证。完成构 建验证、分发、实现生命周期管理。开源软件的构建、运行依赖关系、上游社区，三者之前形成闭环且完整透明的软件供应链 管理。 嵌入式 服务器 基础公共服务 服务器 云计算 边缘 欧拉开源操作系 函数的生命周期管理 • 兼容 OCI 格式容器镜像，管理本地函数镜像资源 2. Wasm 轻量级协程调度框架 抽象 Wasm 实例执行上下文，支持轻量级高性能的用户态协程调度模型，并支持 JIT/AOT 多种 Wasm 实例执行模型。 应用场景 适用于按需启动短时间运行时的无状态 FaaS 函数任务，例如在 CDN 边缘计算场景下，可以部署客户自定义实现的请求 预处理函数，实现按需拉取、快速响应。 拓扑时的可见范围 2. 用户态工具部分 用户态工具提供的功能，是对接内核态上述功能提供的 sysfs 接口供用户使用，将目标应用运行在指定的隔离 CPU 上。 HPC 业务特征大部分符合 BSP 模型 (Bulk Synchronous Parallel Computing)：并行计算 + 通信 + 同步。系统噪声对这 类业务特征有较大性能影响。系统噪声指的是业务运行中执行的非应用计算任务，包括：系统

现数据驱动自动化运维。 机器驱动运维：基于智能算法 的机器自我学习，训练机器智能运 维模型，实现无人值守和智能的运 维与运营。 数据化 2015--2017 智能化 2017—现在 蓝鲸目前在腾讯应用情况及发展方向 4个转型的绊脚石 有重客户端游戏，网页游戏，各类官网，移动终端游戏， 大型游戏平台； 平铺式架构，拓扑关系复杂，模块数量上百，服务器数量 几千…… 腾讯游戏300多款业务中，大多数是由世界各地开发商开发 所使用的开发语言、开发框架、操作系统、数据库等技术， 是没有直观规律的。 开发商很难为了运维体系而对架构或技术做大规模的修改。 有几乎所有的业务类型 有几乎所有的流行技术 300多款游戏相互之间是没有关系的。 发布变更、故障处理等运维操作场景和操作流程是没有直 观规律的。 服务器数量，也就是操作单元，有二十余万。 随着容器技术的普及，操作单元的数量还会暴涨。 所有业务之间无关联 业务操作单元暴涨 CMP 跨系统编排 与调度 运行监控和故障管理 第三方监控接入 基础监控 采集 存储 检测 告警 故障自愈 蓝鲸平台 管控平台 PaaS平台：开发框架/API集成 统一配置管理 模型定义 自动采集 配置维护 拓扑视图 配置消费 统一运维门户 可视化大屏、统一报表、统一权限、移动运维 变更 流程融合 事件 问题 请求 知识库 SLA 服务目录 流程引擎 运维流程管理

开源操作系统的构建过程，也是供应链聚合优化的过程。拥有可靠开源软件供应链，是大规模商用操作系统的基础。 openEuler 从用户场景出发，回溯梳理相应的软件依赖关系，理清所有软件包的上游社区地址，源码和上游对应验证。完 成构建验证、分发、实现生命周期管理。开源软件的构建、运行依赖关系，上游社区，三者之前形成闭环且完整透明的软 件供应链管理。 嵌入式 服务器 基础公共服务 服务器 云计算 边缘 欧拉开源操作系 边缘数据服务：通过边缘数据服务实现消息、数据、媒体流的按需持久化，并具备数据分析和数据导出的能力。 4. 边云智能协同架构（Sedna）：基于开源 Sedna 框架，提供基础的边云协同推理、联邦学习、增量学习等能力，并 实现了基础的模型管理、数据集管理等，使能开发者快速开发边云 AI 协同特性，以及提升用户边云 AI 特性的训练 与部署效率。 应用场景 可应用智能制造、城市交通、高速收费稽查、智慧加油站、医疗影像识别、智慧园区等广泛的边云协同场景。 统一集群化部署、监控、审计等场景。 安全容器 StratoVirt： • 强安全性：基于 Rust 实现语言级安全，模块按需组合最小化攻击面，支持多租户物理隔离。 • 轻量低噪：采用极简设备模型时，启动时间小于 50ms，内存底噪小于 4M。 • 软硬协同：支持 x86 的 VT，支持鲲鹏的 Kunpeng-V。 • 极速伸缩：毫秒级设备扩缩能力，为轻量化负载提供灵活的资源伸缩能力。

开源操作系统的构建过程，也是供应链聚合优化的过程。拥有可靠开源软件供应链，是大规模商用操作系统的基础。 openEuler 从用户场景出发，回溯梳理相应的软件依赖关系，理清所有软件包的上游社区地址，源码和上游对应验证。完成 构建验证、分发、实现生命周期管理。开源软件的构建、运行依赖关系，上游社区，三者之前形成闭环且完整透明的软件 供应链管理。 嵌入式 服务器 基础公共服务 服务器 云计算 边缘 Intel Linaro 统一集群化部署、监控、审计等场景。 安全容器 StratoVirt： 1. 强安全性：基于 Rust 实现语言级安全，模块按需组合最小化攻击面，支持多租户物理隔离。 2. 轻量低噪：采用极简设备模型时，启动时间小于 50ms，内存底噪小于 4M。 3. 软硬协同：支持 x86 的 VT，支持鲲鹏的 Kunpeng-V。 4. 极速伸缩：毫秒级设备扩缩能力，为轻量化负载提供灵活的资源伸缩能力。 边缘数据服务：通过边缘数据服务实现消息、数据、媒体流的按需持久化，并具备数据分析和数据导出的能力 4. 边云智能协同架构（Sedna）：基于开源 sedna 框架，提供基础的边云协同推理、联邦学习、增量学习等能力， 并实现了基础的模型管理、数据集管理等，使能开发者快速开发边云 AI 协同特性，以及提升用户边云 AI 特性的 训练与部署效率。 应用场景 可应用智能制造、城市交通、高速收费稽查、智慧加油站、医疗影像识别、智慧园区等广泛的边云协同场景。