© XXX Page 1 of 30 Curve元数据节点高可用© XXX Page 2 of 30 1. 需求 2. 技术选型 3. etcd clientv3的concurrency介绍 3.1 etcd clientV3的concurrency模块构成 3.2 Campaign的流程 3.2.1 代码流程说明 3.2.2 举例说明Campagin流程 3.3 Observe的流程 异常情况4：Etcd集群的follower节点异常 4.2.7 各情况汇总 1. 需求 mds是元数据节点，负责空间分配，集群状态监控，集群节点间的资源均衡等，mds故障可能会导致client端无法写入。 因此，mds需要做高可用。满足多个mds, 但同时只有一个mds节点提供服务，称该提供服务的mds节点为主，等待节点为备；主节点的服务挂掉之后，备节点能启动服务，尽量减小服务中断的时间。 需要解决的问题就是：如何确定主备节点。 家熟知的就是zookeeper和etcd, 考虑当前系统中mds有两个外部依赖模块，一是mysql， 用于存储集群拓扑的相关信息；二是etcd，用于存储文件的元数据信息。而etcd可以用于实现mds高可用，没必要引入其他组件。 使用etcd实现元数据节点的leader主要依赖于它的两个核心机制: TTL和CAS。TTL(time to live)指的是给一个key设置一个有效期，到期后key会被

相关使用方式请参考 openEuler AI 容器镜像用户指南。 openEuler 使能 AI，向用户提供更多 OS 选择。基于 openEuler 的 AI 容器镜像可以解决开发运行环境部署门槛高的问题，用 户根据自身需求选择对应的容器镜像即可一键部署，三类容器镜像的应用场景如下。 • SDK 镜像：提供对应硬件的计算加速工具包和开发环境，用户可进行 Ascend CANN 或 NVIDIA openEuler 24.03 LTS 技术白皮书 openEuler 内核中的新特性 openEuler 24.03 LTS 基于 Linux Kernel 6.6 内核构建，在此基础上，同时吸收了社区高版本的有益特性及社区创新特性： 上游继承特性： • 内存管理 folio 特性：Linux 内存管理基于 page（页）转换到由 folio（拉丁语 foliō，对开本）进行管理，相比 page，folio 等机制，可以减少锁争用问题，提升 page fault 的扩展性，可以加速应用启动等并发场景的性能。 • PCP high 自适应调节：对于不同工作负载，页面分配 / 释放的性能要求通常也是不同的。通过 PCP high 自适应的调节，可以 自动调整每个 CPU 的页面集的大小以优化页面分配 / 释放性能，可以优化内核多并发构建等并发场景的性能。 • MGLRU 特性：多层级的 LRU 机制，更精确地识

etMem：新增用户态 swap 功能，策略配置淘汰的冷内存交换到用户态存储，用户无感知，性能优于内 核态 swap。 • 内存 RAS 增强：内存可靠性分级技术，可以指定内核、关键进程等对内存故障敏感的数据优先使用高可靠内存，降低宕 机率，提升可靠性（技术预览特性）。 夯实云化基座 • 容器操作系统 KubeOS：云原生场景，实现 OS 容器化部署、运维，提供与业务容器一致的基于 K8s 的管理体验。 • 内核构建，在此基础上，同时吸收了社区高版本的有益特性及社区创新特性： • BPF CO-RE (Compile Once-Run Everywhere) 特性：解决 BPF 的可移植性，即编写的程序通过编译和内核校验之后， 能正确地在不同版本的内核上运行，而无需针对不同内核重新编译。 • 内存 RAS - 高可靠内存：可以支持内核、关键进程、内存文件系统、文件缓存使用高可靠内存，避免内存多 bit 故障引起 故障引起 内核复位。改进对高可靠内存的支持，较 22.03 相比，对高可靠内存支持更加完善。 • 内存 RAS - UCE 容错增强：支持 copy_from_user 读操作时，发生内存多 bit 错误，可以通过杀掉受影响的进程，而避 免内核复位。 • 可编程内核调度框架抢占、选核、选任务部分实现及示例。 • 基于 BPF 实现内核缓存，可以大幅提升 Redis 性能。 • 支持 AArch64

- 统一产研运管理平面 重视开发者体验，工程师不再做脏活累活 传统 DevOps 体系 Zadig 云原生 DevOps 平台 高人效 低人效 低人效 / 低质量 / 低效率 / 高成 本： 人淹没在系统的海洋里，无数平台手工切换 高人效 / 高质量 / 高效率 / 低成 本： 人在系统之外 / 上，复杂性下沉到单一平台 希望 工程师不再花时间在开发写代码之外的脏活累活，比如服务部署、找环境，服务编排等 项目从无到有可核算 管理有数据科学依据 解放管理，更多时间花在 业务创新 平台运维 业务压力大，能力建设缓慢： • 大量工作花在工具链维护 • 项目间依赖复杂，环境管理难 • 交付版本依赖工单，发布风险高 • 公共资源 / 业务资源利用率低 赋能多业务：一个平台解决了多异构项目的管理和规范 团队高效协作：定义团队角色工作流模板，随时可用云上环境 价值清晰呈现：为管理者提供全视角效能数据，赋能数字决策 全流程安全门禁：关键环节设置安全门禁，快速反馈研发改进 故障拦截率提升 1-3 倍 业务响应效率提升 3-5 倍 全流程安全建设 更多价值体现 组织 靠流程和个人，效率越来越低 • 低人效 / 低质量 / 低效率 / 高成本 • 人淹没在系统的海洋里 • 无数平台手工切换 靠系统和技术，能力长在平台上 • 高人效 / 高质量 / 高效率 / 低成本 • 人在系统之上 / 高效交互 • 复杂性下沉到单一平台

统一交付变更通道 • 异构支持 - 统一产研运管理平面 重视开发者体验，工程师不再做脏活累活 传统 DevOps 体系 Zadig 云原生 DevOps 平台 高人效 低人效 低人效/低质量/低效率/高成本： 人淹没在系统的海洋里，无数平台手工切换 高人效/高质量/高效率/低成本： 人在系统之外/上，复杂性下沉到单一平台 希望 工程师不再花时间在开发写代码之外的脏活累活，比如服务部署、找环境，服务编排等Infra的事情。 项目从无到有可核算 管理有数据科学依据 解放管理，更多时间花在 业务创新 平台运维 业务压力大，能力建设缓慢： • 大量工作花在工具链维护 • 项目间依赖复杂，环境管理难 • 交付版本依赖工单，发布风险高 • 公共资源/业务资源利用率低 赋能多业务：一个平台解决了多异构项目的管理和规范 团队高效协作：定义团队角色工作流模板，随时可用云上环境 价值清晰呈现：为管理者提供全视角效能数据，赋能数字决策 全流程安全门禁：关键环节设置安全门禁，快速反馈研发改进 故障拦截率提升 1-3 倍 业务响应效率提升 3-5 倍 全流程安全建设 更多价值体现 组织 靠流程和个人，效率越来越低 • 低人效/低质量/低效率/高成本 • 人淹没在系统的海洋里 • 无数平台手工切换 靠系统和技术，能力长在平台上 • 高人效/高质量/高效率/低成本 • 人在系统之上/高效交互 • 复杂性下沉到单一平台 整体人效提升 1-5

新增镜像拉取、推送等功能。 • StratoVirt& 虚拟化：支持内存弹性、大页、增强 IO 子系统、通过多通道并发提升 IO 性能。 • OpenStack&Kubernetes：向云而生，集成两大主流云计算调度和管理软件，构筑云化基座 。 • HA 高可用集群方案：麒麟软件贡献的 HA 高可用集群方案，故障秒级切换。 繁荣社区生态： • 更多桌面环境支持：UKUI、DDE 、Xfce 桌面环境，丰富社区桌面环境生态。 支持调度器优化：优化 CFS Task 的公平性，新增 NUMA-Aware 异步调用机制，在 NVDIMM 初始 化方面有明显的提升；优化 SCHED_IDLE 的调度 策略，可以显著改善高优先级任务的调度延迟， 降低对其他任务的干扰。优化 NUMA balancing 机制，带来更好的亲和性、更高的使用率和更少 的无效迁移。 2. CPU 隔离机制增强：支持中断隔离，支持 技术白皮书 openEuler WHITE PAPER • 支持大页：在轻量级虚拟机下支持大页，可为轻量级虚拟机提供连续的物理内存页面，提高虚拟机内存访问效率。 • IO 子系统增强：支持多通道并发 IO 能力，提高 IO 性能。支持 IO-QOS 能力，提升虚拟机 IO 流量管理的灵活性和 稳定性。 • 系统调用过滤：通过极简设备模型设计和 SECOMP 过滤系统调用，最简配置下仅需使用

BandWidth Memory）严重不足，现有的手动 swap 方案性能损耗大且 通用性差。 • 搜推、大数据场景存在大量无效数据搬移，缺少高效内存池化方案。 Linux 现有的 HMM 框架，编程复杂度高且依赖人工调优，性能和可移植性差，引发 OS 社区反弹，最终导致 HMM 方 案搁浅。异构加速器领域亟需高效的统一内存管理机制。 异构通用内存管理框架 GMEM （Generalized Memory Pager GMEM( 异构内存 ) GMEM Remote Pager GMEM( 异构内存 ) Co-process 统一虚拟地址空间 mmap/hmadvise 通用并发消息通道 逻辑映射系统 页表协同 并发缺页 内存超分 场景创新 11 openEuler 23.09 技术白皮书 异构统一内存编程 在面向异构内存编程时，使用 GMEM 可分配 CPU 和加速器之间的统一虚拟内存，CPU 社区低版本的有益特性及社区创新特性。 • 潮汐 affinity 调度特性：感知业务负载动态调整业务 CPU 亲和性，当业务负载低时使用 prefered cpus 处理，增强资 源的局部性；当业务负载高时，突破 preferred cpus 范围限制，通过增加 CPU 核的供给提高业务的 QoS。 • CPU QoS 优先级负载均衡特性：在离线混部 CPU QoS 隔离增强，支持多核 CPU QoS

.................................................................................263 9.3.18 按需生成报告并发送到指定邮箱...............................................................272 9.3.19 查看生成的运营报告......... ..........................................................................272 9.3.20 配置定时自动生成报告并发送到指定邮箱...............................................273 10 资源回收优化................................... 一个国产商业化私有云平台，公有云平台。 云管理平台 是一种统一纳管虚拟化平台、私有云、公有云，整合对外提供在线运行环 境服务及全生命周期管理的平台。 F5 主流的硬件负载均衡产品，一直以来市场占有率非常高，直到 2021 年 3 月才被深信服超越。 华为 Agile Controller 华为硬件 SDN 产品 容器云 指 k8s 容器云管理平台 常见的容器云管理平台有 OpenShift、Rancher、时速云、灵雀云等。

Curve核心组件之ChunkServer 查日苏CURVE CURVE是高性能、高可用、高可靠的分布式存储系统 • 高性能、低延迟存储底座 • 可扩展存储场景：块存储、对象存储、云原生数据库、EC等 • 当前实现了高性能块存储，对接 openstack 和 k8s 网易内部线上无故障稳定运行500+天 • 已开源 • github主页： https://opencurve.github 中的bvar计数 器，统计一些IO层面和copyset层面的 一些指标，方便监控和跟踪。 ChunkServer架构并发控制层，负责对chunkserver的IO 请求进行并发控制，对上层的读写请 求安照chunk粒度进行Hash，使得不同 chunk的请求可以并发执行。 ChunkServer架构DataStore是对chunk落盘逻辑的封装。 包含chunkfile的创建、删除，以及实际

- snmp poller ( 支持 walk[OID] 和 get[OID] 监控项) 这些 poller 进程是异步的 - 它们可以在不等响应的情况下启动新的检查，并可以配置最多 1000 个并发检查。 异步 poller 的设计是为了提高效率，与同步轮询器相比，同步 poller 在同一时间只能执行一个检查，并且大部分时间都花费在等待响应 上。 server/proxy 配置文件中新增了 agent and SNMP) 的最大并发数是由MaxConcurrentChecksPerPoller 定义的。 要注意升级后，所有的 agent、HTTP agent and SNMP walk[OID] poller 检查将都会切换为异步 pollers。 作为开发的一部分，持久连接 cURL 特性已经添加到了 HTTP agent 检查中。 Proxy 负载均衡和高可用 zabbix 中通过引入 的负载均衡。Proxy groups 可以自动将主机分配给 proxy，当 proxy 离线时，其监控的主 机将立即被分配到组内的其他 proxy，实现 proxy 负载均衡和高可用。 了解更多信息, 参阅proxy 负载均衡和高可用。 多线程 在过渡到多线程架构的过程中，进行了以下一些更改： • 添加了一个新的配置参数：--with-stacksize。该参数允许覆盖系统使用的默认线程堆栈大小（以