live 试验 DataOps.live 是一个自动化 Snowflake 环境的数据平台。受 DevOps 实践启发，DataOps.live 可以像在其他网 络平台一样在数据平台中实施持续集成和持续交付（CI/CD），自动化测试，可观测性和代码管理。我们的团队 正在用它来管理数据产品的全生命周期，包括代码和数据的开发、分支、部署。通过它的自动化环境管理，能 够轻易建立、修改、自动销毁 Studio，一个旨在快速探索和原型生成 AI 模型的控制台；以及 Vertex AI Extensions，提 供完全托管的开发人员工具，通过 API 连接 AI 模型和实时数据或操作。 该平台已经发展到提供 GenAI 模型和 集成支持，我们非常期待能更广泛地使用它。 28. Immuta 试验 自从我们上次介绍了 Immuta 以来，我们的团队在使用这个数据安全平台方面已经积累了丰富的经验。它的亮 点包括能够将订阅和 All Rights Reserved. 21 问控制（ABAC） 允许我们将标签关联到数据源；如果用户与相同的标签关联，就会获得访问权限。通过利用 Immuta 和 Snowflake 的集成，我们已经能够以自助方式自动授权对数据产品或数据集的访问。当“用户”请 求访问数据产品或数据集时，一旦获得批准，数据产品标签将被关联到“用户”作为属性。由于“用户”的属 性与数据源上的标签匹配，因此根据

、稳定的体验，支持异构云、边 缘云和多云编排。 DCE 5.0 集成了最新的服务网格和微服务技术，能够跟踪每 一个流量的生发始终， 帮助您洞察集群、节点、应用和服务的详细指标，并通 过动态仪表盘和拓扑大图可视化掌握应用健康状态。 DCE 5.0 原生支持 DevOps 开发运维模式，可以实现应用交付的全流程标准化 和自动化，并集成各类精选数据库和中间件，使运维治理更加高效。各个产品 模块独立解 涉及的模块：全局管理、容器管理、云原生网络、云原生存储 应用交付 通过一致性可推广的应用交付流程实现自助式上云，支持柔性租户体系，动态适配用 户组织架构规划和实时资源分配，基于云原生化的 CI/CD 流水线，集成丰富的工具链 并支持流水线高效并发执行流转，自动化完成应用的构建、部署，创新性引入 Gitops、渐进式交付能力体系，实现应用更精细的管理运维。 涉及的模块：全局管理、容器管理、应用工作台、云原生网络、云原生存储、镜像仓 中间件 RMQ, Kafka, ES, Kafka, MinIO, MySQL, Redis, PG, MongoDB 镜像仓库 基于 Harbor, Docker Hub 构建的镜像集成和托管服务 网络 多 CNI 融合方案 存储 容器化存储综合方案 容器管理 容器管理是基于 Kubernetes 开源技术构建的面向云原生应用的容器管理平台， 基于原生多集群架构

程监控程序管理时。 最后，通过在每个容器中使⽤单个应⽤程序的⽅式，管理容器⽆异于管理应⽤程序的部署。 容器好处概要： 灵活的应⽤创建和部署 ：与VM映像相⽐，容器镜像的创建更加容易、有效率。 持续开发，集成和部署 ：通过快速轻松的回滚（由于镜像的不可变性）提供可靠且频繁的容器镜像构建和部署。 Dev和Ops分离问题 ：在构建/发布期间⽽⾮部署期间创建镜像，从⽽将应⽤程序与基础架构分离。 开发、测试和⽣产环境⼀致 没有点击部署的服务市场。 01-什么是Kubernetes 6 不部署源代码，并且不构建应⽤。持续集成（CI）⼯作流是⼀个不同⽤户/项⽬有不同需求/偏好的领域，因此它⽀ 持在Kubernetes上运⾏CI⼯作流，⽽不强制⼯作流如何⼯作。 允许⽤户选择其⽇志记录、监视和警报系统。（它提供了⼀些集成。） 不提供/授权⼀个全⾯的应⽤配置语⾔/系统（例如 jsonnet ）。 不提供/不采⽤任何综合的机器配置、维护、管理或⾃愈系统。 管理或⾃愈系统。 另⼀⽅⾯，⼀些PaaS系统可运⾏在 Kubernetes上，例如 Openshift 、 Deis 、Eldarion 等。 您也可实现⾃⼰的定制 PaaS，与您选择的CI系统集成，或者仅使⽤Kubernetes部署容器。 由于Kubernetes在应⽤层⾯⽽⾮硬件层⾯上运⾏，因此它提供了PaaS产品通⽤的功能，例如部署，扩展，负载均衡， ⽇志和监控。然⽽，Kuberne

存储（EVS/OBS/SFS） 网络（VPC/EIP） 开源原生 商业增强：控制面HA、跨AZ高可用、滚动升级、裸金属容器 云容器引擎 CCE 微服务引擎 CSE 开源原生 企业级 中间件 分布式 缓存 DCS 分布式 消息 DMS 分布式 数据库 DDM 应用编排引擎 AOS App/PaaS/IaaS 资源一键式创建 应用运维 AOM 应用性能管理 APM 应用拓扑 kubernetes技术门槛高，无法满足业务SLA要求 •原生版本产品化能力弱，系统集成问题多（网络、存储， 监控等），解决成本高 •业务快速迭代，高峰期一周3~5个版本更新，运维压力大 •其他厂商的容器服务成熟度低，达不到商用要求 华为方案价值： •企业级容器服务经过2+年商用实践，SLA有保障 •提供一站式网络、存储、数据库、监控告警和健康检查解 决方案，降低系统集成风险，持续保障业务稳定运行 •支持原生 kubernetes •国内其他云厂商的容器服务问题较多、很不成熟 华为方案价值： •支持丰富的弹性伸缩指标策略，秒级伸缩应对流量变化 •支持模板方式一键部署，分钟级完成开服 •支持滚动升级等策略，秒级完成升级 •支持原生K8S API，方便集成调用 •提供Source2image工具，提高容器镜像的构建效率 CI/CD系统 客户交付 运维系统 •发放速度（部署上线）： 小时 -> 分钟级； •运维效率（升级&弹 性）：天 ->

安全隔离的容器运行环境 • 支持CPU 0.25c – 64c，GPU，按需创建按秒收费 • Spot Instance：极大降低计算成本 • Startup time: ~10s • 镜像缓存：无需从远端拉取镜像 • 与ECS并池：大规模资源池，弹性能力保障 • 在Kubernetes中使用ECI: ACK/ASK on ECI ECI ECI Agent Container ngress/CRD • ALB Ingress: 基于SLB 7 layer • Knative serving on ASK：automatic scaling in knative • 集成ARMS, SLS Elastic Container Instance ECI ECI ECI ECI ECI ECI ECI ECI ECI ECI ECI ECI ECI ECI 更大的弹性规模：与传统ECS节点扩容不同，一个大规模容器应用动辄需要数万核的弹性算力。 • 持平的计算性能：ECI计算效能需要和同规格ECS有一致的性能表现 • 更低的迁移成本：与现有容器应用生态完美集成 • 更低的使用成本：全自动化安全和运维能力 ECI关键技术选择 - 基于 Pod 的基本调度单位和标准、开放的API接口 ECI ASK ACK 云上k8s集群 线下k8s集群 Cr

级，⾃自动扩缩，负载均衡，⽇日志查看，资 源监控，等多种功能。 KUN 运维管理理 监控 ⽇日志 权限 分析 集群管理理 版本管理理 配置管理理 链路路跟踪 负载均衡 ⾃自动容灾 持续集成 持续部署 灰度发布 服务注册/发现 关系数据库 KV存储 对象存储 块存储 DNS 消息队列列 API- Gateway 镜像仓库 统⼀一代码管理理 统⼀一编程框架 统⼀一通讯协议 Cloud . 北北京 UK8S集群⽹网络⽅方案 01 UK8S管理理架构 02 托管⽅方案 03 Think in Cloud . 北北京 ⾃自研CNI插件 与VPC⽹网络深度集成 UK8S集群⽹网络⽅方案 利利⽤用SecondaryIP API实现IP管理理 ⽆无overlay 性能与云主机⼀一致 Pod⽹网络可与物理理云 托管云直接互通 Think C. 基于k8s的api对服务模块（job&watcher）进⾏行行动态管理理。 D. ⼀一个集群对应⽣生成⼀一个watcher，容易易进⾏行行横向扩展。 E. 基于watcher+redis缓存的⽅方式，保证⽤用户在控制台获取集群信息的速度⾜足够快。 Think in Cloud . 北北京 UK8S托管⽅方案 合理理利利⽤用存量量物理理资源 ⽆无需运维管理理K8S集群 ⽆无需部署外部负载均衡

kubectl java k8s node 容器 harbor pod1 pod2 pod3 pod*** push images pull code k8s cluster 容器平台持续集成交付全流程 ci-cd效果 k8s运维管理平台-构建 k8s运维管理平台-容器管理 meta-server (eureka) config-server admin-server portal-server 控信息写入存储 通过grafna连接不 同的数据源展示不 同的监控界面 方案1 方案2 kube-apiserver Metrics-Server metrics-server通过对 api重定向缓存监控进 入内存 pull opentsdb remote_storage_ adapter test-1 test-2 test-3 dev-1 dev-2 dev-3 dev-mysql-1

强大的算力需要匹配的I/O吞吐 2.计算存储分离导致I/O延迟 3.单机缓存无法满足海量数据加速 9993.6 3189.6 0 2000 4000 6000 8000 10000 12000 Synthetic ESSD云盘 PL2 RestNet50 模型训练速度 （images/second） 云盘 Alluxio - 分布式缓存的领导者 开源项目由李浩源博士(Alluxio公司CEO)在加州大学Berkeley分校 Driver Web Driver Alibaba Cloud OSS Alluxio 服务器 Alluxio 服务器 大数据查询 大数据ETL 模型训练 Alluxio核心功能一：分布式数据缓存 Alluxio 服务器 A B /path1/file1 /path2/file2 C A B C A Alluxio 服务器 Alluxio 服务器 大数据查询 大数据ETL 大数据查询 大数据ETL 模型训练 Alluxio核心功能三：统一的文件系统抽象 Alluxio 服务器 Alluxio在云端AI训练场景的性能好处 • 支持大规模的数据缓存 • 本地内存加速 • 支持数据预热 • LRU缓存管理 Object storage (Fuse) Worker (local) Worker (remote) Master Training POD Tier0:

技术 应⽤ 数据 技术 应⽤ 数据 技术 应⽤ 数据 技术 应⽤ 数据 • 标准不统⼀ • 重复录⼊ • 数据不⼀致… 技术平台 • 规范不⼀致 • 组件不复⽤ • 集成共享难… 应⽤ • 功能单⼀ • 管理型居多 • 适应性不⾜… 系统建设 • 建设周期⻓ • 存在重复建设 • 投资回报低 • 系统维护成本⾼… 系统应⽤ • 数据分散，到处找 迭代需求列表 工作件 迭代1 迭代2 迭代3 迭代n 2.应用设计 3.开发 4.测试 1.需求分析 6.运维 5.发布 7.迭代回顾 系统总体架构 设计 系统总体架构 系统原型 持续集成 测试报告 版本发布 评审 产品立项 评审 迭代启动 评审 产品立项报告 实践 相关规范：《敏捷开发过程指南》 规范指南设计 规范与指南 GIT分⽀管理规范 4+1共5个分⽀，每个 持续部署 持续测试 持续集成 持续监控 需求提出 需求管理场景 需求完成 需求处理 需求规划排期 ü 需求管理⼯具量化跟踪 ü 需求分级处理 ü 统⼀需求管理流程 ü 需求⾯板跟踪 ü 需求分级管理 ü 责任到⼈ ü 处理状态跟踪 ü 知识管理⼯具对知识协 同共享 ü 需求处理过程全链路追 溯 ü 及时通知 开发测试场景 任务完成 构建集成 部署⾃测 编码实现 任务拆解分配

s集群 基于Helm的应用模板抽象 • 模板+配置 • 参数化配置支持多个环境 • 管理应用的发布 • 复杂服务间依赖处理 基于Kubernetes的 CI/CD� 从持续集成到持续交付过程图示 • 将源代码、配置、脚本放于Git做 版本控制 • 各Repo做定期同步 • 通过promote tag筛选发布候选 版本 • 服务部署后做自动化post "env01_db.oltp.service.dc1.consul" 端到端集成流程 • 各个服务CI流水线通过后会 触发集成流水线� • 集成流水线拉取各服务稳定 版本� • 流水线自动触发实现集成测 试无感知� • 集成包括：� • 环境准备� • 数据准备� • 用例执行� • 结果分析� 系统集成自动化测试框架方案 � 后续工作计划展望 • Docker file合规性检查: