and operator design • Pipeline / Stage/ Task / Task Template / Version Control • Logging, monitoring, autoscaling, high availability • Extensibility / Integration • CI/CD examples • Future plan operator design • Pipeline/Stage/Task/Task Template/Version Control/UI generation/Volume... • Logging, monitoring, autoscaling, high availability • Extensibility/Integration • CI/CD examples • Future DevOps Operator DevOps Service DevOps Manager CronJob k8s API MySQL k8s API MySQL MySQL • Pipeline configuration and history in MySQL • Logging in central logging service - ElasticSearch • Metric

自动化 代码更新时自动触发镜像构建 容器镜像服务SWR ：支持镜像自动化构建，实现源码到镜像的自动化流程 第三方代码库对接 多租户、多用户权限隔离 17 案例：高性能容器服务，助力图灵生物Pipeline灵活编排和复用，自定义基因测序SaaS 服务效率提升60% 陕西图灵生物主要面向医院、研究机构等提供基因测 序，人体健康监测，大数据分析等生物健康产品及解决 方案。 挑战： • 全基 •公司遗留内部运维（CI/CD）系统，需要对接公有云 •国内其他云厂商的容器服务问题较多、很不成熟 华为方案价值： •支持丰富的弹性伸缩指标策略，秒级伸缩应对流量变化 •支持模板方式一键部署，分钟级完成开服 •支持滚动升级等策略，秒级完成升级 •支持原生K8S API，方便集成调用 •提供Source2image工具，提高容器镜像的构建效率 CI/CD系统 客户交付 运维系统 通过自动化持续构建与 测试，降低开发测试成 本，可节省290人日/ 月，节约成本约237万元 /年 237万/年 节约成本 COST 290人日/月 测试成本降低 运维效率提升6倍 建立CI/CD流程，将开 发、测试、运维有机串 联，SDK版本升级由30分 钟缩至5分钟 Efficiency 6 倍 提升 30 时间缩短 弹性伸缩应高峰 容器配置与数量根据业 务量秒级扩缩容，轻松

• Rapid prototyping with self-service Jupyter notebook from JupyterHub Simplified ML Workflow/Pipeline What is DevOps? • “A cross-disciplinary community of practice dedicated to the study of building as code • Ops teams embracing source control (git) • Automated testing • Repeatable/consistent • CI/CD • This has worked well for App Dev. Now time for AI/ML • But, must ensure data scientist are not changes occur • Distributed File Systems • NFS • HDFS • … Classic DevOps solutions: • Containers • CI/CD • Autoscaling • A/B testing and canary release of Models • Comparing Production accuracy vs expected

apt-get update && apt-get install -y oracle-java8-installer maven ADD . /usr/local/petclinic RUN cd /usr/local/petclinic && mvn install CMD ["/usr/bin/java", "-cp", "/usr/local/petclinic/target/petclinic-1 com/GoogleContainerTools/jib Demo $ git clone https://github.com/spring-projects/spring-petclinic && cd spring-petclinic $ ./mvnw compile jib:build -Dimage=coollog/petclinic github.com/GoogleContainerTools/jib github.com/GoogleContainerTools/jib Demo $ git clone https://github.com/coollog/micronaut-jib && cd micronaut-jib $ ./gradlew jibDockerBuild $ docker run -p 8080:8080 micronaut-jib:0.1 github.com

PRE PROD • 标准的CICD流程 Developer LOCAL DEV Jenkins 构建 Git Maven Docker kubectl Jenkins pipeline 开课吧CI/CD架构 GitLab Maven Repository(nexus) Registry 云厂商K8S pull install deploy push get status rolling

相关话题展开讨论。这是有史以来第一次，我们需要一个可视化指南来 理清不同 AI 的类别和功能（即使在 JavaScript 生态系统十分混乱的时期，我们也从未采取过这样的做法）。作 为一家开创 CI、CD 等突破性工程实践历史的软件咨询公司，我们对于使用 AI 辅助软件开发特别感兴趣。因此， 本期技术雷达讨论了许多代码辅助工具，如 GitHub Copilot、Tabnine 和 Codeium。我们兴奋于 创建监控和告警 9. ReAct 提示工程 10. 检索增强生成 11. 基于风险的故障建模 12. 大语言模型半结构化自然语言输入 13. 追踪健康债务状况 14. 对告警规则的单元测试 15. CI/CD 的零信任保护 评估 16. 通过依赖健康检查化解包幻觉风险 17. 设计系统决策记录 18. GitOps 19. 大语言模型驱动的自主代理 20. 平台编排 21. 自托管式大语言模型 暂缓 创建监控和告警 9. ReAct 提示工程 10. 检索增强生成 11. 基于风险的故障建模 12. 大语言模型半结构化自然语言输入 13. 追踪健康债务状况 14. 对告警规则的单元测试 15. CI/CD 的零信任保护 评估 16. 通过依赖健康检查化解包幻觉风险 17. 设计系统决策记录 18. GitOps 19. 大语言模型驱动的自主代理 20. 平台编排 21. 自托管式大语言模型 暂缓

����� ����������������� ������������� • IaaS：AWS、OpenStack与物理机 • PaaS：基于Kubernetes私有云平台， 支持CI/CD、配置管理、基于Helm的 服务编排等 基于Kubernetes平台概览 Kubernetes on AWS高可用架构 • 高可用性 • 容灾容错 • 监控报警 • 日志收集 基于Kubernetes平台技术架构 基于Kubernetes的应用部署最佳实践 • 构建Docker镜像最佳实践 • 基于Helm的应用模板抽象 • 基于Kubernetes的 CI/CD� 构建Docker镜像最佳实践 预期 ������ ������ ������ 实践 ����� ������ �������� ��Cache ��Volume ��yum/apk 基于Go模板语言，实现应用快速部署到K8s集群 基于Helm的应用模板抽象 • 模板+配置 • 参数化配置支持多个环境 • 管理应用的发布 • 复杂服务间依赖处理 基于Kubernetes的 CI/CD� 从持续集成到持续交付过程图示 • 将源代码、配置、脚本放于Git做 版本控制 • 各Repo做定期同步 • 通过promote tag筛选发布候选 版本 • 服务部署后做自动化post

其他企业需要的优化功能 企业典型的多租户模型 租户 Tenant User User group Namespace Deployment Registry 
 project CI/CD workspace Pod … resources CPU quota MEM quota Storage quota Device (GPU) quota …. 原⽣生模式中获益 状态可读：跟踪所有 k8s 对象状态 版本化：快速从历史版本回滚 构建应⽤用 典型 CI/CD 流程 CAICLOUD/CYCLONE • 开源 • https://github.com/caicloud/cyclone Cyclone 技术架构 云原⽣生 CI/CD 引擎 设计 - 云原⽣生，k8s 亲和性 性能 - 为企业场景优化 扩展性 - ⽀支持 AI ⼯工作流

Engineer Ops Manager / BOSH Admin Manages OpsMan Tiles Developer Consumes K8s API/kubectl Ci/CD Application DevOPS Owner Consumes PKS API/CLI Day 1 & Day 2 for k8s clusters Manages access 運作 監控 設計 安全 設計 帳號 權限 安全 維運 監控 維運 所需技能: Shell Script, Python, VMware API, CI/CD Tooling 所需技能: Java, .NET, SQL, Web 所需技能: vSphere/vSAN, NSX, OS, PowerCLI, Shell Script 建立平台自動化 應用開發 測試品管 基礎架構 監控維運 平台工程 ©2019 VMware, Inc. 20 Kubernetes.平台只是最後一站，前面各站也都要安全管控才不會前功盡棄 在整個CI/CD管線的各個環節都需要各種控制措施涵蓋 靜態應用安全測試 (白箱測試): Static Application Security Test (SAST) 靜態應用安全測試 : Interactive

ai-dc-web ai-dc-api 镜像版本和git版本库规范 制定git版本规范，开发提交合并master代码，git版本库和业务版本进行关联，出了问题好定位问题。 采用docker容器化之后，ci-cd由运维平台集中控制，git版本和容器镜像必需保持一致关联性，方便问题回溯。 git master dev checkout v20 dev docker build harbor k8s node 容器 harbor pod1 pod2 pod3 pod*** push images pull code k8s cluster 容器平台持续集成交付全流程 ci-cd效果 k8s运维管理平台-构建 k8s运维管理平台-容器管理 meta-server (eureka) config-server admin-server portal-server powerdns coredns test-1 test-2 test-3 dev-1 dev-2 dev-3 jenkins-k8s-cloud云构建jenkins-slave多套ci-cd流水线 test-mysql-2 dev-redis-2 test-mq-2 test-mysql-3 dev-redis-3 test-mq-3 多套环境快速交付 关注 ServiceMesher