their shortcomings • Why DevOps? • Why Containers, Kubernetes, and Helm? • Intro to Kubeflow, Helm, Argo • Demos • Image classification with Inception v3 and transfer learning • Automate repeatable ML experiments with Kubeflow • Scale and test ML experiments with Helm • Manage training jobs and pipelines with Argo • Serve trained models for inference with TF Serving • Rapid prototyping with self-service Jupyter as code • Ops teams embracing source control (git) • Automated testing • Repeatable/consistent • CI/CD • This has worked well for App Dev. Now time for AI/ML • But, must ensure data scientist are not

备份策略略⽂文件恢复和本地⽂文件恢复； 安全合规 ⽀支持集群健康评分（X-Pack）； ⽀支持 CSI 安全扫描； 应⽤用商店 提供 GitLab、Jenkins、Harbor、Argo CD、Sonarqube 等 CI/CD ⼯工具；提供 Kuboard、Weave Scope、Redmine 等管理理⼯工具；提供深度学习AI 应⽤用，⽐比如 TensorFlow。 KubeOperator 企业版⽀支持服务内容

Control • Logging, monitoring, autoscaling, high availability • Extensibility / Integration • CI/CD examples • Future plan Our DevOps Expectations • Build a platform and easy to integrate with other generation/Volume... • Logging, monitoring, autoscaling, high availability • Extensibility/Integration • CI/CD examples • Future plan Overall Architecture Kubernetes Cluster Kubernetes Cluster Node Node Node such as external service registration, service catalog, integrate using CRD and controller, etc… CI/CD Examples - Build Docker Image dockerfile using ConfigMap Job - pod template - volumes user build

相关话题展开讨论。这是有史以来第一次，我们需要一个可视化指南来 理清不同 AI 的类别和功能（即使在 JavaScript 生态系统十分混乱的时期，我们也从未采取过这样的做法）。作 为一家开创 CI、CD 等突破性工程实践历史的软件咨询公司，我们对于使用 AI 辅助软件开发特别感兴趣。因此， 本期技术雷达讨论了许多代码辅助工具，如 GitHub Copilot、Tabnine 和 Codeium。我们兴奋于 创建监控和告警 9. ReAct 提示工程 10. 检索增强生成 11. 基于风险的故障建模 12. 大语言模型半结构化自然语言输入 13. 追踪健康债务状况 14. 对告警规则的单元测试 15. CI/CD 的零信任保护 评估 16. 通过依赖健康检查化解包幻觉风险 17. 设计系统决策记录 18. GitOps 19. 大语言模型驱动的自主代理 20. 平台编排 21. 自托管式大语言模型 暂缓 创建监控和告警 9. ReAct 提示工程 10. 检索增强生成 11. 基于风险的故障建模 12. 大语言模型半结构化自然语言输入 13. 追踪健康债务状况 14. 对告警规则的单元测试 15. CI/CD 的零信任保护 评估 16. 通过依赖健康检查化解包幻觉风险 17. 设计系统决策记录 18. GitOps 19. 大语言模型驱动的自主代理 20. 平台编排 21. 自托管式大语言模型 暂缓

apt-get update && apt-get install -y oracle-java8-installer maven ADD . /usr/local/petclinic RUN cd /usr/local/petclinic && mvn install CMD ["/usr/bin/java", "-cp", "/usr/local/petclinic/target/petclinic-1 com/GoogleContainerTools/jib Demo $ git clone https://github.com/spring-projects/spring-petclinic && cd spring-petclinic $ ./mvnw compile jib:build -Dimage=coollog/petclinic github.com/GoogleContainerTools/jib github.com/GoogleContainerTools/jib Demo $ git clone https://github.com/coollog/micronaut-jib && cd micronaut-jib $ ./gradlew jibDockerBuild $ docker run -p 8080:8080 micronaut-jib:0.1 github.com

•公司遗留内部运维（CI/CD）系统，需要对接公有云 •国内其他云厂商的容器服务问题较多、很不成熟 华为方案价值： •支持丰富的弹性伸缩指标策略，秒级伸缩应对流量变化 •支持模板方式一键部署，分钟级完成开服 •支持滚动升级等策略，秒级完成升级 •支持原生K8S API，方便集成调用 •提供Source2image工具，提高容器镜像的构建效率 CI/CD系统 客户交付 运维系统 通过自动化持续构建与 测试，降低开发测试成 本，可节省290人日/ 月，节约成本约237万元 /年 237万/年 节约成本 COST 290人日/月 测试成本降低 运维效率提升6倍 建立CI/CD流程，将开 发、测试、运维有机串 联，SDK版本升级由30分 钟缩至5分钟 Efficiency 6 倍 提升 30 时间缩短 弹性伸缩应高峰 容器配置与数量根据业 务量秒级扩缩容，轻松 作耗时2小时，效率低 •新业务上线周期长：开发、测试、验收、生产割裂，无法实现端到端的自动化，新需求上线需要2周时间 华为方案价值：采用了华为PaaS平台，在裸金属上部署容器应用，并与客户CI/CD流程集成。 22 案例： 基于ARM的裸金属容器服务，大幅提升Testbird 手机APP测试效能 真机测试TCO（CNY） PDU2:荣耀 V9 PDU1:M ate9 TCO（/手机/年）

本小节讲解k8s v1.24及之后版本的安装；首先按照第0章的步骤完成准备工作。 ①安装并配置containerd ★安装containerd.io软件 可以使用阿里的源或docker官方的软件源 # cd /etc/yum.repos.d/ # wget h�ps://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo #aliyun的源 ： h�ps://docs.�gera.io/calico/latest/ge�ng- started/kubernetes/quickstart # mkdir ~/calico # cd ~/calico # wget h�ps://raw.githubusercontent.com/projectcalico/calico/v3.26.1/manifests/�gera- default-token-bk95n Events: #以下是某容器默认挂载的一个存储卷，里面一般有3个文件 ①创建用户账号 # cd /etc/kubernetes/pki # openssl genrsa -out kube-user01.key 2048 #创建用户的私钥 # openssl req -new

其他企业需要的优化功能 企业典型的多租户模型 租户 Tenant User User group Namespace Deployment Registry 
 project CI/CD workspace Pod … resources CPU quota MEM quota Storage quota Device (GPU) quota …. 原⽣生模式中获益 状态可读：跟踪所有 k8s 对象状态 版本化：快速从历史版本回滚 构建应⽤用 典型 CI/CD 流程 CAICLOUD/CYCLONE • 开源 • https://github.com/caicloud/cyclone Cyclone 技术架构 云原⽣生 CI/CD 引擎 设计 - 云原⽣生，k8s 亲和性 性能 - 为企业场景优化 扩展性 - ⽀支持 AI ⼯工作流

���� ����������������� ������������� • IaaS：AWS、OpenStack与物理机 • PaaS：基于Kubernetes私有云平台， 支持CI/CD、配置管理、基于Helm的 服务编排等 基于Kubernetes平台概览 Kubernetes on AWS高可用架构 • 高可用性 • 容灾容错 • 监控报警 • 日志收集 基于Kubernetes平台技术架构 基于Kubernetes的应用部署最佳实践 • 构建Docker镜像最佳实践 • 基于Helm的应用模板抽象 • 基于Kubernetes的 CI/CD� 构建Docker镜像最佳实践 预期 ������ ������ ������ 实践 ����� ������ �������� ��Cache ��Volume ��yum/apk 基于Go模板语言，实现应用快速部署到K8s集群 基于Helm的应用模板抽象 • 模板+配置 • 参数化配置支持多个环境 • 管理应用的发布 • 复杂服务间依赖处理 基于Kubernetes的 CI/CD� 从持续集成到持续交付过程图示 • 将源代码、配置、脚本放于Git做 版本控制 • 各Repo做定期同步 • 通过promote tag筛选发布候选 版本 • 服务部署后做自动化post

Engineer Ops Manager / BOSH Admin Manages OpsMan Tiles Developer Consumes K8s API/kubectl Ci/CD Application DevOPS Owner Consumes PKS API/CLI Day 1 & Day 2 for k8s clusters Manages access 作 監控 設計 安全 設計 帳號 權限 安全 維運 監控 維運 所需技能: Shell Script, Python, VMware API, CI/CD Tooling 所需技能: Java, .NET, SQL, Web 所需技能: vSphere/vSAN, NSX, OS, PowerCLI, Shell Script 建立平台自動化 測試品管 基礎架構 監控維運 平台工程 ©2019 VMware, Inc. 20 Kubernetes.平台只是最後一站，前面各站也都要安全管控才不會前功盡棄 在整個CI/CD管線的各個環節都需要各種控制措施涵蓋 靜態應用安全測試 (白箱測試): Static Application Security Test (SAST) 靜態應用安全測試 : Interactive