KUBERNETES 的 容器器 + AI 平台 如何助⼒力力企业数字化和智能化转型 xiaoqin@caicloud.io VP of R&D 提纲 构建集群与管理理资源 - 73s 视频演示 多集群和镜像仓库 多租户和旧系统的集成 运⾏行行和构建应⽤用 Rudder - 应⽤用编排技术框架 Cyclone - 持续集成与交付引擎 运⾏行行 AI 应⽤用（机器器学习） - com/caicloud/cyclone Cyclone 技术架构 云原⽣生 CI/CD 引擎 设计 - 云原⽣生，k8s 亲和性 性能 - 为企业场景优化 扩展性 - ⽀支持 AI ⼯工作流 运⾏行行 AI 应⽤用 KUBEFLOW 的应⽤用 • Kubeflow 社区的联合创始⼈人 • kubeflow/tf-operator • 定义 TFJob Spec (CRD) ⽀支持分布式 TensorFlow 任务 KUBEFLOW 之上 • 借⼒力力容器器平台提供⽣生产级的集群资源管理理 • ⼯工作区隔离与共享 • 数据、模型、环境、应⽤用等 • 全⾯面⽀支持 AI ⼯工作流 • 探索开发 • 线上运⾏行行 关注并回复 kubecon18 P7 展台

understanding, text generation, vision understanding, audio understanding, tool use, role play, playing as AI agent, etc. 最新版本 Qwen1.5 有以下特点： • 6 种模型规模，包括 0.5B、1.8B、4B、7B、14B 和 72B； • 针对每种尺寸提供基础模型和 Chat 模型，并确保聊天模型按照人类偏好进行校准； 模型，并确保聊天模型按照人类偏好进行校准； • 对基础模型和 Chat 模型的多语言支持 • 基础模型和聊天模型都支持多种语言； • 支持工具调用、RAG（检索增强文本生成）、角色扮演、AI Agent 等； 想了解更多信息，欢迎访问： • 博客 • GitHub • Hugging Face • ModelScope • Qwen1.5 Collection 加入社区，加入 Discord OOM 问题。这也是为什么您发现一个大型语言模型服务总是占用大量内存的原因。 1.11 SkyPilot 1.11.1 SkyPilot 是什么 SkyPilot 是一个可以在任何云上运行 LLM、AI 应用以及批量任务的框架，旨在实现最大程度的成本节省、最 高的 GPU 可用性以及受管理的执行过程。其特性包括： • 通过跨区域和跨云充分利用多个资源池，以获得最佳的 GPU 可用性。 • 把费用降到最低——SkyPilot

Kubernetes 与 AI 相结合架构、 落地解析（从 0 到 1 赵慧智 技术总监 （才云科技 Kubernetes 介绍 Kubernetes 使用 Kubernetes 部署与企业对接 AI 技术介绍 AI 云平台介绍及构成 AI 与 Kubernetes 融合与架构解析 • 是一套集自动部署，弹性扩容，并且基于容器的集群管理工 具。 • 快速部署应用程序 上的软件架构：Kubernetes 与 container 通信，Node 的分类 Kubernetes 介绍 Kubernetes 使用 Kubernetes 部署与企业对接 AI 技术介绍 AI 云平台介绍及构成 AI 与 Kubernetes 融合与架构解析 Kubernetes 基本概念 - Pod • Pod 是 Kubernetes 中最小 的资源 • 一个 Pod 包含一个或多个 Controller • Volume • Kubectl Kubernetes 介绍 Kubernetes 使用 Kubernetes 部署与企业对接 AI 技术介绍 AI 云平台介绍及构成 AI 与 Kubernetes 融合与架构解析 Kubernetes 企业级架构 ���! OpenStack! �����! PAAS OpenAPI! ����

方案设计篇：如何设计可落地的AI解决方案 扫码试看/订阅 《 TensorFlow 2项目进阶实战》视频课程 • 行业背景：AI新零售是什么? • 用户需求：线下门店业绩如何提升？ • 长期⽬目标：货架数字化与业务智能化 • 短期目标：自动化陈列审核和促销管理 • 方案设计：基于深度学习的检测/分类的AI流水线 • 方案交付：支持在线识别和API调用的 AI SaaS 目录 行业背景：AI新零售是什么 ——《C时代 新零售——阿里研究院新零售研究报告》 新零售知识框架 ——《C时代 新零售——阿里研究院新零售研究报告》 数字经济基础设施 ——《C时代 新零售——阿里研究院新零售研究报告》 AI：贯穿新零售全流程 ——《C时代 新零售——阿里研究院新零售研究报告》 AR/VR：虚实结合的消费体验 ——《C时代 新零售——阿里研究院新零售研究报告》 传感器和IoT：提升门店消费体验 基于深度学习的检测/分类的AI流水线 货架商品检测 货架商品检测 Bottle（瓶装） Combination（组合装） 货架商品检测 Bottle（瓶装） Combination（组合装） Bbox: [12, 33, 45, 89] 货架商品识别 雪碧 可口可乐 七喜 货架商品识别 雪碧, 0.96 可口可乐, 0.89 七喜, 0.94 商品识别 AI 流水线 [[Bbox1]

• 串联 AI 流程理论：商品检测与商品识别 • 串联 AI 流程实战：商品检测与商品识别 • 展现 AI 效果理论：使用 OpenCV 可视化识别结果 • 展现 AI 效果实战：使用 OpenCV 可视化识别结果 • 搭建 AI SaaS 理论：Web 框架选型 • 搭建 AI SaaS 理论：数据库 ORM 选型 • 搭建 AI SaaS 理论：10 分钟快速开发 AI SaaS • 搭建 AI SaaS 实战：10 分钟快速开发 AI SaaS • 交付 AI SaaS：10 分钟快速掌握容器部署 • 交付 AI SaaS：部署和测试 AI SaaS 目录 串联 AI 流程理论：商品检测与商品识别 检测模型 RetinaNet 前向转换和使用 加载检测推理模型 detector 查看分类器 classifier 网络结构 串联 AI 流程实战：商品检测与商品识别 流程实战：商品检测与商品识别 “Hello TensorFlow” Try it！ 展现 AI 效果理论：使用 OpenCV 可视化识别结果 展现 AI 效果实战：使用 OpenCV 可视化识别结果 “Hello TensorFlow” Try it！ 搭建 AI SaaS 理论：Web 框架选型 Python Web 框架 Python Web 框架 - Flask Python Web 框架 - Flask

��AI�����K8S��! ���! ��������! AI�������! AI�����! ����K8S! ��K8S�AI��! ������! ������! AI����! AI����! AI�������! AI�����! ����K8S! ��K8S�AI��! ������! ������! AI�����-��! • ��������������� ��������������! AI�����-GPU! • �����! • GPU����������������! AI�����-��! • �����! • IOPS�������������������10T+�! • NFS������! • ����������! • ����������������! AI�����! ����K8S! AI�������! ��K8S�AI��! JOB��! • ����Job�����������������! �������! • ����Prometheus����! • ����ES����! ��K8S�AI��! AI�����! AI�������! ����K8S! ������! ������! �����! ������! Ceph�����! • �������10T+! • �����������

k8s-service k8s-app-name app-name ai-test ai-dc-server ai-dc-server ai-dc-servedr ai-preview ai-dc-web ai-dc-web ai-dc-web ai-prod ai-dc-api ai-dc-api ai-dc-api 业务线名称 ai dt ad 现有环境名 test preview k8s-app-name 容器host应用名称，deployment 名，通过配置文件关键字关联业务线应用名称，保持应用和k8s之间的关联。 规范 范例 应用名称 ai-dc-server ai-dc-web ai-dc-api 镜像版本和git版本库规范 制定git版本规范，开发提交合并master代码，git版本库和业务版本进行关联，出了问题好定位问题。 采用docker容 仓库域名+路径 空间名 应用名称 日期-时间戳 git版本库 镜像完整地址 registry.hz.local/huize ai-test ai-dc-web 20190510-1033 v20 registry.hz.local/huize/ai-test_ai-dc-web:20190510-1033_v20 k8s镜像构建过程 domain/path namespaces app-name

2019 KE.COM ALL COPYRIGHTS RESERVED 1 周玉驰 贝壳找房 - 数据智能中心 - 策略算法部 AI选房中深度学习的实践及优化 2019 KE.COM ALL COPYRIGHTS RESERVED 2 2019 KE.COM ALL COPYRIGHTS RESERVED 2 2019 KE.COM ALL COPYRIGHTS RESERVED 3 扫一扫二维码图案，加我微信 2019 KE.COM ALL COPYRIGHTS RESERVED 4 目录  为什么要做AI选房  如何做AI选房  模型演变历程  实践应用  总结&思考 2019 KE.COM ALL COPYRIGHTS RESERVED 5 为什么做AI选房？ 2019 KE.COM ALL COPYRIGHTS RESERVED 6 贝壳找房发展&挑战 20万 9 AI选房本质上是TopN排序问题 2019 KE.COM ALL COPYRIGHTS RESERVED 10 AI选房 - 房源质量打分   好房定义 AI选房建模 Y = f (X)  Y：未来？天能否成交  X：最近？天房源产生的所有行为  样本：挂牌满？天的房源 2019 KE.COM ALL COPYRIGHTS RESERVED 11 AI选房建模

ol s f r om t h e C e n t e r f or I n f or m at i on S e c u r i t y ( C I S ) . F or m or e d e t ai l ab ou t e v al u at i n g a h ar d e n e d c l u s t e r agai n s t t h e offi c i al C I S b e n e r n e t e s . A p r ofi l e i s a s e t of c on fi gu r at i on s t h at p r ov i d e a c e r t ai n am ou n t of h ar d e n i n g. G e n e r al l y , t h e m or e h ar d e n e d an e n v i r on m e s s i on s of 700 or m or e r e s t r i c t i v e . R at i on al e e t c d i s a h i gh l y - av ai l ab l e k e y - v al u e s t or e u s e d b y K u b e r n e t e s d e p l oy m e n t s f or p e r

u0169V6m6NXcGsky8glShQLNX+er2E5bFKA0TVOuO56Y myKkynAmclLuZxpSyER1gx1JY9RBPjt1Qk6t0idRomx JQ2bq74mcxlqP49B2xtQM9aI3Ff/zOpmJLoOcyzQzKNl 8UZQJYhIy/Zv0uUJmxNgSyhS3txI2pIoyY9Mp2xC8xZeX iV+vXdW8u/Nq47pIowTHcAJn4MEFNOAWmuADgwE8wyu8 u0169V6m6NXcGsky8glShQLNX+er2E5bFKA0TVOuO56Y myKkynAmclLuZxpSyER1gx1JY9RBPjt1Qk6t0idRomx JQ2bq74mcxlqP49B2xtQM9aI3Ff/zOpmJLoOcyzQzKNl 8UZQJYhIy/Zv0uUJmxNgSyhS3txI2pIoyY9Mp2xC8xZeX iV+vXdW8u/Nq47pIowTHcAJn4MEFNOAWmuADgwE8wyu8 u0169V6m6NXcGsky8glShQLNX+er2E5bFKA0TVOuO56Y myKkynAmclLuZxpSyER1gx1JY9RBPjt1Qk6t0idRomx JQ2bq74mcxlqP49B2xtQM9aI3Ff/zOpmJLoOcyzQzKNl 8UZQJYhIy/Zv0uUJmxNgSyhS3txI2pIoyY9Mp2xC8xZeX iV+vXdW8u/Nq47pIowTHcAJn4MEFNOAWmuADgwE8wyu8