Performance of Apache Ozone on NVMe Wei-Chiu Chuang (jojochuang) Ritesh Shukla (kerneltime) Agenda • Overview of how Ozone and how it scales • Why NVME is important for Ozone for scaling • Benefits Benefits of using NVME • Impala performance results from NVME clusters • Write path improvements results from NVME clusters • Summary • Questions Ozone Architecture Why does Ozone Scale? Separation of Active - Standby Protocol Support Hadoop / S3 API Hadoop API Small objects are welcome Max performance reached at object size around 10-20 MB Hardware trends • Cloudera recommends Ozone’s metadata

KUBERNETES 的 容器器 + AI 平台 如何助⼒力力企业数字化和智能化转型 xiaoqin@caicloud.io VP of R&D 提纲 构建集群与管理理资源 - 73s 视频演示 多集群和镜像仓库 多租户和旧系统的集成 运⾏行行和构建应⽤用 Rudder - 应⽤用编排技术框架 Cyclone - 持续集成与交付引擎 运⾏行行 AI 应⽤用（机器器学习） - com/caicloud/cyclone Cyclone 技术架构 云原⽣生 CI/CD 引擎 设计 - 云原⽣生，k8s 亲和性 性能 - 为企业场景优化 扩展性 - ⽀支持 AI ⼯工作流 运⾏行行 AI 应⽤用 KUBEFLOW 的应⽤用 • Kubeflow 社区的联合创始⼈人 • kubeflow/tf-operator • 定义 TFJob Spec (CRD) ⽀支持分布式 TensorFlow 任务 KUBEFLOW 之上 • 借⼒力力容器器平台提供⽣生产级的集群资源管理理 • ⼯工作区隔离与共享 • 数据、模型、环境、应⽤用等 • 全⾯面⽀支持 AI ⼯工作流 • 探索开发 • 线上运⾏行行 关注并回复 kubecon18 P7 展台

understanding, text generation, vision understanding, audio understanding, tool use, role play, playing as AI agent, etc. 最新版本 Qwen1.5 有以下特点： • 6 种模型规模，包括 0.5B、1.8B、4B、7B、14B 和 72B； • 针对每种尺寸提供基础模型和 Chat 模型，并确保聊天模型按照人类偏好进行校准； 模型，并确保聊天模型按照人类偏好进行校准； • 对基础模型和 Chat 模型的多语言支持 • 基础模型和聊天模型都支持多种语言； • 支持工具调用、RAG（检索增强文本生成）、角色扮演、AI Agent 等； 想了解更多信息，欢迎访问： • 博客 • GitHub • Hugging Face • ModelScope • Qwen1.5 Collection 加入社区，加入 Discord OOM 问题。这也是为什么您发现一个大型语言模型服务总是占用大量内存的原因。 1.11 SkyPilot 1.11.1 SkyPilot 是什么 SkyPilot 是一个可以在任何云上运行 LLM、AI 应用以及批量任务的框架，旨在实现最大程度的成本节省、最 高的 GPU 可用性以及受管理的执行过程。其特性包括： • 通过跨区域和跨云充分利用多个资源池，以获得最佳的 GPU 可用性。 • 把费用降到最低——SkyPilot

#IstioCon Performance tuning and best practices in a Knative based, large-scale serverless platform with Istio 张龚, Gong Zhang, IBM China Development Lab 庄宇, Yu Zhuang, IBM China Development Lab #IstioCon Cloud. #IstioCon ● Knative and Istio ● How Istio is leveraged in a Knative based platform ● Performance bottleneck analysis and tuning ○ Istio scalability optimization during Knative Service provisioning mesh enabled (based on https://github.com/knative/serving) #IstioCon Performance bottleneck analysis and tuning • Performance Criteria: the platform has multiple shard k8s clusters, each cluster should

Kubernetes 与 AI 相结合架构、 落地解析（从 0 到 1 赵慧智 技术总监 （才云科技 Kubernetes 介绍 Kubernetes 使用 Kubernetes 部署与企业对接 AI 技术介绍 AI 云平台介绍及构成 AI 与 Kubernetes 融合与架构解析 • 是一套集自动部署，弹性扩容，并且基于容器的集群管理工 具。 • 快速部署应用程序 上的软件架构：Kubernetes 与 container 通信，Node 的分类 Kubernetes 介绍 Kubernetes 使用 Kubernetes 部署与企业对接 AI 技术介绍 AI 云平台介绍及构成 AI 与 Kubernetes 融合与架构解析 Kubernetes 基本概念 - Pod • Pod 是 Kubernetes 中最小 的资源 • 一个 Pod 包含一个或多个 Controller • Volume • Kubectl Kubernetes 介绍 Kubernetes 使用 Kubernetes 部署与企业对接 AI 技术介绍 AI 云平台介绍及构成 AI 与 Kubernetes 融合与架构解析 Kubernetes 企业级架构 ���! OpenStack! �����! PAAS OpenAPI! ����

方案设计篇：如何设计可落地的AI解决方案 扫码试看/订阅 《 TensorFlow 2项目进阶实战》视频课程 • 行业背景：AI新零售是什么? • 用户需求：线下门店业绩如何提升？ • 长期⽬目标：货架数字化与业务智能化 • 短期目标：自动化陈列审核和促销管理 • 方案设计：基于深度学习的检测/分类的AI流水线 • 方案交付：支持在线识别和API调用的 AI SaaS 目录 行业背景：AI新零售是什么 ——《C时代 新零售——阿里研究院新零售研究报告》 新零售知识框架 ——《C时代 新零售——阿里研究院新零售研究报告》 数字经济基础设施 ——《C时代 新零售——阿里研究院新零售研究报告》 AI：贯穿新零售全流程 ——《C时代 新零售——阿里研究院新零售研究报告》 AR/VR：虚实结合的消费体验 ——《C时代 新零售——阿里研究院新零售研究报告》 传感器和IoT：提升门店消费体验 基于深度学习的检测/分类的AI流水线 货架商品检测 货架商品检测 Bottle（瓶装） Combination（组合装） 货架商品检测 Bottle（瓶装） Combination（组合装） Bbox: [12, 33, 45, 89] 货架商品识别 雪碧 可口可乐 七喜 货架商品识别 雪碧, 0.96 可口可乐, 0.89 七喜, 0.94 商品识别 AI 流水线 [[Bbox1]

u0169V6m6NXcGsky8glShQLNX+er2E5bFKA0TVOuO56Y myKkynAmclLuZxpSyER1gx1JY9RBPjt1Qk6t0idRomx JQ2bq74mcxlqP49B2xtQM9aI3Ff/zOpmJLoOcyzQzKNl 8UZQJYhIy/Zv0uUJmxNgSyhS3txI2pIoyY9Mp2xC8xZeX iV+vXdW8u/Nq47pIowTHcAJn4MEFNOAWmuADgwE8wyu8 u0169V6m6NXcGsky8glShQLNX+er2E5bFKA0TVOuO56Y myKkynAmclLuZxpSyER1gx1JY9RBPjt1Qk6t0idRomx JQ2bq74mcxlqP49B2xtQM9aI3Ff/zOpmJLoOcyzQzKNl 8UZQJYhIy/Zv0uUJmxNgSyhS3txI2pIoyY9Mp2xC8xZeX iV+vXdW8u/Nq47pIowTHcAJn4MEFNOAWmuADgwE8wyu8 u0169V6m6NXcGsky8glShQLNX+er2E5bFKA0TVOuO56Y myKkynAmclLuZxpSyER1gx1JY9RBPjt1Qk6t0idRomx JQ2bq74mcxlqP49B2xtQM9aI3Ff/zOpmJLoOcyzQzKNl 8UZQJYhIy/Zv0uUJmxNgSyhS3txI2pIoyY9Mp2xC8xZeX iV+vXdW8u/Nq47pIowTHcAJn4MEFNOAWmuADgwE8wyu8

baetyl-remote-mqtt service . . . . . . . . . . . . . . . . . . . . . . . . . . 72 11 Image capturing and AI model inference with Video infer Service 81 11.1 Workflow . . . . . . . . . . . . . . . . . . . . connect, message routing, remote synchronization, function computing, video access pre-processing, AI inference, device resources report etc. The combination of Baetyl and the Cloud Management Suite of information for the first time, including info and stats: { "info": { "company": "baidu", "scope": "ai" }, "stats": { "msg_count": 124, "infer_count": 120 } } The subsequent JSON that baetyl-agent reports

Service Message Synchronize between baetyl-hub and Baidu IoTHub via Remote Service Image capturing and AI model inference with Video infer Service Development How to write a python script for Python runtime connect, message routing, remote synchronization, function computing, video access pre-processing, AI inference, device resources report etc. The combination of Baetyl and the Cloud Management Suite of com/product/cfc.html], Infinite [https://cloud.baidu.com/product/infinite.html], EasyEdge [https://ai.baidu.com/easyedge/home], TSDB [https://cloud.baidu.com/product/tsdb.html], IoT Visualization [https://cloud

connect, message routing, remote synchronization, function computing, video access pre-processing, AI inference, device resources report etc. The combination of Baetyl and the Cloud Management Suite of com/product/cfc.html], Infinite [https://cloud.baidu.com/product/infinite.html], EasyEdge [https://ai.baidu.com/easyedge/home], TSDB [https://cloud.baidu.com/product/tsdb.html], IoT Visualization [https://cloud first time, including info and stats: { "info": { "company": "baidu", "scope": "ai" }, "stats": { "msg_count": 124, "infer_count": 120 } } The subsequent JSON