Serverless Kubernetes: Container in Cloud Native Way 阿里云容器服务团队 张维 KUBECON CHINA 2018 应用部署演化： Going native with cloud Virtual Machine/Bare Metal Increasing focus on business logic Decreasing Orchestration Serverless Computing • 更加关注业务应用 • 减少关注基础设施 Why Serverless + Container？ Container Serverless • 执行部署一致性 • 快速交付 • 敏捷化 • 免运维 • 高弹性 • 按需付费 A short history of Serverless Container N AWS Fargate 2017.11 计划2018年支持 Huawei CCI 2018.2 Y Alibaba Cloud Serverless Kubernetes 2018.5 Y Serverless Kubernetes容器服务 - 按照应用使用资源付费 - 无需管理服务器节点 容器调度与编排 经典Kubernetes容器服务 - 按照集群节点数量付费

Kubernetes: A Perfect Match for Your Serverless Platform Ying Chun Guo guoyingc@cn.ibm.com Zhou Xing xingzhou@qiyi.com Agenda • What is serverless? • Kubernetes + Apache OpenWhisk • Technical Technical details • Demo What is serverless ? What is serverless ? Serverless＝ Backend as a Service Functions as a Service • Zero server ops – No provisioning, updating, and managing server server infrastructure. – Flexible Scalability • No compute cost when idle Benefits Serverless landscape defined in CNCF Kubernetes + Apache OpenWhisk Kubernetes Introduction § K8s is

Serverless Kubernetes 理想，现实和未来 张维 阿里巴巴高级技术专家 观看视频回放 Serverless：关注应用而非基础设施 敏捷开发 极致弹性 成本优化 • 无需购买和安装机器 • 无需管理服务器 • 无需升级和更新OS • 快速部署和更新应用 • 快速发布 • “无限”容量 • 秒级弹性 • 更好的扩展性 • 更好的灵活性 • 按需创建 • 无资源闲置 Serverless容器 敏捷开发 极致弹性 成本优化 容器 Build once, Run anywhere 没有语言和库的限制 连接Kubernetes生态 连接Cloud Native生态 无厂商绑定风险 Serverless Container Landscape Serverless容器典型场景和客户价值 在线业务 弹性扩容 Serverless AI Serverless 高弹性低成本 • 免容量规划 • Jenkins/Gitlab-Runner • 低成本 • 强隔离 • 免运维 • 高弹性 • 低成本 Serverless Kubernetes - 在Kubernetes中使用Serverless容器 ECI ECI ECI ECI Kubernetes Cluster （ACK） Pod Pod RunC Pod Pod Pod Pod

效率。用户对加速创新，缩短研发周期，提高迭代效率的需求日益 增大，以 Serverless（服务器无感知）、低/无代码为代表的技术能够 屏蔽复杂的底层基础设施，让用户以最低学习成本、最小使用代价 最大化释放云的生产力，实现快速创新。AWS 贯彻全面 Serverless 化战略，提供计算、存储、数据库等全领域的 Serverless 服务。微软 发力低/无代码领域，其发布的 Power Platform 构建现代化应用的最典型技术方案，但应用现代化并非单纯依靠技 术手段达成，需要完整的建设方法论，具体包含五个方面，如图 7 所示：一是应用架构现代化，依据分而治之、开放设计、统一风格 三重设计原则，通过微服务、Serverless、事件驱动和命令职权分离 等先进架构升级应用范式；二是数据架构现代化，以云原生为底座 优化数据摄取、数据存储、数据分析、数据消费、数据治理等能力， 云计算白皮书（2023 年） 16 新和 应用实践不断。从容器安全至今，云原生安全已经形成完整的安全 防护体系，覆盖承载云原生架构的底层基础设施安全，以容器为核 心的云原生基础架构安全，以 API 安全为重点面向微服务、Serverless 等多种应用形态的云原生应用安全，蕴含安全左移思想的研发测试 安全，以及云原生安全管理与运营。二是云原生安全从单点防护向全 流程一体化防护转变。云原生安全体系的成熟推动了安全产品和防护

我的工作内容？ • 构建云原生应用管理平台 @ 阿里巴巴 Kubernetes 工程师 PaaS 工程师 基础设施运维工程师 … YAML 工程师 我们是如何构建的？ PaaS Serverless Operator Platform 基于 Kubernetes 我们构建了多种多样的应用管理平台： 电商 PaaS Kubernetes 用户 ( 应用开发者和运维人员 ) 我所在的团队 Knative Revision - image - env 组合 拆解 转换 做抽象容易形成“谷仓” • 一个抽象满足不了所有场景，所以… 有状态应用 PaaS 无状态应用 PaaS Serverless PaaS 用户 Kubernetes Cert Manager Ingress Let’s Encrypt Flagger Virtual Service Manual Rollout Ingress interoperability Application Application Application Platform foo Platform bar Serverless baz Common Workload Types Manual Scaler K8s Operators Kubernetes + OAM K8s Plugin HPA Deployment

Route Traffic Monitor Alert Deployme nt App Instance HPA Function • 碎片化： 大约 11 个内部 PaaS/Serverless • 烟囱化：互相之间完全独立， 没有可互操作性 • 用户不友好：大量基础设施层 语义泄露 • 封闭：不能利用 K8s 生态能力 Gateway Route Traffic Rollout Rollout Job Infra Ops Developers Operators Deployme nt Route Service Job PaaS A PaaS B Serverless C 案例：过去的阿里巴巴应用管理平台 Traits/Scopes Scale: - 10,000 nodes/cluster - 100,000 apps/cluster - 1,000 Application Configuration Application Configuration Application Configuration PaaS A PaaS B Serverless C Components Traits Components Traits Components Traits Components Developers Operators 案例：今天的阿里巴巴应用管理

transformation to cloud native Rigid Manual Expensive Infrastructure / IaaS Public Cloud “Serverless”/ FaaS On-premise Middleware / PaaS ● ● Cloud Native Hybrid ● ● ● Up Agile Portable 應用佈建於 IaaS / PaaS 的思考方向 高 應用 模組化程度 低 低 自動化成熟度 高 VMs (GCE) Kubernetes (GKE) PaaS (GAE) Serverless (GCF) App Engine 以原始碼為基礎佈署 Kubernetes Engine 以容器為基礎佈 隨選生成的K8S叢集 Compute Engine 隨選生成的虛擬機

Thoughtworks, Inc. All Rights Reserved. 38 87. AWS SAM 试验 AWS Serverless Application Model（SAM）是一款用于在 AWS 云基础设施上构建无服务器应用的开源框架。此 前入选技术雷达条目的 Serverless Framework 作为一种在各个云服务商上部署无服务器服务的流行框架，主 要用于基于 AWS Lambda

检测任务支持脚本或容器镜像 Ver.1 优化点 快速迭代的 Kubernetes 版本 • 月度发版 • 版本间的配置、参数、API 差异 多样集群类型（阿里云容器服务） • 托管版集群、Serverless 集群 • 边缘集群、GPU 集群 各类检测场景 • 节点、组件、配置等 • 集群升级、集群巡检 版本差异 * 类型差异 * 场景差异 检测项 Ver.1 优化点 检测代码在膨胀

Server Service Discovery Circuit Breaker Gateway Load Balancer Distributed Tracing Messaging Serverless Task Spring Boot Build anything 快速构建应用 Spring Cloud Coordinate anything 提供微服务应用开发套件集合 Spring