切换逻辑 名字服务在负载均衡场景的落地 xxx.huya.com 华南IDC 华中IDC 华北IDC Nginx Nginx Nginx Web server 专线 背景 负载均衡变更需要更新配置发布后 才能生效，节点扩缩容，屏蔽操作 需要人工参与，流量接入接出时间 长 目标 流量接入接出时长低于30秒 负载均衡配置下发无状态改造 虎牙负载均衡部署的机器数百，配置下发的可靠性保障，一致性保障要求特别严格， 传统配置下发方式 负载均衡配置固话在配置文件中， 节点操作需要人工上系统操作增减 节点 配置中心监听方式 客户端主动监听配置更新，配置秒 级生效，新扩容服务主动拉取全量 配置，流量接入时长缩短3分钟+ 配置名字服务 配置IP方式 服务端下发文件更新配置，更新配 置生效时间长，由于需要预先知道 负责均衡集群的机器信息，扩缩容 需要等元信息同步以后才能接入流 量，扩容流量接入时间长 负载均衡节点对接名字服务 虎牙负载均衡部署的机器一台机器上可能存在数百的配置，每次节点生效需要重新 reload配置，且节点新增或删除需人工上系统操作配置，配置生效对服务会有中断 配置IP方式 配置名字服务 客户端主动监听名字服务更新，节 点变更秒级生效 负载均衡配置固话在配置文件中， 节点操作需要人工上系统操作增减 节点 基于Nginx dyups模块的动态上下线 • 基于名字服务感知节点变化快速变更节点 • 基于nginx

消费者周期性从服务中心更新目 标微服务实例集合 • 微服务实例与服务中心之间的如 果成功建立WebSocket连接，则服 务中心会将目标实例变更事件尽 快推送给相关的消费者 服务发现-LoadBalance 1.将从服务中心取得的实例集合，进行过滤，得到 Endpoint集合 • 根据兼容规则，将实例进行分组 只有edge service场景下，对于同一个目 标微服务，存在多个版本分组 • • 兼容分组内，新版本功能集合大于旧版本，自动 根据url选择合适的版本组 • AZ亲和性 • 根据传输通道分组 • 根据实际调用统计，隔离暂时不可用的调用目标 • 开发人员通过SPI扩展过滤功能 2.以过滤得到的Endpoint集合作为输入，根据配置的策 略进行LoadBalance： • 轮询、响应时间权重、随机 • 基于Netflix ribbon，开发人员可以根据需要自 定义IRule的实现 通过SPI声明VertxHttpDispatcher的扩展 • 通过getOrder声明相对其他dispatcher的执行顺序 • 自己能处理的url，拦截处理 – 根据自定义规则获取目标微服务名、版本规则、新url等等参数 – 通过EdgeInvocation转发请求 • 自己不能处理的url，放通给其他dispatcher处理 Metrics-架构 • 基于netflix spectator

物料管理服务 Mesher 统计报表服务 微服务注册中心 灵活扩展 应用零改造 微服务化 快速迭代，加 快上线速度 非侵入式接入微服务 PHP应用接入微服务治理 “更新就停机”变为 “随时更新维护” 弹性伸缩，成本可控 提升整体性能 servicecomb.apache.org github.com/apache?q=servicecomb 应用 市场 游戏中 心

Resolve 决定要访问的服务名后即可开 始匹配路由规则，比如 • 系统中稳定运行着A服务， 版本是1.0，最近新上线了 1.1版本，你希望只让一部 分用户进行体验，那么你可 以定义Header带有device- os=android就将95%流量转 移版本为1.0的实例中，5% 转移到1.1版本 • 请求者的元数据中带有 env=production，那么要将 路由到元数据中带有 env=production的实例中 为mesher设置CSE地址（注册中心，配 置中心） • 为mesher对接APM 日志收集 • 为mesher对接APM metrics收集 • 为mesher 对接APM 调用链追踪 • 告知mesher服务的版本以及监控端口 Huawei Confidential 16 用户案例 华为ServiceMesh 华为云数据库 作业 人员 系统维护 作业 人员 系统维护 楼宇内各空间位置信标及资产标签 楼宇内各空间位置信标及资产标 支持Istio作为控制面板 支持发现 支持路由管理 支持Citadel安全管理 1.6 泛服务化，Mysql支持 1.8 支持grpc协议 支持本地健康查询 Sidecar Injector 1.5 目前版本 支持per host运行模式 支持Skywalking 1.7 支持更多的生态 1.9 2017.11 2018.11 2019.2 2018.9 2018.12 2019.3 Huawei

org Apache孵化器 • 进入ASF孵化的目的 – 学习Apache做事之道 – 构建健康发展的社区 – 完善软件许可（License） – 与Apache的基础设施集成 – 发布合规版本 12 github.com/apache?q=servicecomb servicecomb.apache.org Apache孵化器 • 进入ASF孵化的步骤 – 提起孵化提案 – 寻找Champion 是否能够自主发布合规版本 https://incubator.apache.org/guides/graduation.html 15 github.com/apache?q=servicecomb servicecomb.apache.org ServiceComb（Apache 孵化之前） Service Center Java Chassis 0.1.0 正式开源版本 Service 集成外部配置中心 Metrics 监控支持 异步编程模型支持 ZipkinV2版本支持 Service Center Java Chassis 1.0.0-m2 提升etcd弹性伸缩 边缘服务网关优化 支持文件流上传下载 用户自定义访问日志 Service Center Java Chassis 1.0.0 正式稳定版本发布 自动生成脚手架工程 支持Http2协议 自定义ping机制 Saga

Resolve 决定要访问的服务名后即可开 始匹配路由规则，比如 • 系统中稳定运行着A服务， 版本是1.0，最近新上线了 1.1版本，你希望只让一部分 用户进行体验，那么你可以 定义Header带有device- os=android就将95%流量转 移版本为1.0的实例中，5% 转移到1.1版本 • 请求者的元数据中带有 env=production，那么要将 路由到元数据中带有 env=production的实例中 Service Instances: 10.24.0.23:8080 10.24.0.24:8080 … Istio CSE Admin API • 独立监听端口 • 微服务健康 • mesher版本 • 路由信息 • Prometheus格式Metric数据 6/30/2018 透明的平台体验 • 部署容器应用时只需勾选以启用Mesher 6/30/2018 背后发生了什么？ • 为 为mesher设置CSE地址（注册中心， 配置中心） • 为mesher对接APM 日志收集 • 为mesher对接APM metrics收集 • 为mesher 对接APM 调用链追踪 • 告知mesher业务服务的版本以及监控 端口 性能损耗 使用前 使用后 TPS 26000 6300 Latency 0.76ms 3.3ms CPU 100% 130% Concurrency 20 20 Website:

运维人员替换 部 署 旧 版 本 开发 开发 测试/发布 • 技术实现单一，需要想办法用一种技术解决所有问题 • 只能按大颗粒系统发布版本，响应周期长 （小特性版本3-6个月，每年1个大版本） • 无法做到永远在线，大版本升级时，要停机中断服务 微服务化的应用构建和发布 产品发布计划 产品发布计划 产品发布计划 产品发布计划 开发 部署到生成 部署到生成 环境 部署到生成 环境 开发 开发 部署到生成 环境 部署到生成 环境 部署到生成 环境 开发 开发 bugs 旧版本持续运行 Speed & Safety 面临的问题 • 企业应用和互联网应用的不同？ • 如何做到不同ISV的应用互联互通统一管理？ • 怎么才能加快微服务的开发？ • 微服务化后如何保证性能？ • 如何进行统一的路由控制？

JSON 发布版本 发布版本 在法律上，是基⾦会的⾏为 “不需要去⼯作” “需要合适的协议” 由PMC授权 需要投票 需要电⼦签名 通过⼤范围的镜像系统分发 发布 发布 已签名 需要孵化免责声明 有 LICENSE 和 NOTICE ⽂件 遵循ALv2以及任何包括第三⽅软件的协议声明 源⽂件有ASF头 由未编译的源码构成 ⼆进制版本 ⼆进制版本 不是必需的 不是官⽅版本 不是官⽅版本 同样需要遵守规则 毕业 毕业 展示了项⽬独⽴运作的能 ⼒： ⾃我管理 发布管理 建⽴法律框架 公开透明地运作项⽬ ServiceComb 孵化记录 ServiceComb 孵化记录 姜宁介绍 姜宁介绍 华为开源能⼒中⼼技术专家 前红帽软件主任⼯程师 Apache会员 Apache ServiceComb项⽬负责⼈ ServiceComb 简介 ServiceComb

⽆无法快速有效定位问题，⽆无法 快速有效知晓服务运⾏行状态， 服务资源浪费。 3 服务过⼤大，堵塞交付 快速增⻓长的结果导致服务过⼤大 或者服务过⼩小。⽽而过⼤大的服务 导致整个提交流⽔水线堵塞，测 试⼈人员⽆无法拿到新的版本，交 付延期 4 团队出现冲突，架构腐化严重 交付不能完成导致各⾓角⾊色间的 冲突越来越严重，为了快速上 线质量遭到牺牲。架构⽆无⼈人守 护，各种不⼀一致性，服务内部 接⼝口⼀一⽚片混乱，核⼼心⼈人员离 1 环境⼿手⼯工维护，频频出错 2 缺乏有效监控 3 服务过⼤大，堵塞交付 快速增⻓长的结果导致服务过⼤大 或者服务过⼩小。⽽而过⼤大的服务 导致整个提交流⽔水线堵塞，测 试⼈人员⽆无法拿到新的版本，交 付延期 4 团队出现冲突，架构腐化严重 交付不能完成导致各⾓角⾊色间的 冲突越来越严重，为了快速上 线质量遭到牺牲。架构⽆无⼈人守 护，各种不⼀一致性，服务内部 接⼝口⼀一⽚片混乱，核⼼心⼈人员离 2015 环境⼿手⼯工维护，频频出错 缺乏有效监控 3 服务过⼤大，堵塞交付 快速增⻓长的结果导致服务过⼤大 或者服务过⼩小。⽽而过⼤大的服务 导致整个提交流⽔水线堵塞，测 试⼈人员⽆无法拿到新的版本，交 付延期 4 团队出现冲突，架构腐化严重 交付不能完成导致各⾓角⾊色间的 冲突越来越严重，为了快速上 线质量遭到牺牲。架构⽆无⼈人守 护，各种不⼀一致性，服务内部 接⼝口⼀一⽚片混乱，核⼼心⼈人员离

这次workshop的示例例代码 ServiceComb 0.1版本 1. Java开发框架 2. 服务注册中⼼心 3. 微服务示例例代码 2017年年6⽉月 2017年年9⽉月 2017年年12⽉月 ServiceComb 0.2版本 1. Go语⾔言开发框架 2. 服务契约⽀支持⼯工具 3. Reactive响应式 4. … ServiceComb 0.3版本 1. 由⽤用户来驱动 … ServiceComb