servicecomb.apache.org github.com/apache?q=servicecomb 支持10万TPS的高性能服务间通信解读 刘宝 2 github.com/apache?q=servicecomb servicecomb.apache.org 刘宝，华为微服务开发专家，Apache ServiceComb Committer。 拥有10年以 上java开发框架的开发和运维经验。热爱微

应用层探活 数据库故障 恢复时间长 服务故障牵 引慢，流量 接入生效时 间长 DNS生效慢 内部服务无 就近接入能 力 服务性能下 降流量不摘 除 实 例 切 换 能 力 秒 级 流 量 牵 引 能 力 D N S 就 近 接 入 能 力 异 常 摘 除 能 力 dmx dns-f app nacos M S write read DNS-F在数据库场景的落地 背景 背景 在数据库服务切换时效率低，依赖 业务方修改配置，时效不确定，通 常需要10分钟以上； 目标 数据库切换秒级生效； 技术特点-DNS-F M S S S M1.mysql S1.mysql S2.mysql S3.mysql if M1 down and M1 is master: choose newest slave： S1 or S2， compare slave IO/SQL 之前10分钟 30s内 故障屏蔽实效 之前10分钟 1分钟内 为什么选择Nacos 对比项目\注册中心 Spring Cloud Nacos Spring Cloud Eureka CAP模型 支持AP和CP模型 AP模型 客户端更新服务信息 使用注册+DNS-f+健康检查模式。 DNS-F客户 端使用监听模式push/pull拉取更新信息 客户端定时轮询服务端获取其他服务ip信息并对 比，相比之下服务端压力较大、延迟较大

github.com/apache?q=servicecomb servicecomb.apache.org 汽车数字营销平台微服务化转型 打造集中化、标准化、智能化、便利化的汽车品牌数字营销平台  支持数字营销快速、多样、变化的业务场景，避免系统分散重复，将技术投资回报最大化。  以智能化，可持续发展思路，打造车企C2B2C用户体验优化闭环。  可配置适应业务生长，帮助企业更快速、灵活地应 q=servicecomb servicecomb.apache.org 以微服务方案为底座的服务化改造 主机厂CRM运营 经销商端销售助手 主机厂 呼叫中心坐席 CRM静态站点 #N （Vue 2.5, 支持 PC/移动端/微信H5) 域名：https://crm.exeedcars.com CRM 业务网关 服务实例#N （基于Apache ServiceComb Edge Service) 客户和线索 客户和线索 数据库 工单 数据库 系统管理 数据库 CCC + 客服 数据库 更多新业务 服务实例 #N （SpringBoot + 华 为云CSE） UAT和PROD使用CSE企业版; 本地开发和SIT使用本地轻量级CSE服务 服务中心 （>Eureka） 配置中心 （etcd增强） 治理中心 （Hystrix+Rib bon增强） 新业务 数据库 华为云CSE介绍

center Huawei Confidential 9 基于微服务元数据的路由管理 • 匹配请求者header • 匹配请求者元数据信息 • 按权重引流 • Router使用统一配置模型，支持插件对接不同生态 请求特征： • Service Name • Headers • Consumer metadata Resolve 决定要访问的服务名后即可开 始匹配路由规则，比如 • Cache Service Instances: 10.24.0.23:8080 10.24.0.24:8080 … Istio Apollo Huawei Confidential 10 多协议支持 - 使用Invocation抽象 - 协议可快速接入到mesher中，并享受同样的治理能力 Http Request Grpc Request Transfer Invocation Http Consumer service Huawei Confidential Adaptor 11 ServiceComb Service Center架构演进 - 支持多注册中心 - 拥抱混合云架构 - 同时支持客户端自注册与平台注册 - 打通k8s与虚机等基础设施，可实现VM向容器平滑迁移 Service Center k8s adaptor etcdadaptor Service

im/ServiceCombUsers/Lobby 没有十全十美的微服务框架，适合的才是最好的  微服务API设计：支持Swagger API规范  开发方式：支持透明RPC、Spring MVC风格的微服务开发  编程模型：同时支持同步、异步的编程模型  性能：支持原生的Reactive模式（EventLoop），相比于传 统的同步服务调用，性能更高（吞吐量N倍+提升、时延降低 为原来的50%-）  轻量级、易集成：可以方便的与Spring MVC、Tomcat等 已有技术和容器集成，支持轻量级的standalone部署  服务治理：可商用的服务治理能力  成熟和商用支持：Apache孵化项目，公司内部大规模使 用，专职的团队支撑 微服务框架 RPC框架 跨语言：  gRPC  Thrift  ServiceComb Java语言：  Motan LB 内置LB： 客户端负载均 衡 外置LB： Nginx、 Ribbon SLB 注册中心 配置服务：  Zookeeper  etcd 缓存方案：  Redis 数据库方案：  DB + MQ 服务治理 服务治理： 超时、流控、 降级等 运维KPI：  ELK  Zabbix 调用链：  zipkin 选择ServiceComb的原因： 实践-

Netflix Servo Dropwizard Metrics Spring Boot Actuator 计数器（Monitor）的实 现 性能相对高效 功能相对丰富 较弱，但是支持使用 Dropwizard Metrics集成实现 强化 数据发布 Push模式，自带三种 Observer Pull或Push，自带几种 Reporter Pull或Push，自带两种 有，需要自己打点 按需，Http自动记录基本信 息，也可以自己打点 易集成 是 是 是（限Spring Boot中启用） • 通过上面的比较可以看出，三种Metrics对于微服务的支持都很弱，例如微服务包含若干个 Operation，不写代码无法全面获取每一个Operation的各类指标（调用数、TPS、Latency等 等）。 ServiceComb Java Chassis中的Metrics 开箱即用，不写一行代码输出关键Metrics，全面覆盖调用数、TPS、 Latency等； • 基于Netflix Servo，使用固定统计周期（稍后会详细介绍）； • 多维度统计，帮助用户抽丝剥茧快速定位问题，支持的维度包括： • 微服务实例（Instance）级和操作（Operation）级； • 操作结果成功（Success）和失败（Failed）（开发中）； • Transport区分Rest和Highway（评估中）。

更好的用户体验 业界趋势 n Java 9中把反应式流规范以 java.util.concurrent.Flow 类的方式添加到了标准库中 n Spring 5对反应式编程模型提供了内置支持，并增加了新的 WebFlux 模块来支持反应 式 Web 应用的开发 ServiceComb Apache孵化的第一个微服务框架。 服务契约 怎么解决中台开发命苦的问题？ 多语⾔ 微服务运维 Mesher 的通信模型演进—Reactor 黄金法则：不要阻塞Event Loop 什么才叫阻塞？ n Thead.sleep() n 等待一个锁 n 等待一个互斥信号或监视器（例如同步的代码块） n 执行一个长时间数据库操作并等待其结果 n 执行一个复杂的计算，占用了可感知的时长 n 在循环语句中长时间逗留 10000TPS=0.1ms处理一个请求 如果利⽤多核？ ServiceComb 采⽤Vert.x的背景

Breaker Rate Limiting Config Center Scheduler Governance API server Prometheus Zipkin 功能与实现原理 多协议支持 • 任意协议请求都被抽象为Invocation模型进行处理，最终再转换 为协议请求转发 6/30/2018 Http Request Grpc Request Transfer Invocation Management Service center 基于微服务元数据的路由管理 • 匹配请求者header • 匹配请求者元数据信息 • 按权重引流 • Router使用统一配置模型，支持插件对接不 同生态 6/30/2018 Request 请求特征： • Service Name • Headers • Consumer metadata Resolve 决定要访问的服务名后即可开 app (OCR client) Tenant VPC JDBC Model/Services lifecycle management API 25 华为ServiceMesh 华为云数据库 作业 人员 系统维护 作业 人员 系统维护 楼宇内各空间位置信标及资产标签 楼宇内各空间位置信标及资产标 签 3G/4G 服务台 管理者 管理者 楼宇1 楼宇n 高级管理 系统维护 华为云存储

为什什么基于DevOps？ https://www.supinfo.com/articles/single/3652-what-is-devops 架构⼀一旦确定，很难改变 什什么是演进式架构？ ⽀支持增量量式变更更作为第⼀一原则 什什么是演进式架构？ • 演进是动态平衡 • 痛苦的事情提前做 • 运维意识是关键 演进式架构 拥抱变化 动态平衡 业务 技术 团队 架构的演进基于业务、技术和团队的平衡 康威定律律：组织产⽣生的设计成果等同于组织内的协作结构 微服务架构的设计原则 • 竞争能⼒力力平衡 • 围绕业务构建 • “去”中⼼心化 • ⾃自动化“⼀一切” 去“中⼼心化” - ⽤用合适的技术解决问题 数据库作为集成点 去“中⼼心化” - 业务持有数据 ⽤用户会话 Redis 会话服务 上下⽂文 购物⻋车 购物⻋车 产品数据 Mongo 产品服务 上下⽂文 上下⽂文 Redis

•断 方案选择建议 离 数据一致性的起因 单体应用 • 单体应用由于所有模块(A/B/C)使用同一个数据库 • 数据一致性通过数据库事务保证 A B C commit rollback 微服务场景 MySQL MongoDB Cassandra 数据一致性无法完全通过数据库保证 离 独立进程 独立部署 独立技术 独立团队 合 数据一致性的解决方案 T1 T2 T3 C2 car rental saga T T' time 断 一致性方案的选择建议 ? ??? ???? ? ?? ? ? ? ?? 一致性方案的选择建议 • 微服务内：聚合通过数据库事务保证强一致 内刚 • 微服务间：最终一致 外柔 微服务架构与领域驱动设计 • if our service boundaries align to the bounded contexts 聚合内：强一致 跨聚合：最终一致 聚合边界：强一致边界 一致性方案选择建议 • 微服务：限界上下文 • 聚合边界：强一致边界 • 限界上下文 -> 1 .. N 聚合 微服务内：聚合通过数据库事务保证强一致 微服务间：最终一致 如果需要分布式强一致，先考虑设计是否合理而非追求最新技术 合理的设计能大大减少技术复杂度和商业成本 总结 • 起因：离 • 方案：Saga 222 • 选择建议：内刚