First：通过服务化，让服务提供者和消费者乊间通过微服务API建立契约，利 用Swagger OpenAPI规范，最终将微服务API规范化、标准化、在线化。系统从传统单体 应用的黑盒调用（本地Java方法调用）转变成透明的API契约调用  服务自治：通过在线的微服务治理结合云平台，可以实现微服务的弹性伸缩、故障自劢 迁移、降级熔断等，保障微服务的运行质量，提升业务SLA  建立服务化团队：随着 微服务框架技术选型-微服务安全  有些业务场景对微服务调用安全要求较高，需要微服务框架支持 SSL传输、API鉴权和认证等  对于一些敏感信息，例如用户账号、金额等，在记录日志等落盘 和采集时需要做脱敏处理、资源占用要合理  敏感运维操作，需要记录安全日志，例如服务上线和下线、服务 的流控阈值修改等 微服务框架技术选型-服务治理能力  服务框架丌能只单单解决分布式RPC调用、服务注册&发现和路 服务中心、配置中心无状态集群，宕机丌影响已有业务  支持服务级故障隔离  支持多链路和链路级故障隔离  支持服务熔断和降级，以及第三方故障隔离（集成Hystrix） CSE在消费者云业务的实践-服务调用高性能 CSE的高性能设计：  提供Rest和Highway RPC两种通信协议，满足 丌同业务场景  高性能的Rest：集成Vertx,底层基于Netty，性 能比传统Servlet

动态配置 服务注册 服务度量 通信协议 （Rest&RPC） 边缘服务 熔断/容错 Token认证 Saga事务一致性 服务契约 平滑上云 拥抱开源生态 处理链 微服务脚手架 服务安全 治理UI 自动部署 监控运维 Public Cloud …… SpringCloud SpringBoot Istio Apollo Skywalking Zipkin Prometheus 断等服务治理功能 • Service Center • 基于Etcd高性能，高可用服务注册中心 • Saga • 微服务事务最终一致性问题解决方案 • 提供一个集中式的事务协调器，协调微服务之间的事务调用，保证事务最终一致性 https://github.com/apache?q=incubator-servicecomb ServiceComb Java Chassis的架构图 通信模型 (序列化、 保持高性能的同时支持同步调用方式 • 将通信线程与业务处理线程分离 • 操作级别线程池控制，支持隔离仓 • 支持多种异步编程接口 • CompletableFuture • RxJava • Reactive Stream • ……. Process Event-Loop Process R R W W 线 程 池 分布式服务调用追踪 • 支持标准的分布式调用追踪Zipkin V1

线上渠道 主机厂/经销商入口 业务 中台 (核心) 其他系统 DMS 第三方 电商 会员体系 安全体系 协同平台 价值体系 流程体系 第三方渠道 展会 数字 展厅 PC门户 企业微信 官网 短信 小程序 公众号 标准体系 标签体系 数据 中台 …… 存储服务 安全服务 接口网关服务 日志服务 网络服务 …… 短信服务 技术 中台 ……. 消费者互动数据 消费者账号 AOM） 营销平台 接口服务 消息 REST NAT网关 NAT gateway 4核8G 按需扩容 4核8G 按需扩容 Nginx 按需扩容 My SQL 高 可 用 安全组隔离 安全组隔离 安全组隔离 ELB C端流量 8 github.com/apache?q=servicecomb servicecomb.apache.org 以微服务方案为底座的服务化改造 主机厂CRM运营 （Hystrix+Rib bon增强） 新业务 数据库 华为云CSE介绍 Apache ServiceComb 公有云对接能力 安全管理 分布式数据一致 性 REDIS 缓存 OBS存储 缓存 X-API_KEY HTTPS/HTTP 服务注册 数据库 API调用 （ACCESS_TO KEN) 9 github.com/apache?q=servicecomb servicecomb

Reactive pServiceComb 的 I/O 通信模型演进 pServiceComb API⺴关Edge Service p实践案例 为什么微服务框架需要Reactive？ • 微服务架构调用次数更多 • 更高的性能，规模效应 • 更好的用户体验 业界趋势 n Java 9中把反应式流规范以 java.util.concurrent.Flow 类的方式添加到了标准库中 n Spring 微服务 Spring Cloud Node.js 微服务 PHP 微服务 其他语言 微服务 ServiceStage OpenAPI（Restful） 注册中心 配置中心 治理中心 安全管控 服务监控 事务管理 ServiceComb 采⽤Vert.x的背景 3 Vert.x vs webflux ServiceComb 的通信模型演进 启动更多的线程 Why？ Thread 异步场景2：CPU资源使用率低、性能要求高 异步场景3：需要配置较长超时时间的接口 异步场景4：多个微服务级联调用 性能对比测试： 采用Reactive异步模式之后，TPS提升 43% 左右 时延降低 28% 左右，CPU占用降低 56% 左右 总结 n 根据业务场景选择，可同时使用； n 必须关注整个调用链路，不能只关注通信。 参考⽂献 • https://burrsutter.com/wp-

容错熔断等服务治理功能 • Service Center 基于Etcd高性能，高可用服务注册中心 • Pack (Saga) 微服务事务最终一致性问题解决方案，提供一个集中式的事务协调器，协调微 服务之间的事务调用，保证事务最终一致性 https://github.com/apache?q=servicecomb 4 github.com/apache?q=servicecomb servicecomb 动态配置 服务注册 服务度量 通信协议 （Rest&RP C） 边缘服务 熔断/容错 Token认证 Saga事务一致性 服务契约 平滑上云 拥抱开源生态 处理链 微服务脚手架 服务安全 治理UI 自动部署 监控运维 Public Cloud …… SpringClou d SpringBoot Istio Apollo Skywalking Zipkin Prometheus Chassis 0.4.0 服务中心升级 Service Center Java Chassis 0.5.0 边缘服务 系统Metric 异步调用API Saga 0.0.1 集中式Saga原型 Saga 0.0.2 Saga调用支持条件判断 2017年6月 2017年8月 2017年10月 2017年9月 2017年12月 开发者基本都是华为员工， 邮件列表活跃度 每月10

微服务框架 服务元数据管理 服务发布 服务订阅 消息中间件 消息元数据管理 消息生产 消息消费 job调度系统 job元数据管理 job发布 job调度 配置中心 mq管理系统 调用链路 系统 监控告警 系统 发布系统 服务注册 中心 服务治理 系统 api-gateway 获客 授信 下单 还款 大促的痛 机器准备周期长，紧急 情况无法应对 大促后机器闲置率高，资 上云，写请求 回自建idc 04 流量大户上云，顶住流量洪峰 机器器资源按需分配 接入层URL粒度流量调度 LB DNS app/browser Nginx-Proxy Nginx-Proxy 安全防护 自建IDC 云IDC WAF WAF https://order.lexin.com/create https://order.lexin.com/query 服务化框架的单元化路由 如果发生机房级的灾难怎么办？ 单集群 随着流量越来越大，集群规模 越来越大，怎么破？ 单元化&多活的范围 boss 客服系统 销售系统 风控审核 催收系统 政策管理 prod devops 监控系统 调用链路 日志系统 …… oa 人事系统 智能推荐 大数据 AI/BI …… 交易平台 电商 现金 信用卡 会员 桔子理财 风控平台 用户增长 发布系统 故障时，只影响内 部办公相关的公司

高性能，11mb常驻内存，1毫秒延迟 Huawei Confidential Mesher架构总览 7 关键组件 - Control panel - Registry - Protocol - 监控 - 安全 拥抱生态 - ServiceComb - Istio - Promethues - Zipkin - 华为云 异构基础设施 - CCE - Kubernetes - Docker - VM - 为应用容器设置环境变量http_proxy • 为mesher设置CSE地址（注册中心，配 置中心） • 为mesher对接APM 日志收集 • 为mesher对接APM metrics收集 • 为mesher 对接APM 调用链追踪 • 告知mesher服务的版本以及监控端口 Huawei Confidential 16 用户案例 华为ServiceMesh 华为云数据库 作业 人员 系统维护 作业 人员 系统维护 支持http协议 支持注册发现 支持路由管理 支持熔断，限流，负载均 衡等动态配置管理 支持TLS证书托管 插件化模块 1.0 支持Istio作为控制面板 支持发现 支持路由管理 支持Citadel安全管理 1.6 泛服务化，Mysql支持 1.8 支持grpc协议 支持本地健康查询 Sidecar Injector 1.5 目前版本 支持per host运行模式 支持Skywalking

、 实 战 演 练 ） 应用管理平台（CAS） 生命周期管理 部署/卸载 启动/停止 升级/回滚 灰度发布 弹性伸缩 微服务运维 应用告警 日志分析 全链路拓扑 SQL分析 调用链 立体监控 方法追踪 事务洞察 微服务治理 负载均衡 限流/降级 熔断/容错 错误注入 黑白名单 微服务管理 注册中心 配置中心 治理中心 全局事务 契约管理 监控大屏 项目 库 …… 统一基础 数据规范 统一财政 业务数据 标准存储 统一应用 支撑平台 总账结构 统一纵向 层级交换 机制 统一信息 安全体系 软件开发服务 ServiceStage 大数据服务 系统集成服务 IaaS（计算、存储、网络、安全） 中间件服务 标准与规范 应用全微服务化，接口标准由财政厅统一管控， ISV只需聚焦微服务交付，降低依赖性 统一业务模型和数据集成标准，系统无缝对接，

开发方式：支持透明RPC、Spring MVC风格的微服务开发  编程模型：同时支持同步、异步的编程模型  性能：支持原生的Reactive模式（EventLoop），相比于传 统的同步服务调用，性能更高（吞吐量N倍+提升、时延降低 为原来的50%-）  轻量级、易集成：可以方便的与Spring MVC、Tomcat等 已有技术和容器集成，支持轻量级的standalone部署  Zookeeper  etcd 缓存方案：  Redis 数据库方案：  DB + MQ 服务治理 服务治理： 超时、流控、 降级等 运维KPI：  ELK  Zabbix 调用链：  zipkin 选择ServiceComb的原因： 实践- API First Website: http://servicecomb.incubator.apache.org/ Gitter: im/ServiceCombUsers/Lobby 不一刀切，根据业务实际需要选择同步或者异步微服务调用 微服务消费端 业务 线程 池 异步 I/O线 程池 NIO异步通信 微服务提供端 NIO异步通信 业务线程阻塞， 同步等待 唤醒等待的业务线程， 获取响应 1 2 微服务同步调用问题： 1、同步服务调用：业务线程将请求消息交给I/O线程之后， 无论I/O线程是同步还是异步发送请求消息，业务线程都会

incubator.apache.org/ gitter: https://gitter.im/ServiceCombUsers/Lobby AGENDA • 设计演进及架构 • 服务发现 • 微服务调用 • Edge Service • Metrics • 性能调优 设计演进-初始 Transport RPC Servlet Rest Consumer 透明RPC RestTemplate service场景下，对于同一个目 标微服务，存在多个版本分组 • 兼容分组内，新版本功能集合大于旧版本，自动 根据url选择合适的版本组 • AZ亲和性 • 根据传输通道分组 • 根据实际调用统计，隔离暂时不可用的调用目标 • 开发人员通过SPI扩展过滤功能 2.以过滤得到的Endpoint集合作为输入，根据配置的策 略进行LoadBalance： • 轮询、响应时间权重、随机 • 基于Netflix endpoints endpoints ...... endpoints endpoints endpoints Endpoint RESTful Highway All ...... 微服务调用-consumer 透明RPC： 同步、异步声明，可以分开进行，也可以在同一个接口中声明 interface Schema { String hello(String name); } interface