Service Mesh • ⼀一种基础设施层，服务间的通信通过 Service Mesh进⾏行 • 可靠地传输复杂⺴⽹网络拓扑中服务的请 求，将服务变成现代的云原⽣生服务 • ⼀一种⺴⽹网络代理的实现，通常与业务服 务部署在⼀一起，业务服务不感知 • ⼀一种TCP/IP之上的⺴⽹网络模型 Application Service Mesh Transport Network Physical • 实现⼀一个Service Mesh • 使⽤用Service Mesh快速构建微服务 • ⽣生态与扩展 • Service Mesh在华为内部的技术演进 第⼀一代：基于Nginx的微服务代理 • 2013年,微服务开发平台中的组 件，公司内部某电信业务 • 400多个微服务，800左右实例， 200多个数据中⼼心 Sidecar模式 • 基于容器的分布式系统设计模式 • 容器可以共享存储与⺴⽹网络的能⼒力 Circuit Breaker Rate Limiting Config Center Scheduler 调⽤用场景1 • 透明TLS传输能⼒力，⽤用户可托管⾃自⼰己的证书 • 提供者可获得服务端限流能⼒力和处理链功能 ServiceA Mesher Mesher ServiceB https://10.100.2.3:30101 http://127.0.0.1:8080 http://127

微服务架构引入的问题 6/30/2018 什么是Service Mesh • 一种基础设施层，服务间 通信通过Service mesh进 • 一种TCP/IP之上的网络模 型行 • 一个轻量的网络代理，与 业务部署在一起 • 可靠的传输复杂网络拓扑 中的服务请求，将服务变 为现代的云原生服务 Website: http://servicecomb.incubator.apache.org/ http://servicecomb.incubator.apache.org/ Gitter: https://gitter.im/ServiceCombUsers/Lobby 华为内部的代理架构演进 Website: http://servicecomb.incubator.apache.org/ Gitter: https://gitter.im/ServiceCombUsers/Lobby service 注册发现 • 统一的缓存保存机制 • Registrator与ServiceDiscovery插件，对接多种不同的注册发现服务 • 解耦的注册器和服务发现模块，可灵活选择使用客户端发现还是服务端发现 6/30/2018 Registrator Service center Istio Kubern etes Consul Eureka Service Discovery

Service Mesh - 2017年由William Morgan提出 - 一种基础设施层，服务间通信通过Service Mesh进行 - 一种TCP/IP之上的网络模型 - 轻量网络代理，与业务部署在一起 - 可靠传输复杂拓扑网络中的请求 - 将应用变为现代的云原生应用 4 Application Service Mesh Transport Network Physical 异构基础设施 - CCE - Kubernetes - Docker - VM - Bare metal Huawei Confidential 8 注册发现 - 统一缓存模型 - 可灵活选择客户端注册发现，与平台注册 Registrator Service center Istio Kuberne tes Service Discovery Instance Cache Management service Huawei Confidential Adaptor 11 ServiceComb Service Center架构演进 - 支持多注册中心 - 拥抱混合云架构 - 同时支持客户端自注册与平台注册 - 打通k8s与虚机等基础设施，可实现VM向容器平滑迁移 Service Center k8s adaptor etcdadaptor Service center adaptor

Metrics 子项 说明 微服务资源使用 CPU、ThreadCount、Heap、NonHeap 基本的资源使用状态 Consumer端 Latency、CallCount、TPS 包含操作级别和微服务实例级别 Producer端 waitInQueue、lifeTimeInQueue、 executionTime、Latency、CallCount、TPS 包含操作级别和微服务实例级别 1 深圳站： Cloud Native 架构下的 K8S 和微服务实践 Saga Pack版本 • Alpha - 族群领袖， Saga 协调器 • Omega – 族群成员， 事务协调代理 Alpha Service A Omega Service B Omega Alpha Alpha 2018 Building Microservice NO.1 深圳站：

业务板块边界模糊 registry(分期乐) 分期乐业务服务 分期乐业务数据 registry(桔子理财) 桔子理财业务服务 桔子理财业务数据 代理 应用 registry(鼎盛) 鼎盛业务服务 鼎盛业务数据 代理 应用 缺乏全链路的系统诊断能力 业务系统 （业务错误码） 服务框架 (请求数、成功率等) 基础组件 (mq、fastdfs、redis、mysql)

•Alpha充当协调者的角色，主要负责对事务的 事件进行持久化存储以及协调子事务的状态，使 其最终得以与全局事务的状态保持一致，即保证 事务中的子事务全执行，或全不执行。 •Omega是用户程序侧代理，负责对网络请求 进行拦截并向Alpha上报事务事件，并在异常情 况下根据Alpha下发的指令执行相应的补偿或重 试操作。 Service A Omega Service B Omega Alpha

用，专职的团队支撑 微服务框架 RPC框架 跨语言：  gRPC  Thrift  ServiceComb Java语言：  Dubbo  Motan LB 内置LB： 客户端负载均 衡 外置LB： Nginx、 Ribbon SLB 注册中心 配置服务：  Zookeeper  etcd 缓存方案：  Redis 数据库方案：  DB + MQ 服务治理 遵循OpenAPI Specification，消费端、提供端只依赖API  API描述：无论Rest API，或者RPC Highway API，统一使用Swagger YAML定义API  微服务代码生成：服务端和客户端都基于API定义，通过 ServiceComb提供的工具生成不同语言的类库，客户端可以不导入服务 端的类库定义，双方互相解耦  微服务接口测试：测试基于流水线的API定义生成自动化测试用例， Gitter: https://gitter.im/ServiceCombUsers/Lobby 不一刀切，根据业务实际需要选择同步或者异步微服务调用 微服务消费端 业务 线程 池 异步 I/O线 程池 NIO异步通信 微服务提供端 NIO异步通信 业务线程阻塞， 同步等待 唤醒等待的业务线程， 获取响应 1 2 微服务同步调用问题： 1、同步服务调用：业务线程将请求消息交给I/O线程之后，

分布式系统复杂性 • 服务的治理理与维护 • 测试策略略与契约测试 • 持续交付流⽔水线 • 基础设施(私有云/公有云) • 持续集成/持续部署流⽔水线 • 团队的敏敏捷/⼯工程化实践 • 端到端的⼯工具链 • API⽹网关 • 服务开发框架 • 测试验证框架 • 部署运维⼯工具 系统化的⼯工程 框架层出不不穷 多维度互相依赖 为什什么需要⽣生态系统? 微服务⽣生态系统 API⽹网关/Edge Service ⽀支撑层 基础设施 交付流⽔水线与⼯工程实践 CaaS/PaaS IaaS 微 服 务 开 发 框 架 ⼯工 程 实 践 与 规 范 持 续 交 付 流 ⽔水 线 端 到 端 的 ⼯工 具 链 注册发现 监控 调⽤用链 路路由 授权认证 ⽇日志聚合 容错 集中配置 基础设施 业务层 - 聚合服务 - 基础服务 接⼊入层 • 流量量限制 • 调⽤用统计 Service ⽀支撑层 基础设施 交付流⽔水线与⼯工程实践 CaaS/PaaS IaaS 微 服 务 开 发 框 架 ⼯工 程 实 践 与 规 范 持 续 交 付 流 ⽔水 线 端 到 端 的 ⼯工 具 链 注册发现 监控 调⽤用链 路路由 授权认证 ⽇日志聚合 熔断 集中配置 基础设施 接⼊入层 业务层 - 聚合服务 - 基础服务 • ⾯面向对象设计(名词/动词)


负载均衡服 务弹性能力的要求较高，在业务高峰如果不能快速扩容，容易出现全网故障 传统配置下发方式 负载均衡配置固话在配置文件中， 节点操作需要人工上系统操作增减 节点 配置中心监听方式 客户端主动监听配置更新，配置秒 级生效，新扩容服务主动拉取全量 配置，流量接入时长缩短3分钟+ 配置名字服务 配置IP方式 服务端下发文件更新配置，更新配 置生效时间长，由于需要预先知道 负责均衡集群的机器信息，扩缩容 负载均衡节点对接名字服务 虎牙负载均衡部署的机器一台机器上可能存在数百的配置，每次节点生效需要重新 reload配置，且节点新增或删除需人工上系统操作配置，配置生效对服务会有中断 配置IP方式 配置名字服务 客户端主动监听名字服务更新，节 点变更秒级生效 负载均衡配置固话在配置文件中， 节点操作需要人工上系统操作增减 节点 基于Nginx dyups模块的动态上下线 • 基于名字服务感知节点变化快速变更节点 Cloud Nacos Spring Cloud Eureka CAP模型 支持AP和CP模型 AP模型 客户端更新服务信息 使用注册+DNS-f+健康检查模式。 DNS-F客户 端使用监听模式push/pull拉取更新信息 客户端定时轮询服务端获取其他服务ip信息并对 比，相比之下服务端压力较大、延迟较大 伸缩性 使用Raft选举算法性能、可用性、容错性均比较 好，新加入节点无需与所有节点互相广播同步信

会根据消费者业务自身的特点引入更适合的语言  服务框架丌要绑定具体的语言实现，例如内部通信协议使用某种 语言特定的序列化机制、发布泛型、抽象接口等 微服务框架技术选型-灵活和轻量级架构  当前业务服务端都是非Web应用，所以丌需要运行在Web容器中， 需要类似Main函数可以直接拉起来的Standalone模式  服务框架要足够轻量级，可以按需加载类库，防止不当前业务的 三方库发生冲突 Boot等框架集成 微服务框架技术选型-高性能、低时延  硬件成本已经是白菜价，软件性能丌重要？  消费者云业务服务集群规模大，单点的性能提升能够带来巨大收益  从用户体验看，端到端时延非常重要，分布式乊后带来的时延增加，是一个很大的挑戓  丌是所有业务都有苛刻的性能需求，丌同业务对性能的诉求丌同， 可以按需选择协议和传输方式，服务不传输协议、序列化方式解耦 微服务框架技术选型-成熟 YAML定义API  服务端和客户端都基于API定义，通过CSE提供的工具生成丌同语言的类库， 客户端可以丌导入服务端的类库定义，双方互相解耦  始终以在线的API定义为准，防止服务端私自修改接口代码（例如增减字段、 修改字段类型）  每日微服务流水线构建，及时发现接口丌兼容问题 CSE 消费者 提供者 模 拟 桩 服务 端 Mock 框架 客户 端 Mock 框架