虎牙直播在微服务改造中的实践 张波 虎牙基础保障部中间件团队负责人 2019.8.11 Service Mesh Meetup #6 广州站 微服务改造事项 DNS-F在数据 库场景的落地 名字服务在负 载均衡场景的 落地 DNS-F在微服 务场景的落地 应用层探活 数据库故障 恢复时间长 服务故障牵 引慢，流量 接入生效时 间长 DNS生效慢 内部服务无 就近接入能 力 服务性能下 降流量不摘 done 切换逻辑 名字服务在负载均衡场景的落地 xxx.huya.com 华南IDC 华中IDC 华北IDC Nginx Nginx Nginx Web server 专线 背景 负载均衡变更需要更新配置发布后 才能生效，节点扩缩容，屏蔽操作 需要人工参与，流量接入接出时间 长 目标 流量接入接出时长低于30秒 负载均衡配置下发无状态改造 虎牙负载均衡部署的机器数百，配置下发的可靠性保障，一致性保障要求特别严格， 虎牙负载均衡部署的机器数百，配置下发的可靠性保障，一致性保障要求特别严格， 如果出现配置下发不及时，或下发配置失败，极大可能出现故障，同时负载均衡服 务弹性能力的要求较高，在业务高峰如果不能快速扩容，容易出现全网故障 传统配置下发方式 负载均衡配置固话在配置文件中， 节点操作需要人工上系统操作增减 节点 配置中心监听方式 客户端主动监听配置更新，配置秒 级生效，新扩容服务主动拉取全量 配置，流量接入时长缩短3分钟+ 配置名字服务

Mesh ServiceComb开源微服务解决⽅方案 ServiceComb微服务解决⽅方案 Java编程（POJO/ SpringMVC/JAX- RS） Golang 编程 限流 负载均衡 分布式追踪 动态配置 服务注册 服务度量量 通信协议 （Rest&RPC） 边缘服务 熔断/容错 Token认证 Saga事务⼀一致性 服务契约 平滑上云 拥抱开源⽣生态 处理理链 Chassis的架构图 通信模型 (序列列化、 传输协议） 编程模型 （Spring MVC JAXRS， POJO…) 服务契约 （OpenAPI） 服务发现 熔断 负载均衡 配置 跟踪 … 运⾏行行模型 围绕服务契约进⾏行行开发以及运维 异步化⽀支持 • 基于Vertx提供的异步内核 • 保持⾼高性能的同时⽀支持同步调⽤用⽅方式

Service Mesh ServiceComb开源微服务解决方案 ServiceComb微服务解决方案 Java编程 （POJO/Spring MVC/JAX-RS） Golang 编程 限流 负载均衡 分布式追踪 动态配置 服务注册 服务度量 通信协议 （Rest&RPC） 边缘服务 熔断/容错 Token认证 Saga事务一致性 服务契约 平滑上云 拥抱开源生态 处理链 微服务脚手架 ServiceComb Java Chassis的架构图 通信模型 (序列化、 传输协议） 编程模型 （Spring MVC JAXRS， POJO…) 服务契约 （OpenAPI） 服务发现 熔断 负载均衡 配置 跟踪 … 运行模型 围绕服务契约进行开发以及运维 异步化支持 • 基于Vertx提供的异步内核 • 保持高性能的同时支持同步调用方式 • 将通信线程与业务处理线程分离 • 操作级别线程池控制，支持隔离仓

(序列列化、传输协 议） 编程模型 （同步、异步、 Reactive…) 服务发现 熔断 负载均衡 配置 跟踪 … 运⾏行行模型 编程模型 - 使⽤用OpenAPI的⽅方式定义契约 运⾏行行模型 - 服务发现/熔断/负载均衡/跟踪 通信模型 - ⾼高效的序列列化机制/传输协议 华为ServiceComb 持续交付流⽔水线

(restful、 highway） 编程模型 （jaxrs、pojo、 springmvc) 服务契约 （OpenAPI） 服务发现 熔断 负载均衡 配置 跟踪 … 运行模型 基本概念 • SchemaMeta 服务接口定义元数据

客户端发现 1. ServiceCenter，eureka 2. etcd，zookeeper，consul 为什么实现自己的服务注册中心？ 1. 提供标准接口（RESTful） 2. 负载均衡，服务订阅（客户端LB，长连接） 3. 运行时依赖（Go） 4. 可靠性（BASE，最终一致性） 从服务注册中心到服务管理中心 1. 元数据 2. 依赖关系 3. 实例变化推送

微服务生态 ServiceComb 微服务解决方案 处理链 ServiceComb微服务解决方案 Java编程 （POJO/SpringM VC/JAX-RS） Golang 编程 限流 负载均衡 分布式追踪 动态配置 服务注册 服务度量 通信协议 （Rest&RPC） 边缘服务 熔断/容错 JWT认证 Saga事务一致性 服务契约 平滑上云 开源生态能力互通 微服务脚手架

通信模型 (序列化、传输协 议） 编程模型 （同步、异步、 Reactive…) 服务契约 （OpenAPI） 服务发现 熔断 负载均衡 配置 跟踪 … 运行模型 还远远不止这些… 部署/启 动 日志/监 控 告警 诊断 治理/配

apache.org ServiceComb开源微服务解决方案 ServiceComb微服务解决方案 Java编程 （POJO/Sprin gMVC/JAX- RS） Golang 编程 限流 负载均衡 分布式追踪 动态配置 服务注册 服务度量 通信协议 （Rest&RP C） 边缘服务 熔断/容错 Token认证 Saga事务一致性 服务契约 平滑上云 拥抱开源生态 处理链

通信模型 序列化 传输协议 编程模型 Spring MVC POJO JAXR 服务契约 OpenAPI 服务发现 熔断 负载均衡 配置 跟踪 … 运行模型 2018 Building Microservice NO.1 深圳站： Cloud