03 思考 微服务架构引入的问题 6/30/2018 什么是Service Mesh • 一种基础设施层，服务间 通信通过Service mesh进 • 一种TCP/IP之上的网络模 型行 • 一个轻量的网络代理，与 业务部署在一起 • 可靠的传输复杂网络拓扑 中的服务请求，将服务变 为现代的云原生服务 Website: http://servicecomb.incubator Service center Governance Web Console Monitoring Zipkin Huawei APM Prometheus Grafana Kubernetes Go SDK Service Go SDK Service VM Bare metal CCE ServiceStage API gateway Data Plane 即侵入式框架与非侵入式 Resolve 决定要访问的服务名后即可开 始匹配路由规则，比如 • 系统中稳定运行着A服务， 版本是1.0，最近新上线了 1.1版本，你希望只让一部分 用户进行体验，那么你可以 定义Header带有device- os=android就将95%流量转 移版本为1.0的实例中，5% 转移到1.1版本 • 请求者的元数据中带有 env=production，那么要将 路由到元数据中带有 env=production的实例中

Service Mesh在华为内部的技术演进 我们在构建微服务，⽽而构建微服务是困难 的 微服务架构模式引⼊入的问题 路由规则 • 引流 • ⽀支持权重 • 根据消费者信息或请求特征进⾏行引流 Consumer 0.2 Provider 1.2 Provider 1.3 80% 20% Consumer 0.1 Provider 1.2 Provider 1.3 cookie:version=0 L4 TCP L3-1 IP/Data link/Physical Chassis 这⾥里呢？ Service Mesh • ⼀一种基础设施层，服务间的通信通过 Service Mesh进⾏行 • 可靠地传输复杂⺴⽹网络拓扑中服务的请 求，将服务变成现代的云原⽣生服务 • ⼀一种⺴⽹网络代理的实现，通常与业务服 务部署在⼀一起，业务服务不感知 • ⼀一种TCP/IP之上的⺴⽹网络模型 • 基于容器的分布式系统设计模式 • 容器可以共享存储与⺴⽹网络的能⼒力 应⽤用程序容器 ⽇日志同步⼯工具容器 存储卷 Sidecar优势 • 以容器作为基础打包单元，可以分给不同的团队进⾏行开发测试 • 可重⽤用 • 以容器作为错误边界，使服务能够正确推出 • 独⽴立回滚与更新 第⼆二代：HSA SideCar • 2016年，基于Java 微服务 框架开发 • 提供SOAP协议转换

中，服务与服务间采⽤用轻量级的通信机制互相沟通（通常是基于HTTP协议的 RESTful API）。每个服务都围绕着具体业务进⾏行构建，并且能够被独⽴立的部署到 ⽣生产环境、类⽣生产环境等。另外，应当尽量避免统⼀一的、集中式的服务管理机 制，对具体的⼀一个服务⽽而⾔言，应根据业务上下⽂文，选择合适的语⾔言、⼯工具对其进 ⾏行构建。 为什么要采⽤用微服务架构？ - Rebecca Parsons 让系统尽可能快的响应变化！ ⽆无法快速有效定位问题，⽆无法 快速有效知晓服务运⾏行状态， 服务资源浪费。 3 服务过⼤大，堵塞交付 快速增⻓长的结果导致服务过⼤大 或者服务过⼩小。⽽而过⼤大的服务 导致整个提交流⽔水线堵塞，测 试⼈人员⽆无法拿到新的版本，交 付延期 4 团队出现冲突，架构腐化严重 交付不能完成导致各⾓角⾊色间的 冲突越来越严重，为了快速上 线质量遭到牺牲。架构⽆无⼈人守 护，各种不⼀一致性，服务内部 接⼝口⼀一⽚片混乱，核⼼心⼈人员离 1 环境⼿手⼯工维护，频频出错 2 缺乏有效监控 3 服务过⼤大，堵塞交付 快速增⻓长的结果导致服务过⼤大 或者服务过⼩小。⽽而过⼤大的服务 导致整个提交流⽔水线堵塞，测 试⼈人员⽆无法拿到新的版本，交 付延期 4 团队出现冲突，架构腐化严重 交付不能完成导致各⾓角⾊色间的 冲突越来越严重，为了快速上 线质量遭到牺牲。架构⽆无⼈人守 护，各种不⼀一致性，服务内部 接⼝口⼀一⽚片混乱，核⼼心⼈人员离

Registry - Protocol - 监控 - 安全 拥抱生态 - ServiceComb - Istio - Promethues - Zipkin - 华为云 异构基础设施 - CCE - Kubernetes - Docker - VM - Bare metal Huawei Confidential 8 注册发现 - 统一缓存模型 - 可灵活选择客户端注册发现，与平台注册 Registrator Resolve 决定要访问的服务名后即可开 始匹配路由规则，比如 • 系统中稳定运行着A服务， 版本是1.0，最近新上线了 1.1版本，你希望只让一部 分用户进行体验，那么你可 以定义Header带有device- os=android就将95%流量转 移版本为1.0的实例中，5% 转移到1.1版本 • 请求者的元数据中带有 env=production，那么要将 路由到元数据中带有 env=production的实例中 center Service center Governance Web Console Monitoring Zipkin Huawei APM Prometheus Grafana Kubernetes Java chassis Service Go chassis Service VM Bare metal CCE ServiceStage API gateway Governance

…… SpringCloud SpringBoot Istio Apollo Skywalking Zipkin Prometheus Dubbo ServiceMesh K8S 对接⾏行行业解决⽅方案 ServiceComb项⽬目介绍 • Java Chassis • ⾼高性能的微服务框架，提供服务注册发现以及动态配置管理理，以及限流降级，容错熔 断等服务治理理功能 • Service JAXRS， POJO…) 服务契约 （OpenAPI） 服务发现 熔断 负载均衡 配置 跟踪 … 运⾏行行模型 围绕服务契约进⾏行行开发以及运维 异步化⽀支持 • 基于Vertx提供的异步内核 • 保持⾼高性能的同时⽀支持同步调⽤用⽅方式 • 将通信线程与业务处理理线程分离 • 操作级别线程池控制，⽀支持隔离仓 aleanjourney.com/2016/05/5-steps-for-creating-lean-roadmap.html ServiceComb历史版本 Service Center Java Chassis 0.1.0 正式开源版本 Service Center Java Chassis 0.2.0 加⼊入Zuul⽀支持, Spring Boot starter 服务中⼼心优化

RoadMap 姜宁 关于我 • 为什什么开源ServiceComb • ServiceComb的开源内容 • 如何参与ServiceComb社区进⾏行行贡献 议题 • 华为企业云化应⽤用开发积累了了⼀一些经验 • 微服务框架可以降低云化迁移成本 • 通过开源的⽅方式分享云转型的成功实践 为什什么开源ServiceComb？ Github 搜索 ServiceComb ServiceComb代码库地址 这次workshop的示例例代码 ServiceComb 0.1版本 1. Java开发框架 2. 服务注册中⼼心 3. 微服务示例例代码 2017年年6⽉月 2017年年9⽉月 2017年年12⽉月 ServiceComb 0.2版本 1. Go语⾔言开发框架 2. 服务契约⽀支持⼯工具 3. Reactive响应式 4. … ServiceComb 0.3版本 1. 由⽤用户来驱动 … ServiceComb over code 社区胜于代码 社区共献 01/ 提交BUG 02/ 完善⽂文档 03/ 参与邮件列列表 04/ 提交Patch • 线上： – 关注微信公众获取信息 – 加⼊入微信群进⾏行行交流 – 通过邮件列列表参与讨论 – 通过Github发起PR • 线下： – ⽉月度Meetup – 不不定期沙⻰龙探讨 如何参与到ServiceComb社区 ● Github：https://github

ThoughtWorks⾸首席咨询师 Sybase Tech Leader • 《微服务架构与实践》作者 • 《DevOps Handbook》中⽂文译者之⼀一 • 国内较早倡导和实践微服务的先⾏行行者 • 对于⾃自动化测试、持续交付、DevOps有丰富的实践经验 • ⻄西安DevOps Meetup 联合发起⼈人 关于我 议题 • 微服务架构的核⼼心 • 微服务架构设计原则 什什么是微服务架构？ • 微服务架构是⼀一种架构模式，将单体应⽤用划分成⼀一组⼩小的服务，服务之间互相协作，为⽤用户提供最终价值 • 每个服务运⾏行行在其独⽴立的进程中，服务间采⽤用轻量量级的通信机制协作（通常是基于RESTful API） • 每个服务都围绕着具体业务进⾏行行构建，并且能够被独⽴立的部署到⽣生产环境、类⽣生产环境等 Microservices – the new architectural 服务重启/升级后的IP地址变化 • ⽔水平伸缩后服务的实例例数量量变化 • 同⼀一个结点运⾏行行多个服务(端⼝口不不同) 集中配置管理理 配置信息的管理理 50 • 与服务在同⼀一个包中 • 使⽤用隔离的配置⽂文件 • 使⽤用环境变量量管理理 配置信息管理理的挑战 51 • 动态更更新配置信息 • 多实例例间的同步 • 配置信息的版本管理理 容错(Resilient) 52 • 降级 - 关闭⾮非核⼼心业务，保证核⼼心业务可⽤用

com/apache?q=servicecomb ServiceComb 全球首个Apache微服务顶级项目  进入Apache基金会近两年时间，共孵化11个项目，累计发布20+软件版本，社区净增代码59.4万+行，变更代码 330万+行，共接收6800+个提交，2400+个PR，由来自Redhat、Syswin、Hyperpilot、腾讯、oneAPM、京东、 长虹、人保、用友、华为等多家企业的300+贡献者共同贡献。 [Github ] https://github.com/apache?q=servicecomb 提交issue报告 • 善用Github issue • 检索是否有类似的错误 • 详细描述软件的版本和使用环境 • 描述错误详细内容 • 给出测试用例 • 登录到JIRA 或者其他的Bug管理 工具提交报告或者补丁 https://github.com/apache/servicecom

运维人员替换 部 署 旧 版 本 开发 开发 测试/发布 • 技术实现单一，需要想办法用一种技术解决所有问题 • 只能按大颗粒系统发布版本，响应周期长 （小特性版本3-6个月，每年1个大版本） • 无法做到永远在线，大版本升级时，要停机中断服务 微服务化的应用构建和发布 产品发布计划 产品发布计划 产品发布计划 产品发布计划 开发 部署到生成 部署到生成 环境 部署到生成 环境 开发 开发 部署到生成 环境 部署到生成 环境 部署到生成 环境 开发 开发 bugs 旧版本持续运行 Speed & Safety 面临的问题 • 企业应用和互联网应用的不同？ • 如何做到不同ISV的应用互联互通统一管理？ • 怎么才能加快微服务的开发？ • 微服务化后如何保证性能？ • 如何进行统一的路由控制？ 微服务基础治理 微服务高级治理 服 务 发 现 服 务 配 置 服 务 路 由 多 通 信 访 问 调 用 链 跟 踪 多 事 务 管 理 多 运 行 时 管 理 ServiceMesh 容 错 & 熔 断 限 流 降 级 服 务 隔 离 容 量 预 测 微 服 务 安 全 工具链生态

• 后续的开发计划 微服务架构 • 微服务架构将⼀一个应⽤用分成多个相互独⽴立的服务。 • 好处是各个服务能够持续独⽴立的开发和部署。 • 难题是服务的数据需要采⽤用什什么样的⽅方式来进⾏行行存储？ 多个微服务使⽤用同⼀一数据库 A B C commit rollback ⼀一个典型的微服务架构应⽤用 EdgeService Customer Service Order https://queue.acm.org/detail.cfm?id=1394128 TCC • Try: 尝试执⾏行行业务 • 完成所有业务检查，预留留必须的业务资源 • Confirm：确认执⾏行行业务 • 真正执⾏行行业务，不不做业务检查 • Cancel：取消执⾏行行业务 • 释放Try阶段预留留的业务资源 业务服务 try confirm cancel 通过领域建模来解决 as.html 如何应对隔离性问题 • 隔离的本质是控制并发，防⽌止并发事务操作相同资源⽽而引起结果错乱 • 在应⽤用层⾯面加⼊入逻辑锁的逻辑。 • Session层⾯面隔离来保证串串⾏行行化操作。 • 业务层⾯面采⽤用预先冻结资⾦金金的⽅方式隔离此部分资⾦金金。 • 业务操作过程中通过及时读取当前状态的⽅方式获取更更新。 Saga的实现⽅方式 • 集中式的实现⽅方式 （Orchestration-based