SOFA MESH 的通用协议扩展 Service Mesh Meetup #3 深圳站 邵俊雄（熊啸） 2018.08.25AGENDA • SOFA MESH 介绍 • SERVICE MESH 落地的问题 • SOFA MESH 的通用落地方案 • DNS 服务寻址方案 • X-PROTOCOL 通用协议 • 问答SOFA MESH • 从 ISTIO 克隆并保持同步更新 • 使用 使用 Controller Pattern 通过 CRD 扩展新的能力 • …MESH 落地碰到的问题 • 客户端服务发现与负载均衡无法与 ISTIO 一起工作 • ENVOY 不支持微服务使用的通信协议 • RPC 服务使用的接口，方法，参数语义无法匹配 ISTIO 的路由模 型 • 一个应用上部署了多个 RPC 服务，每个服务有自己的版本 • …ISTIO 控制平面路由的抽象模型 INBOUND DUBBO 服务的路由规则 XDS 适配 • 开发 DUBBO 协议支持SOFA MESH 的统一解决方案 • 采用 Kubernetes Native 方式落地微服务应用 • 使用 INTERFACE 作为 DNS 来寻址服务 • 开发一个通用协议处理框架 • 避免为不同的微服务框架修改 PILOT 代码 • 通过插件的方式按需支持新的协议 • 对应用代码无侵入性 • 为微服务框架提供轻量化客户端落地一个微服务框架需要的工作

Istio 流量管理原理与协议扩展 赵化冰 赵化冰 腾讯云 服务网格团队 https://zhaohuabing.com Service Mesh Service Mesh Layer 处理服务间通信（主要是七层通信）的云原生基础设施层： Service Mesh 将各个服务中原来使用 SDK 实现的七层通信相关功能抽象 出来，使用一个专用层次来实现，Service Mesh 对应用透明，因此应用 通信安全： 服务身份认证、访问鉴权、通信加密 Proxy Application Layer Service 1 Istio 流量管理 – 概览 • 控制面下发流量规则： Pilot • 数据面标准协议：xDS • 集群内Pod流量出入： Sidecar Proxy • 集群外部流量入口：Ingress Gateway • 集群外部流量出口：Egress Gateway（可选,在一个集中点对外部访问进行控制） Service CLB 对外请求 对外请求（Passthrough/ServiceEntry） 缺省路由 （服务名） 5 Istio 流量管理 – 数据面 – Envoy配置模型和xDS协议 ADS Server LDS RDS CDS EDS Envoy 配置模型的主要概念： • Downstream：连接到 Envoy 的下游 Host，发送请求并接收响应。 • Upstream：

简介 13 Nacos 架构 17 Nacos 总体设计 17 Nacos 架构 17 Nacos 配置模型 21 Nacos 内核设计 28 Nacos ⼀致性协议 28 Nacos 自研 Distro 协议 38 Nacos 通信通道 42 Nacos 寻址机制 56 Nacos 服务发现模块 63 Nacos 注册中心的设计原理 63 Nacos 注册中心服务数据模型 规模：十万级服务/配置，百万级连接，具备强大扩展性。 15 > 简介 Nacos 生态 Nacos 几乎支持所有主流语言，其中 Java/Golang/Python 已经支持 Nacos 2.0 长链接协议，能 最大限度发挥 Nacos 性能。阿里微服务 DNS（Dubbo+Nacos+Spring-cloud-alibaba/Seata/ Sentinel）最佳实践，是 Java 微服务生态最佳解决方案；除此之外，Nacos 接口，简单易用，方便多语言集成。  Console：易用控制台，做服务管理、配置管理等操作。  SDK：多语言 SDK，目前几乎支持所有主流编程语言。  Agent：Sidecar 模式运行，通过标准 DNS 协议与业务解耦。  CLI：命令行对产品进行轻量化管理，像 git ⼀样好用。 业务层  服务管理：实现服务 CRUD，域名 CRUD，服务健康状态检查，服务权重管理等功能。  配置管理：实现配置管

基于严选第一代ServiceMesh（cNginx） 类型 功能 能力提供方 服务调用方（Client） 服务提供方（Server） 服务注册与发现 注册发现：基于 Consul √ 调用控制 协议支持：HTTP 1.X/2.X，可扩展至 TCP √ 路由控制：提供简单的路由能力 √ 负载均衡：支持 RR、权重、一致性 Hash 等 √ 流量复制：不提供 × 故障转移：继承 Nginx 基础架构与业务架构可以独立演进 • 为多语言栈提供了服务治理能力7/24 持续演进的诉求 • 提供高质量的服务治理能力 • 增强流量管理能力 • 将更多治理特性（如限流、熔断、故障注入）与业务架构解耦 • 支持更多的协议 • 增强控制面 • 配合业务容器化上云及混合云架构8/24 行业技术演进 - 通用型 Service Mesh 出现 2017年1月23日 加入 CNCF 2017年4月25日 1.0Releases 能力提供方 服务调用方（Client） 服务提供方（Server） 服务注册与发现 注册发现：云外基于 Consul，云内基于 K8s 默认的 ETCD √ 调用控制 协议支持：HTTP 1.X/2.X，GRPC,WebSocket，Dubbo， Thrift √ 路由控制：静态路由、动态路由、流量染色、分流控制等 √ 负载均衡：支持 RR、权重、一致性 Hash 等 √ 流量复制：Envoy

表达能力 – 枚举和模式匹配。 – 泛型。 – 无额外开销的外部函数接口（FFI）。 – 零成本抽象。 – 强大的编译器错误提示。 – 内置依赖管理器。 – 对测试的内置支持。 – 优秀的语言服务协议（Language Server Protocol）支持。 不用在这里占用过多时间。所有这些要点均会在后面进行详细讲解。 应该问问学生们都使用过哪些语言。根据答案侧重讲解 Rust 的不同特性： 桩和 Microsoft DAP（调试适配器协议）服务器 • Cargo integration cargo-embed 是一个 cargo 子命令，用于构建和刷写二进制文件、记录 RTT（实时传输）输出以及连接 GDB。您可通过项目目录中的 Embed.toml 文件对其进行配置。 • CMSIS-DAP 是一项基于 USB 的 Arm 标准协议，使得电路内调试程序能够接入各种 Arm Cortex micro:bit 的板载调试程序所使用的便是此协议。 • ST-Link 属于 ST Microelectronics 产品系列，J-Link 是 SEGGER 系列。 • 调试访问端口通常为 5 针 JTAG 接口或 2 针串行线调试接口。 • probe-rs 是一个库，如有需要，可以将其集成到您的工具中。 • 借助 Microsoft 调试适配器协议，VSCode 和其他 IDE 可以调试任何受支持的微控制器上运行的

to a module, dictionary, or a list of modules and/or dicts. See UI modules for more details. • websocket_ping_interval: If set to a number, all websockets will be pinged every n seconds. This can help proxy servers which close idle connections, and it can detect if the websocket has failed without being properly closed. • websocket_ping_timeout: If the ping interval is set, and the server doesn’t receive receive a ‘pong’ in this many seconds, it will close the websocket. The default is three times the ping interval, with a minimum of 30 seconds. Ignored if the ping interval is not set. Authentication and

[https://en.wikipedia.org/wiki/Push_technology#Long_polling], WebSockets [https://en.wikipedia.org/wiki/WebSocket], and other applications that require a long-lived connection to each user. Quick links Current escape — Escaping and string manipulation tornado.locale — Internationalization support tornado.websocket — Bidirectional communication to the browser HTTP servers and clients tornado.httpserver — Non-blocking [http://en.wikipedia.org/wiki/Push_technology#Long_polling], WebSockets [http://en.wikipedia.org/wiki/WebSocket], and other applications that require a long-lived connection to each user. Tornado can be roughly

184/562Rust 程序设计语言 简体中文版 错误处理指导原则 在当有可能会导致有害状态（bad state）的情况下建议使用 panic! —— 在这里，有害状态 （bad state）是指当一些假设、保证、协议或不可变性被打破的状态，例如无效的值、自相矛 盾的值或者被传递了不存在的值 —— 外加如下几种情况： • 有害状态是非预期的行为，与偶尔会发生的行为相对，比如用户输入了错误格式的数据。 • 在此之 可以批量处理事件来避免触发过多的网络调用，为一系列的长时间运行的任务设置超时，或者 对用户接口事件限速来避免进行不必要的工作。 让我们构建一个小的消息流作为开始，将其作为一个可能从 WebSocket 或者其它现实世界中 的通信协议中遇到的数据流的替代，如示例 17-33 所示。 在示例 17-33 中，作为其实现，我们创建了一个异步信道，循环英文字母表的前十个字符，并 通过信道发送它们。 文件名：src/main server 所涉及到的协议。这些协议的细节超出了本书的范畴，不过一个简单的概括会提 供我们所需的信息。 web server 中涉及到的两个主要协议是 超文本传输协议（Hypertext Transfer Protocol， HTTP）和 传输控制协议（Transmission Control Protocol，TCP）。这两者都是 请求 - 响应 （request-response）协议，也就是说，有

13 xml.parsers.expat --- 使用 Expat 的快速 XML 解析 . . . . . . . . . . . . . . . . . . . . . . 1166 21 互联网协议和支持 1177 21.1 webbrowser --- 方便的 Web 浏览器控制器 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1223 21.12 http.client --- HTTP 协议客户端 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1226 21.13 ftplib --- FTP 协议客户端 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1232 21.14 poplib --- POP3 协议客户端 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1237 21.15 imaplib --- IMAP4 协议客户端 . . . . . . . . . . . . . . . . . . . . .

20.13 xml.parsers.expat --- 使用 Expat 的快速 XML 解析 . . . . . . . . . . . . . . . . . . . . 1089 21 互联网协议和支持 1099 21.1 webbrowser --- 方便的 Web 浏览器控制器 . . . . . . . . . . . . . . . . . . . . . . . . . . . 1099 . . . . . . . . . 1143 21.12 http.client --- HTTP 协议客户端 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1145 21.13 ftplib --- FTP 协议客户端 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1151 21.14 poplib --- POP3 协议客户端 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1156 21.15 imaplib --- IMAP4 协议客户端 . . . . . . . . . . . . . . . . . . . . . .