-
SOFA MESH 的通用协议扩展
Service Mesh Meetup #3 深圳站
邵俊雄（熊啸）
2018.08.25AGENDA
• SOFA MESH 介绍
• SERVICE MESH 落地的问题
• SOFA MESH 的通用落地方案
• DNS 服务寻址方案
• X-PROTOCOL 通用协议
• 问答SOFA MESH
• 从 ISTIO 克隆并保持同步更新
• 使用 寻址
• 使用 iptables/ebpf 透明地路由所有网络流量
• 服务治理规则，服务，实例和配置都是 Kubernetes 资源
• 使用 Controller Pattern 通过 CRD 扩展新的能力
• …MESH 落地碰到的问题
• 客户端服务发现与负载均衡无法与 ISTIO 一起工作
• ENVOY 不支持微服务使用的通信协议
• RPC 服务使用的接口，方法，参数语义无法匹配 ISTIO Kubernetes 服务
RPC Service 的域名就是其接口X-PROTOCOL 通用协议扩展目标
• Kubernetes Native，高性能，低侵入性的通用 Mesh 落地方案
• 支持新 RPC 框架和通信协议低成本接入
• 协议扩展对 Mesh 控制平面透明化
• 允许对协议多层次，插件化的扩展X-PROTOCOL 配置SOFA MOSN
调用流程
Upstream
protocol
0 码力 |
28 页 |
4.73 MB
| 6 月前 3
-
Operator Pattern：用 Go 扩展 K8s 的最佳实践 吴学强 ApeCloud KubeBlocks Maintainer & 研发总监 目 录 认识我们 00 什么是 Operator 01 Operator 基础模型 02 Operator 最佳实践 03 我们是谁 云猿生（ApeCloud）是一家提供数据库内核与管理平台的基 础软件开发商. KubeBlocks Operator Pattern 2015.11 2016.12 2017.12 Now K8s 1.1 版本中正式推出 TPR （ThirdPartyResource），首次尝 试解决 K8s API 的扩展性问题， 但存在诸多问题，Alpha 阶段既 夭折 CoreOS 提出 Operator 概念，用 于管理和运行基于应用程序领 域的复杂有状态应用程序。 给出了用 TPR + controller-
0 码力 |
21 页 |
3.06 MB
| 9 月前 3
-
Istio 流量管理原理与协议扩展
赵化冰
赵化冰
腾讯云 服务网格团队
https://zhaohuabing.com
Service Mesh
Service Mesh Layer
处理服务间通信（主要是七层通信）的云原生基础设施层：
Service Mesh 将各个服务中原来使用 SDK 实现的七层通信相关功能抽象
出来，使用一个专用层次来实现，Service Mesh 对应用透明，因此应用 Istio 支持的七层协议非常有限：HTTP 1.1、 HTTP2、 gRPC
其余协议只能在四层进行处理（Thrift、Redis 等其他七层协议的控制面支持非常有限）
11
Istio 协议扩展：控制面和数据面需要进行的改动
apiVersion: networking.istio.io/v1alpha3
kind: VirtualService
metadata:
name: reviews-route xDS 配置下发
优点：
• 控制面改动小，可以快速实现对新协议的支持
问题：
• Pilot 目前缺少一个良好的协议扩展机制
• Pilot 需要理解 Envoy filter 中协议特定的知识
• Pilot 代码中维护众多七层协议的代价较大
12
Istio 协议扩展：常见七层协议的路由
Protocol
Destination service
Parameters could be
0 码力 |
20 页 |
11.31 MB
| 6 月前 3
-
0 码力 |
45 页 |
2.75 MB
| 6 月前 3
-
1 阿里云 — 云原生应用平台团队 孙健波/周正喜 基于 Kubernetes 构建标准可扩展的云原生应用管理平台 2 3 有奖品？ 我的工作内容？ • 构建云原生应用管理平台 @ 阿里巴巴 Kubernetes 工程师 PaaS 工程师 基础设施运维工程师 … YAML 工程师 我们是如何构建的？ PaaS Serverless Operator Platform 研发与运维人员日益增长的应用管理诉求 传统 PaaS 有限的、不可扩展的专有API 与能力 K8s 生态“无限”的应用基础设施能力 不停构建“PaaS”平台不是“银弹” 与其 基于 K8s 构建平台 不如 把 K8s 变成面向开发者的平台 构建一个具备“以应用为中心的 API 抽象”、“用户友好” 且“高度可扩展”的 K8s！ 以应用为中心的 API 抽象 • 应用的工作负载和运维能力的抽象程度越高，用户体验越好 route $ rio up riofile 抽象程度 vs 可扩展性 • 随着抽象程度的增高可以显著降低学习曲线，但是却不得不在扩展性上妥协 抽象程度 可扩展性 高 低 低 高 CRD + Controllers = Everything 通过编写遵循严格限制 的 Buildpack 和 Addon 进行扩展 没有直接扩展 工作负载 和 运维能力 的途径 通过 annotations
0 码力 |
27 页 |
3.60 MB
| 9 月前 3
-
官方标准库代码、教程资料编写者 WebAssembly (WASM) WASM 现状 • 1.0 MVP 已稳定（2017）已被 Web 前端应用实际接受 • 有后端应用潜力，但更多具体疑问仍待解答 • 问题集中在扩展特性（features）、外部语言接口（FFI）、 操作系统界面（system interfaces 或 WASI）上 WASM 后端应用先驱 wasmCloud （CNCF-Sandbox） fermyon/spin WasmEdge （CNCF-Sandbox） • 多数特性已标准化 • 一些特性对后端应用 不可或缺 • 但各个运行时的实现， 成熟度不一 • 使用扩展特性，基本 需要限定运行时 WASM 扩展特性 • 基本接口已在 WASM 1.0 标准化 • 但只能交换简单数据类型 • 交换缓冲区和高级数据结构的方法各有不一 WASM 外部语言接口（FFI） • WASI 外部语言接口（支持对外 调用和外部回调） • 直接对接 WASM 扩展（例：wasm-gc target） • 直接对接 WASI 系统接口标准 MoonBit 作为 WASM 原生语言的作用 新语言对 WASM 后端技术栈的意义 • 封装，或者说“过顶”开发思路（OTT，over the top） • 有限使用 WASM 特性，基本只当作 ISA（指令集） • 绕过 WASM 低级概念，转而使用语言的高级概念
0 码力 |
30 页 |
3.41 MB
| 9 月前 3
-
5B 模型通过与 高通 GenAI 扩展的联合优化，在搭载骁龙 8 Gen 4 处理器的手机上实现了每秒 65 个 tokens 的推理速度，接近人类语音的平均输出速率。尽管存在电池续航和内存占用过大等挑战， 端上模型代表了 AI 技术隐私保护和成本优化的未来方向。中国在这一领域的探索，为行业提供 了宝贵经验。 推理扩展法则的潜力释放 通过推理扩展法则，模型性能可通过延长“思考时间”而进一步优化。这一技术模拟了人类 在软件工程中的应用已经变得更加广泛和深入。这一趋势体现 在 AI 编程工具的进化上，主要体现在以下几个方面： 全面探索：AI 从辅助开发人员扩展到覆盖软件开发的整个生命周期，从需求分析到运维管 理，每个阶段都显著提升了效率和质量。 演进路径：AI 工具从个体使用扩展到团队和组织层面。个体使用的 AI 工具如 AutoDev，团 队助手如 Haiven，以及组织层面的 AI 集成到内部 IM 和 Chatbot 些技术人才数 量、质量、分布等方面的差异。 全面探索：从辅助开发人员到全生命周期 AI 技术已经从简单的辅助开发人员发展到涵盖软件开发的整个生命周期。在这一过程中， AI 工具的应用范围不断扩展，从需求分析到运维管理，每个阶段都得到了显著提升。 从 2022 年 GitHub Copilot 的发布，我们可以看到越来越多的 AI 工具开始涉足到软件开发 的不同阶段。比如，面向需求阶段的
0 码力 |
111 页 |
11.44 MB
| 8 月前 3
-
SOFAMesh的通用协议扩展SOFA MESH 的通用协议扩展 Service Mesh Meetup #3 深圳站 邵俊雄（熊啸） 2018.08.25AGENDA • SOFA MESH 介绍 • SERVICE MESH 落地的问题 • SOFA MESH 的通用落地方案 • DNS 服务寻址方案 • X-PROTOCOL 通用协议 • 问答SOFA MESH • 从 ISTIO 克隆并保持同步更新 • 使用 寻址 • 使用 iptables/ebpf 透明地路由所有网络流量 • 服务治理规则，服务，实例和配置都是 Kubernetes 资源 • 使用 Controller Pattern 通过 CRD 扩展新的能力 • …MESH 落地碰到的问题 • 客户端服务发现与负载均衡无法与 ISTIO 一起工作 • ENVOY 不支持微服务使用的通信协议 • RPC 服务使用的接口，方法，参数语义无法匹配 ISTIO Kubernetes 服务 RPC Service 的域名就是其接口X-PROTOCOL 通用协议扩展目标 • Kubernetes Native，高性能，低侵入性的通用 Mesh 落地方案 • 支持新 RPC 框架和通信协议低成本接入 • 协议扩展对 Mesh 控制平面透明化 • 允许对协议多层次，插件化的扩展X-PROTOCOL 配置SOFA MOSN 调用流程 Upstream protocol0 码力 | 28 页 | 4.73 MB | 6 月前3