云原生开放智能网络代理 MOSN 金融级云原生架构助推器 肖涵（涵畅） 蚂蚁金服高级技术专家 SOFAMosn 项目负责人1/10 MOSN，云原生时代的安全网络代理 Service Mesh 控制面 Galley Pilot Pod SOFA 服务 MSON Kubernetes TLS，国密 服务鉴权 Mirror Ingress Controller Pod Msg Tracing, Jaeger Prometheus, StatsD 生态融合 支持 K8s Ingress，Edge Proxy、Mesh Sidecar， Api Gateway 等多种代理 形态 多场景10/10 开源所幸，云之爆发 我们认为，未来会更多地属于那些告别大教堂、拥抱集市的人们。《大教堂与集市》感谢聆听 欢迎关注，获取最新分布式架构内容 关注服务网格，关注 ServiceMesher

蚂蚁金服网络代理演进之路 肖涵（涵畅） 蚂蚁金服高级技术专家 2019.10.26 Service Mesh Meetup #7 成都站网络代理是什么？ 南北流量 东西流量 Server App 负载均衡器 NAT网关 防火墙 负载均衡器 NAT网关 防火墙 负载均衡器 负载均衡器 路由器 路由器 Internet网络代理有什么？ Maglev Ipvs Katran 01 2010 开始网络代理白盒 化，定制业务逻辑，软 硬件一体解决方案 自研 02 2015 年无线通道协议，安 全升级， 连接收编 All in 无线 03 PC时代 移动时代 万物互联云原生时代 2018 年协议，安全持续升 级（QUIC，MQTT，国密）， 云原生 再启程 03前世 F5 BigIP Netscaler自研四层网络代理 2011 2014 2018 2018 未来 Ø 全面使用DPDK技术重构 Ø EBPF，XDP Ø 可编程交换芯片（P4语言） Ø 四层负载均衡-IPVS Ø NAT网关蚂蚁七层网络代理 Google Spanner?蚂蚁七层网络接入代理 Spanner蚂蚁七层网络接入代理 AGNA （Ant Global Network Accelarator) 网商 信用 保险 财富 支付 国际支付 小程序 微贷 科技开放 物联网

49 49 52 53 55 57 57 58 58 59 60 备份恢复 备份恢复 设置备份策略 调整⾃动备份策略 ⼿动备份 删除备份数据 备份恢复 Dashboard/监控访问 监控访问 代理节点 配置访问代理 访问 实例 实例 创建TiDB Serverless实例 查看TiDB实例列表 查看TiDB实例详情 删除TiDB实例 ⽤户 ⽤户 添加⽤⼾及权限 调整⽤⼾权限 重制⽤⼾密码 删除⾮root⽤⼾ 等组件访问 TiDB提供代理⼊⼝节点，⽤⼾需⾃⾏配置外⽹代理服务访问监控组件，配置外⽹代理时需注意不要开放不必要的端⼝，避免⽹络安全事故。 代理节点 代理节点 TiDB服务集群提供两个Proxy节点，⽤以代理Dashboard/Grafana/Prometheus服务 您可以通过‘详情’⻚中的节点列表中选择‘PROXY’查询到当前节点代理地址 配置访问代理 配置访问代理 Dashboard/监控访问 分布式NewSQL数据库 TiDB Copyright © 2012-2021 UCloud 优刻得 43/120 您⾸先需要创建⼀台与TiDB集群同VPC下的，带外⽹配置的云主机，然后按以下步骤配置代理服务 提⽰：不要开不必要的端⼜， 不要开不必要的端⼜， 建议云主机防⽕墙设置只开放特定来源 建议云主机防⽕墙设置只开放特定来源IP可以访问 可以访问 1. 安装 nginx 服务 yum install

与底层的⼀致性同步逻辑进行了分层隔离。然后将业务的读写（主要是写，因为读会直 接使用业务层的缓存）抽象为 Nacos 定义的数据类型，调用⼀致性服务进行数据同步。在决定使 用 CP 还是 AP ⼀致性时，使用⼀个代理，通过可控制的规则进行转发。 目前的⼀致性协议实现，⼀个是基于简化的 Raft 的 CP ⼀致性，⼀个是基于自研协议 Distro 的 AP ⼀致性。Raft 协议不必多言，基于 Leader 进行写入，其 架不能做到这个特殊逻辑控制 console 接口全部代理 控制台这层要走 filter 的服 务，未来都要走 console 的 controller 转发⼀下，以便统 ⼀处理 改这个成本比价高 console 接口部分代理（推荐） 只把配置列表 服务列表 这种高频先整个控制台管控 这是折中方案，未来要走全部 代理方案，以便可分可合 配置开关 默认开启登录功能，可配置 Istio，NginxMesh 为代表的代理模式（边车 模式）应运而生，这就是当前微服务架构领域比较火热的服务网格技术——Service Mesh，它将分 布式服务的通信层抽象为单独的⼀层，在这⼀层中实现负载均衡、服务发现、认证授权、监控追踪、 流量控制等分布式系统所需要的功能。 从宏观上看，其实现方式为引入⼀个代理服务，以 Sidecar 的方式（边车模式）与每⼀个业务服务 部署在⼀起，由代理服务接管服务的所

服务治理理Service Mesh Meetup · BeiJing 跨语⾔言服务化⽅方式对⽐比 �11 微博Service Mesh实践 - WeiboMesh Http代理理 RPC模块 Agent代理理 研发成本 低 ⾼高 中 维护成本 低 ⾼高 中 使⽤用成本 低 低 中 治理理功能 中 ⾼高 ⾼高 扩展能⼒力力 低 中 ⾼高Service Mesh Meetup · Vintage 管理理系统 决策系统 Command DC1 Servers DC2 Servers DC1 Clients业务实战 • 正反向代理理 • 收益及总结Service Mesh Meetup · BeiJing 正向代理理配置 �28 微博Service Mesh实践 - WeiboMesh motan-refer motan-basicRefer 继承 motan2://127 motan2://127.0.0.1:agent_port/service=path?group=groupService Mesh Meetup · BeiJing 正向代理理流程 �29 微博Service Mesh实践 - WeiboMesh php/OR/java Client Weibo Mesh register Filter

网企业提供落地支持，著有《前端架构：从入门到微前端》《自己动手 设计物联网》等多本书籍。 61 / 111 AI 开发者中间件工具生态 2024 年总结 文/莫尔索 AI 应用开发者工具自下而上涵盖了模型托管与推理服务、代理工作流编排、大型模型应用 的监控与追踪、模型输出的可控性以及安全工具等多个层面。模型是 AI 应用的核心组成部分， 其服务需依赖推理引擎实现。开发者接入模型的方式大致可分为四类：  首先是以 第三个阶段，一些产品团队正探索开发完全由大模型驱动的代理应用。这类代理应用具备从 历史记忆中反思、自主规划和使用工具执行特定动作的能力。大语言模型负责选择要调用的工具 及其参数，而具体的执行动作则在沙箱环境中进行，以确保安全。 E2B、Modal 等服务提供商正是为了满足这一需求而诞生。代理通过 OpenAI 定义的 JSON 模式调用工具，这使得代理和工具能够在不同的框架中兼容，促进了代理工具生态系统 的增长。例如，Composio 的增长。例如，Composio 是一个支持授权管理的通用工具库，Exa 则提供了一个专门用于网 络搜索的工具。随着更多代理应用的构建，工具生态系统将持续扩展，提供更多新功能，如认证 和访问控制。 在代理应用中，记忆管理同样关键。开源项目 Mem0 将记忆分为短期记忆和长期记忆，后 者进一步细分为事件记忆、语义记忆和程序记忆，并基于此抽象出一套记忆管理 SDK。Zep 通 过时态知识图谱管理和更新用

join(sequence)。要以扩展精度对浮点值求和，请参阅math.fsum()。要拼接一系列可迭代对 象，请考虑使用itertools.chain()。 super([type[, object-or-type]]) 返回一个代理对象，它会将方法调用委托给 type 指定的父类或兄弟类。这对于访问已在类中被重载的 继承方法很有用。搜索顺序与getattr() 所使用的相同，只是 type 指定的类型本身会被跳过。 type 转义序列进行替换（仅在编码时）。在namereplace_errors() 中实现。 'surrogateescape' 在解码时，将字节替换为 U+DC80 至 U+DCFF 范围内的单个代理代码。当在编码数据时使 用 'surrogateescape' 错误处理方案时，此代理将被转换回相同的字节。（请参阅 PEP 383 了解详情。） 此外，以下错误处理方案被专门用于指定的编解码器： 值 编解码器 含义 'surrogatepass' 'surrogatepass' utf-8, utf-16, utf-32, utf-16-be, utf-16- le, utf-32-be, utf-32-le 允许编码和解码代理代码。这些编解码器通常会 将出现的代理代码视为错误。 3.1 新版功能: 'surrogateescape' 和 'surrogatepass' 错误处理方案。 在 3.4 版更改: 'surrogatepass' 错误处理方案现在适用于

join(sequence)。要以扩展精度对浮点值求和，请参阅math.fsum()。要拼接一系列可迭 代对象，请考虑使用itertools.chain()。 super([type[, object-or-type]]) 返回一个代理对象，它会将方法调用委托给 type 指定的父类或兄弟类。这对于访问已在类中被重载 的继承方法很有用。搜索顺序与getattr() 所使用的相同，只是 type 指定的类型本身会被跳过。 type ereplace_errors() 中实 现。 'surrogateescape' 在解码时，将字节替换为 U+DC80 至 U+DCFF 范围内的单个代理代码。当在编码数据 时使用 'surrogateescape' 错误处理方案时，此代理将被转换回相同的字节。（请 参阅 PEP 383 了解详情。） 此外，以下错误处理方案被专门用于指定的编解码器： 值 编解码器 含义 'surrogatepass' 'surrogatepass' utf-8, utf-16, utf-32, utf-16-be, utf- 16-le, utf-32-be, utf-32-le 允许编码和解码代理代码。这些编解码器通常 会将出现的代理代码视为错误。 3.1 新版功能: 'surrogateescape' 和 'surrogatepass' 错误处理方案。 在 3.4 版更改: 'surrogatepass' 错误处理方案现在适用于

fsum()。要拼接一系列可迭代对 象，请考虑使用itertools.chain()。 在 3.8 版更改: start 形参可用关键字参数形式来指定。 super([type[, object-or-type]]) 返回一个代理对象，它会将方法调用委托给 type 的父类或兄弟类。这对于访问已在类中被重写的继承 方法很有用。 object-or-type 确定用于搜索的method resolution order。搜索会从 转义序列进行替换（仅在编码时）。在namereplace_errors() 中实现。 'surrogateescape' 在解码时，将字节替换为 U+DC80 至 U+DCFF 范围内的单个代理代码。当在编码数据时使 用 'surrogateescape' 错误处理方案时，此代理将被转换回相同的字节。（请参阅 PEP 383 了解详情。） 此外，以下错误处理方案被专门用于指定的编解码器： 值 编解码器 含意 'surrogatepass' 'surrogatepass' utf-8, utf-16, utf-32, utf-16-be, utf-16- le, utf-32-be, utf-32-le 允许编码和解码代理代码。这些编解码器通常会 将出现的代理代码视为错误。 3.1 新版功能: 'surrogateescape' 和 'surrogatepass' 错误处理方案。 在 3.4 版更改: 'surrogatepass' 错误处理方案现在适用于

join(sequence)。要以扩展精度对浮点值求和，请参阅math.fsum()。要拼接一系列可迭代对 象，请考虑使用itertools.chain()。 super([type[, object-or-type]]) 返回一个代理对象，它会将方法调用委托给 type 指定的父类或兄弟类。这对于访问已在类中被重载的 继承方法很有用。搜索顺序与getattr() 所使用的相同，只是 type 指定的类型本身会被跳过。 type utf_8 U8, UTF, utf8 所有语言 utf_8_sig 所有语言 在 3.4 版更改: utf-16* and utf-32* 编码器将不再允许编码代理码位 (U+D800–U+DFFF)。utf-32* 解码器将不 再解码与代理码位相对应的字节序列。 7.2.4 Python 专属的编码格式 A number of predefined codecs are specific to 15 在 3.4 版更改: 添加了__callback__ 属性。 weakref.proxy(object[, callback]) 返回 object 的一个使用弱引用的代理。此函数支持在大多数上下文中使用代理，而不要求显式地对所使 用的弱引用对象解除引用。返回的对象类型将为 ProxyType 或 CallableProxyType，具体取决于 object 是否可调用。Proxy 对象不是hashable