Apache APISIX借助ServiceMesh 实现统一技术栈的全流量管理 金卫（API7 解决方案架构师） • 支流科技 - 解决方案架构师 • Apache APISIX PMC • Apache APISIX Ingress Controller Founder • Apache skywalking committer • Github: https://github.com/gxthrj https://apisix.apache.org/zh/blog/tags/case-studies/ APISIX Service Mesh Amesh 基于 Apache APISIX 实现 Service Mesh 解决方案 性能提升 • QPS 提升 5倍 • 延迟降低一个数量级 Apache APISIX envoy QPS 59122 12903 Latency 50.000% 节约成本  统一技术栈  统一管理  复用技术经验 未来  结合APISIX xRPC实现  原生异构多协议支持  覆盖Istio各类场景/配置  降低用户迁移成本 Apache APISIX Ingress  一种Kubernetes Ingress controller实现  Kubernetes集群南北向流量网关  控制面和数据面分离 https://github

此外，借助
API7
内置的
50
多种插件，可实现⾝份验证、安全防护、流量控制、分析监控、请求/响应 转换等常⻅业务需求；若内置插件⽆法满⾜需求，我们也⽀持使⽤
Lua、Java、Go、Python
语⾔⾃ 定义插件，可作⽤于请求进⼊、上游响应各个阶段。 Manager
API
2. ⽤于管理
API
⽹关，通过访问其暴露的
RESTful
API
接⼝以实现对路由、上游、证书、全局插件、消 费者等资源的管理。 得数据平⾯不会受到控制平⾯影响。配置中⼼默认为
ETCD，但也⽀持
Consul、Nacos、Eureka
等， 可根据您的实际情况进⾏选择。此外，企业⽤⼾只需关注业务本⾝，与业务⽆关的⼤部分功能交给
API7
内置插件即可实现，如⾝份验证、性能分析等。
1.2
技术亮点
图
1-2
API7
技术亮点
云原⽣ 1. API7
是⼀个云原⽣⽹关，与平台⽆关，没有供应商锁定的⻛险。它⽀持裸⾦属、虚拟机、 Ku API7
使⽤
Radixtree
算法实现⾼性能、灵活路由，在
AWS
8
核⼼服务器中，QPS
约为
140K，延迟约 为
0.2
ms；
全动态能⼒ 6. 修改⽹关配置、增加或修改插件等，⽆需重启⽹关服务即可实时⽣效；⽀持动态加载
SSL
证书；
扩展能⼒强 7. 借助灵活的插件机制，可针对内部业务完成功能定制；⽀持⾃定义负载均衡算法与路由算法，不受限 于
API
⽹关实现；通过运⾏时动态执⾏⽤

间隔离、降低故障率 但是同样的带来的一些问题: 接口之间通用的功能重复开发、膨胀的 服务数量、难以管理 使用API网关模式 使用API网关进行API聚合 使用API网关实现灰度发布 使用API网关实现服务熔断 与传统API网关的功能 • 让 API 请求更安全、更高效的得到处理 • 覆盖 Nginx 的所有功能：反向代理、负载均衡 • 动态上游、动态 SSL 证书、动态限流限速 多个插件，覆盖：身份认证、安全、日志、可观测性… Apache APISIX 设计思路 • API 网关的数据面和控制面分离 • 通过插件机制来方便二次开发和运维 • 高可用，没有单点故障 • 安全和稳定第一：基于 Nginx 实现；mTLS 认证；敏感信息加密加盐(salt)保存 • 高性能：单核心 QPS 1.5 万，延迟低于 0.7 毫秒 • 运维友好：Prometheus， SkyWalking，流量复制，故障注入等 技术架构 开放了自定义负载均衡的挂载点，其他网关都不支持 独创的插件编排/低代码 API 网关 Plugin Orchestration • Kong：支持 Go 编写的插件 • Envoy：支持 Lua、WASM 编写的 filter • Apache APISIX：为什么要“写”插件？ops、PM 也可以直接创造一个插件 • 解决方案：微插件、低代码，需要底层架构和插件足够灵活 有众多信赖的全球领军企业,

源，⽐比如：Tyk、Kong 等，代码量量较重。 Apache APISIX 机会：轻巧 + 极致性能 + 热插件 宣布开源 CNCF ⾸首个商业⽤用户 ⽣生产⽤用户上线 捐赠 Apache 全平台⽀支持 6.6 8⽉月 10 ⽉月 7⽉月 9⽉月 今天 Apache APISIX 第⼀一⾏行行代码 4⽉月 Apache APISIX ⾃自豪 • 核⼼心代码量量，3892 ⾏行行 Configuration center ??? Validator ??? Apache APISIX 技术选型 • 配置中⼼心 • 语⾔言或开发平台 • 数据校验 • 加分项：顶级路路由实现 Apache APISIX 技术选型 • 配置中⼼心：⾼高可⽤用、增量量订阅、历史记录 • 语⾔言或开发平台：动态、⾼高性能、⽹网关的周边资 源丰富 • 数据校验：开放标准、有⼀一定的⽣生态系统 等 Apache APISIX 技术选型 数据校验：jsonschema • 数据校验规范：Google 排名第⼀一 • 有多个不不同语⾔言客户端，涵盖了了⼏几乎⽬目前主流的 所有语⾔言实现。 • 有现成的压测结果供参考供对⽐比 Apache APISIX 技术选型 validator：iresty/jsonschema • 刚需：draft4（可满⾜足 99% 的场景），

《OpenResty 从入门到实战》极客时间专栏作者 • 曾在奇虎 360 担任企业安全架构师，开源委员会发起人、委员 • 40 多项安全方面的专利 Apache Way • 社区大于代码：烂代码可以改，不健康的社区没治 • 优先邮件列表：邮件列表中没有出现的，就当做不存在；72 小时原则 • 精英治理：贡献越大，声音越大 • 民主：所有人都可以投票，区别在于此票是否有效（binding） 的？ • Service Mesh 是银弹吗？ • 下一代微服务架构是什么？ Apache APISIX 是什么？ • 云原生微服务 API 网关 • 基于 Nginx 和 etcd 实现 • 集成了控制面和数据面 • 提供灵活的插件机制 • 动态上游、动态路由、插件热加载 快速的成长 • 6 月 6 号开源 • 7 月被纳入 CNCF 全景图 • 8 月首家付费央企

创新，在⼏分钟 内就能完成API节点的克隆和扩展。与本地部署相⽐，云有良好的扩展性，能更快地进⾏服务器部署和 应⽤程序开发，且能降低计算成本的开销。 更重要的是，许多组织也依赖API和微服务来实现⾼性能和可⽤性。在本⽂中，我们将“⾼性能”定义 为每秒负载超过1000个交易且在整个API环境中最⼤延迟⼩于30毫秒。对公司⽽⾔，对性能的需求和 对管理的需求⼀样，因为公司依靠API交易速率来跟上业务发展速度。
节点（或管理节点集群前的负载均衡器），每秒的请求数不变。 为了进⾏压⼒测试，我们使⽤了
HTTP
压⼒测试⼯具
WRK21，这是
Github
上⼀个免费的压⼒测试套 件。
WRK2
⼯具返回每个测试的延迟分布和状态代码摘要。压测⼯具将延迟测量发出单个
API
请求和 收到API
响应的时间间隔。因此，如果我们在
60
秒内每秒发出
10,000
个请求，压测⼯具就会记录
600,000
个延迟值。我们⽤这些数据来统计测试结果。

init worker phase background timer client share dict Nginx + Lua http(s) ⼆次优化实践 ➤ Nginx 性能很⾼，⽽⾼性能的代码有时候是不优雅的 ➤ reuse the temporary Lua table object ➤ use `ngx.var.http_****` to fetch specific header 5805 知识点 missing call math.randomseed() lua_code_cache off 为什么要参与开源项⽬ 拓宽视野 提⾼思考问题全⾯性 提⾼对代码之外点的重视：⽂档、单元测试、E2E 测试、压⼒测 试等 了解⾏业发展⽅向 与社区⼀起成⻓相互“提携” 远程协作的最佳实验环境 “ Q & A https://github.com/apache/apisix

Nginx 问题 • 低活跃度的社区 • 社区不友好：提交代码困难 • 静态配置 + reload • 路由太弱 • gRPC 周边弱 • ⽆统⼀管理控制⾯ 云 原 ⽣ 社 区 M e e t u p 第 四 期 · ⼴ 州 站 Kong 问题 • 架构选型：Nginx + PostgreSQL • 云原⽣ API ⽹关 • 代码臃肿 • 性能⼀般 • 官⽅没 Dashboard

5、监控 6、日志 CAS 与 casbin 2、用户状态支持本地存储 3、用户状态支持redis存储 4、casbin 兼容 RBAC with domain 1、认证鉴权功能从业务代码剥离 APISIX helm模板 APISIX 插件模板 APISIX upstream&API 应用模板 应用发布 安信PaaS平台如何管理APISIX 版本、节点数、资源、配置文件

微服务是如何演进到 Service Mesh 的？ • 下一代微服务架构是什么？ Apache APISIX 是什么？ • 云原生微服务 API 网关 • 基于 Nginx 和 etcd 实现 • 集成了控制面和数据面 • 提供灵活的插件机制 • 动态上游、动态路由、插件热加载 快速的成长 • 6 月 6 号开源 • 7 月被纳入 CNCF 全景图 • 8 月首家付费央企