云原生边云协同AI框架实践 普杰 华为云边缘云创新Lab 高级工程师 KubeEdge SIG AI Tech Lead 目 录 Edge AI现状与趋势 01 Sedna：边云协同AI框架 02 Sedna-GM：K8S Operator 03 实践案例 04 Edge AI现状与趋势 第一部分 Why Edge AI？ • Cloud中心化的AI计算范式不足以应对端上AI AI应用到越来越多的边缘场景 分布式协同AI 概念 将人工智能相关的部分任务部署到边缘设备，基于边缘设备、边缘服务 器、云服务器，利用分布式乃至分布式协同方式实现人工智能的技术 数据在边缘产生 边侧逐步具备AI能力 分布式协同AI 核心驱动力 分布式协同AI核心驱动力 • 随着边侧算力逐步强化，边缘AI持续演变至分布式协同AI 分布式协同AI技术挑战 1. 边缘资源碎片化 2 边缘数据异构 分布式协同AI 技术挑战 边云协同AI框架 第二部分 首个分布式协同AI开源项目Sedna 基于KubeEdge提供的边云协同能力，支持现有AI类应用无缝下沉到边缘 为分布式协同机器学习服务 ✓ 降低构建与部署成本 ✓ 提升模型性能 ✓ 保护数据隐私 SIG成员近年发表分 布式协同AI顶会论文 10+ SIG成员在AI顶会IJCAI 上分享分布式协同AI论文 Sedna斩获中国信通院云边协

车载⾃动化功能 公路、越野等具体场景 公有链基础架构⾃下⽽上分为六层：数据层、⽹络层、共识层、激励层、合约层与应⽤层。如果将区块链⽐作⼀ 辆汽车，那么各层分别对应汽车的各个组成部分（下图所⽰），各层之间协同合作，形成多中⼼化可信系统 12 趣链科技 版权所有 ©2016-2021 12 趣链科技 版权所有 ©2016-2021 12 趣链科技 版权所有 ©2016-2021 12 �盟�（�可�架构） 区块链平台关键技术-混合存储模型 23 趣链科技 版权所有 ©2016-2021 23 趣链科技 版权所有 ©2016-2021 23 趣链科技 版权所有 ©2016-2021 23 区块链平台关键技术-联盟治理 多机构协同治理 ⽀持多家机构分别设置系统管理员，决策阈值可根据具 体业务场景动态调整，决策公开透明灵活 联盟治理决策流程 单⼀机构治理 在单机构总部-分部的场景中，可将投票阈值设为1，仍 可⽀持设置多个管理员进⾏分级管理 异步审计 扩展层 • Hyperchain:首个国产自主可控的联盟链平 台，是目前行业内落地应用最多、节点分布 最广、承载业务规模最大的区块链平台。 • BitXMesh:首个支持链上链下协同的数据共 享平台，实现“数据可用不可见”。 • BitXHub: 首个异构联盟链跨链平台，是目 前国内影响力最大的开源跨链平台。 • Azolla： 首个支持海量设备接入的多层级 区块链平台，首创区块链专用芯片/模组，

如⽂档开始的压测数据，如果不是过载保护，在不到
600
qps
的情况下，P99
甚⾄
P90
都已经到了
1s
的超时阈值了，服务基本已经开始不可⽤了。 3.6
跟
Kubernetes
HPA
的协同
当我们在使⽤
Kubernetes
并设置了
HPA
根据
CPU
使⽤率⾃动伸缩的时候，Kubernetes
默认会在
4
个连续的
15
秒探测周期探测到
CPU
使⽤率超标（有
0.9
-
1 CPU
负载反馈因⼦。类似于神经⽹络中的激活函数，基于
CPU
负载对系统容量做调节。
• 过载保护冷却时间。⽤于避免过载保护在
CPU
临界值周边来回启停，有利于⼤流量下的请求抑制 效果。 • 跟
HPA
的协同。⼀定要避免
HPA
的
CPU
扩容配置低于过载保护设置的阈值，否则过载保护会抑 制
HPA
的⽣效。但⼀般不太会发⽣，HPA
默认值是
80%，过载保护默认值是
90%，不建议把
HPA
的配置往上调。

技术⽂章 go-zero 推⼴思路 • 项⽬本身才是关键 • 技术⼤会 • 线上线下分享 • 社区建设 • 国内国外兼顾 • 推⼴⾃⼰，但不要排斥、攻击别⼈ • ⽣态发展，上下游协同 go-zero 社区发展 • 社区交流群的选择 • 微信、QQ、⻜书、slack、discord、TG？ • 多个群？⼀个超级⼤群？ • geek 抱怨微信不好⽤？ • TG 更适合技术交流？

tags naming guide: db.type、db.instance、db.statement… • Integrating trace-id when logging Q & A ⽂档实时协同 · 知识沉淀管理 · 数据安全可控 —— ⽯墨⽂档

⾃定义告警 APM 微服务管理 资源管理 标签管理 系统监控 集群管理 服务⽬录 埋点 数据库 ⽇志 画像 标签 报表 推荐 … 代码管理 持续集成 编排部署 应⽤运维 测试管理 协同管理 数据源管理 数据集成 数据开发 数据资产 数据服务 数据应⽤ 资源统计 运维报告 审计⽇志 K8S 管理 数据监控 多云管理平台 MySQL Redis Kafka ES

a服务发现报错 --> 查看a日志--> b服务负责人 查看b日志--> c服务负责人 查看c日志--> d服务负责人 ... • 跨部门，跨负责人，排查问题是效率非常低 • TraceId 协同所有业务 为什么定位慢？-- 错误处理 TraceId 分布式信息 错误尽早失败 串联信息 • UserID 跟踪用户 • TeamID 跟踪团队 • FileID 跟踪文件

度安全 • 联邦学习 结合机器器学习和密码学算 法，数据联邦化训练，充 分释放数据价值 02 隐私计算平台 架构 趣链科技版权所有©2016 – 2021 9 平台体系 • 区块链协同层 数据共享⽬目录，数据确权授 权、追溯审计以及联盟治理理 • 隐私计算⽹网络 多节点通过p2p组⽹网，并基于安 全多⽅方计算、联邦学习、可信执 ⾏行行环境按照数据隐私密级进⾏行行价 值共享