云原生边云协同AI框架实践 普杰 华为云边缘云创新Lab 高级工程师 KubeEdge SIG AI Tech Lead 目 录 Edge AI现状与趋势 01 Sedna：边云协同AI框架 02 Sedna-GM：K8S Operator 03 实践案例 04 Edge AI现状与趋势 第一部分 Why Edge AI？ • Cloud中心化的AI计算范式不足以应对端上AI AI应用到越来越多的边缘场景 分布式协同AI 概念 将人工智能相关的部分任务部署到边缘设备，基于边缘设备、边缘服务 器、云服务器，利用分布式乃至分布式协同方式实现人工智能的技术 数据在边缘产生 边侧逐步具备AI能力 分布式协同AI 核心驱动力 分布式协同AI核心驱动力 • 随着边侧算力逐步强化，边缘AI持续演变至分布式协同AI 分布式协同AI技术挑战 1. 边缘资源碎片化 2 边缘数据异构 分布式协同AI 技术挑战 边云协同AI框架 第二部分 首个分布式协同AI开源项目Sedna 基于KubeEdge提供的边云协同能力，支持现有AI类应用无缝下沉到边缘 为分布式协同机器学习服务 ✓ 降低构建与部署成本 ✓ 提升模型性能 ✓ 保护数据隐私 SIG成员近年发表分 布式协同AI顶会论文 10+ SIG成员在AI顶会IJCAI 上分享分布式协同AI论文 Sedna斩获中国信通院云边协

来，我国人工智能产业在技术创新、产品创造和行业应用等 方面实现快速发展，形成庞大市场规模。伴随以大模型为代 2 表的新技术加速迭代，人工智能产业呈现出创新技术群体突 破、行业应用融合发展、国际合作深度协同等新特点，亟需 完善人工智能产业标准体系。 二、总体要求 以习近平新时代中国特色社会主义思想为指导，全面贯 彻党的二十大和二十届二中全会精神，认真落实中央经济工 作会议和全国新型工业化推进大会部署要求，完整、准确、 加快人工智能领域关键共性技术研究，推动先进适用的科技 创新成果高效转化成标准。 坚持应用牵引。坚持企业主体、市场导向，面向行业应 用需求，强化创新成果迭代和应用场景构建，协同推进人工 3 智能与重点行业融合应用。 坚持产业协同。加强人工智能全产业链标准化工作协 同，加强跨行业、跨领域标准化技术组织的协作，打造大中 小企业融通发展的标准化模式。 坚持开放合作。深化国际标准化交流与合作，鼓励我国 所示。其中，基础共性标准是人 工智能的基础性、框架性、总体性标准。基础支撑标准主要 规范数据、算力、算法等技术要求，为人工智能产业发展夯 实技术底座。关键技术标准主要规范人工智能文本、语音、 图像，以及人机混合增强智能、智能体、跨媒体智能、具身 智能等的技术要求，推动人工智能技术创新和应用。智能产 品与服务标准主要规范由人工智能技术形成的智能产品和 服务模式。赋能新型工业化标准主要规范人工智能技术赋能

行业大模型 基座大模型 人机协同 Chatbot •自然语言对话 Reasoner •基本的推理和问 题解决能力 Agent •代表用户执行任 务，具备自主行 动能力 Innovator • 参与发明和创造， 增强人类的创造力 和创新能力 Organization •承担整个组织的 功能，独立管理 并执行复杂的操 作 • 致力于人机协同和人机共生领域的世界级团队，专注于打 李默非（清华大学人工智能学院拟录博士生）：人机共生之基座大模型研究研发 • 何静（清华博士后、北航助理教授）：人机共生之快生引擎研究研发 • 尤可可（清华博士后、北石化助理教授）：人机共生之AIGC短视频 • 安梦瑶（清华大学博士后）：人机共生之AI诊疗研究 • 陶炜（清华大学博士生）：人机共生之AI实时增强技术的探索与实践 • 胡晓李（清华大学博士后）：人机共生之游戏设计 • 余梦珑（清华大学博士后）：人机共生之媒体智能体应用 用 • 张家铖（清华大学博士后）：人机共生之AI评测 • 张诗瑶（清华大学博士后）：人机共生之AI社会理论分析 • 朱雪菡（清华大学博士后）：人机共生之影视内容创意与制作 • 陈禄梵（清华大学博士生）：人机共生之AI美学理论 • 罗雨果（清华大学拟录博士生）：人机共生之传播分析 • 章艾媛（清华大学博士生）：人机共生之数据分析 • 邹开元（清华大学博士生）：人机共生之文学内容创作 • 向安玲（清华

k1.5  数据挖掘能力出色  快速读取文件数据，提取网址链接  长文本数据处理能力突出  爬虫数据采集存在代码错误问题  数据分析能力相对较弱 数据应用情况总结 新思路：优势互补，协同应用 Claude+DeepSeek 数据处理的“洗髓易筋” Claude 3.5 Sonnet 在文本提取 上较稳定，可用于数据清洗， DeepSeek R1 可确保数据完整性 DeepSeek+Open 396.6 49.2 本地部署：灵活高效，协同优化  端侧部署能力  端云协同优化 DeepSeek的本地部署与云端计算相结合，实现高效的计算和传 输。例如，其蒸馏模型在端侧SoC（系统级芯片）上的表现，显 著降低了硬件门槛，同时提升了用户体验。 DeepSeek的本地部署在性能上表现出色，能够满足不同应用场景的需求，尤其是在端侧和端云协同场景。通过合理的 硬件配置和优化策略，De 任务执行方式 多模块协同，逐步执行复杂任务 单输入文本生成输出，处理单一任务 研究能力 处理复杂学术、法律、市场研究，支持多轮分析 生成创意内容，提供建议，适度推理分析 输入输出格式 支持图像、PDF等多种格式输入输出 主要依赖文本输入输出 模块协作 多个模块协同工作（探索者、整合者、推理者等） 单一模型，无模块化协作 DeepResearch 探索者 整合者 思考者 表达者 技术协同：多步推理，快速输出

理 问题的每个步骤来得到答案 决策能力 依赖预设算法和规则进行决策 能够自主分析情况，实时做出决策 创造力 限于模式识别和优化，缺乏真正的创新能力 能够生成新的创意和解决方案，具备创新能力 人机互动能力 按照预设脚本响应，较难理解人类情感和意图 更自然地与人互动，理解复杂情感和意图 问题解决能力 擅长解决结构化和定义明确的问题 能够处理多维度和非结构化问题，提供创造性的解 决方案 伦理问题 控制类元素用于管理和引导AI的生成过程，确保输出 符合预期并能够进行必要的调整，是实现高级提示语 工程的重要工具。 提示语的DNA：解构强大提示语的基本元素 提示语元素组合矩阵 提示语元素协同效应理论的核心观点包括： ▪ 互补增强：某些元素组合可以互相弥补不足，产生1+1>2的效果。 ▪ 级联激活：一个元素的激活可能引发一系列相关元素的连锁反应，形成 一个自我强化的正反馈循环。 ▪ 社区化与用户生成内容 这些特性也对提示语设计提出了具体要求： 情感化与共鸣 视觉内容导向 消费决策引导 �小红书内容创作的核心原则 注重实用性与分享性 0 1 情感共鸣与个性化表达 0 2 视觉与文字的协同设计 0 3 简洁明了，突出重点 0 4 种草文案的提示语设计 �信任建设 信任建设的关键在于通过专业性与真实体验相结合，打造可 信赖的内容框架。信任建设提示语设计： 维度 提示语示例 要求

理 问题的每个步骤来得到答案 决策能力 依赖预设算法和规则进行决策 能够自主分析情况，实时做出决策 创造力 限于模式识别和优化，缺乏真正的创新能力 能够生成新的创意和解决方案，具备创新能力 人机互动能力 按照预设脚本响应，较难理解人类情感和意图 更自然地与人互动，理解复杂情感和意图 问题解决能力 擅长解决结构化和定义明确的问题 能够处理多维度和非结构化问题，提供创造性的解 决方案 伦理问题 控制类元素用于管理和引导AI的生成过程，确保输出 符合预期并能够进行必要的调整，是实现高级提示语 工程的重要工具。 提示语的DNA：解构强大提示语的基本元素 提示语元素组合矩阵 提示语元素协同效应理论的核心观点包括： ▪ 互补增强：某些元素组合可以互相弥补不足，产生1+1>2的效果。 ▪ 级联激活：一个元素的激活可能引发一系列相关元素的连锁反应，形成 一个自我强化的正反馈循环。 ▪ 社区化与用户生成内容 这些特性也对提示语设计提出了具体要求： 情感化与共鸣 视觉内容导向 消费决策引导 �小红书内容创作的核心原则 注重实用性与分享性 0 1 情感共鸣与个性化表达 0 2 视觉与文字的协同设计 0 3 简洁明了，突出重点 0 4 种草文案的提示语设计 �信任建设 信任建设的关键在于通过专业性与真实体验相结合，打造可 信赖的内容框架。信任建设提示语设计： 维度 提示语示例 要求

源操作系统 全栈原子化解耦，支持版本灵活构建、服务自由组合， 这样通过一套架构，来灵活支持南向多样性设备，北 向全场景应用 操作系统碎片化 导致数字基础设施产生大量“软烟囱”：生态割裂；重复开发；协同繁琐 首个社区共建的全场景版本openEuler22.03 LTS已 正式发布，版本持续迭代和创新 LTS版本 2020.03 2020.09 创新版本 2021.03 创新版本 2021 磁盘资源隔离，大数据性能提升30% • 应用感知调度，hbase性能提升20% • 容器/虚机混部， • 资源利用率15%-30% • 边云管理协同框架， • 跨边云单应用秒级发放 缘起：一个运动控制系统(机器人,数控机床….) 智能控制 （人机交互, 路径规划,导航) 行为控制 （轨迹追踪、碰撞检测，状态检测) 实时控制 （运动控制、传感器、动作 器) 灵活性 高 低 实时性、可靠性 典型硬件:树莓派４ • 特点：Linux和RTOS分工 协作 • 强隔离、资源动态分配 • 不足：对异构支持不完善 • 典型硬件:Xilinx Ultra Scale • 特点：异构多核，多种运 行时协同工作 • 不足：软件栈结构复杂 在不同模式下，openEuler Embedded始终是中心，提供富功能、富管理、富生态 混合关键系统：单节点极致“异构” 算力，多种OS/runtime共同部署，

DeepSeek应急协议： ① 资源热力图： 实时整合气象局数据/道路塌方报告/医院接诊状态 物资预测算法锁定3公里内未饱和便利店 ② 生命线工程： 孕妇救援通道： ✓ 自动生成医疗档案二维码 ✓ 无人机勘察可行路线 ✓ 协调民间救援队GPS定位 老人转移方案： ✓ 调取智能手环历史活动轨迹 ✓ 社区志愿者网络即时广播 ③ 企业级应急： 启动边缘计算节点转移关键数据 生成政府灾情报告模板（自动填充损失评估） 定化和信息增量的终止。实验显示，高收敛性提示语导致内容 趋于一致，而非收敛性提示语和多样化设计能突破逻辑循环。 结合自适应反馈和递进式提示链，可推动智能体生成新内容， 避免知识循环，拓宽智能体的生成空间，为人机共生系统中的 深层交互与创新实践提供新路径。 结合自适应反馈和递进式提示链 让AI生成优质内容 p 当AI面对收敛性高的提示词时，生成内容趋于一致，主要依赖已有知识的重复和组合。提示词的收敛性和对话轮次共 验证。 常见陷阱与应对：新手必知的提示语设计误区 假设偏见陷阱：当Al只告诉你想听的 幻觉生成陷阱：当AI自信地胡说八道 人机共生时代的能力培养体系 整合力 引导力 判断力 元认知 创造力 系统思维 决策力 AI思维 共生 人机 2025年中国电影《哪吒2》票房再创 新高，彰显我国电影产业跨入高质量 发展新时代。该片继承并创新中华传 统文化，以现代科技赋能艺术表现，