云原生边云协同AI框架实践 普杰 华为云边缘云创新Lab 高级工程师 KubeEdge SIG AI Tech Lead 目 录 Edge AI现状与趋势 01 Sedna：边云协同AI框架 02 Sedna-GM：K8S Operator 03 实践案例 04 Edge AI现状与趋势 第一部分 Why Edge AI？ • Cloud中心化的AI计算范式不足以应对端上AI AI应用到越来越多的边缘场景 分布式协同AI 概念 将人工智能相关的部分任务部署到边缘设备，基于边缘设备、边缘服务 器、云服务器，利用分布式乃至分布式协同方式实现人工智能的技术 数据在边缘产生 边侧逐步具备AI能力 分布式协同AI 核心驱动力 分布式协同AI核心驱动力 • 随着边侧算力逐步强化，边缘AI持续演变至分布式协同AI 分布式协同AI技术挑战 1. 边缘资源碎片化 2 边缘数据异构 分布式协同AI 技术挑战 边云协同AI框架 第二部分 首个分布式协同AI开源项目Sedna 基于KubeEdge提供的边云协同能力，支持现有AI类应用无缝下沉到边缘 为分布式协同机器学习服务 ✓ 降低构建与部署成本 ✓ 提升模型性能 ✓ 保护数据隐私 SIG成员近年发表分 布式协同AI顶会论文 10+ SIG成员在AI顶会IJCAI 上分享分布式协同AI论文 Sedna斩获中国信通院云边协

来，我国人工智能产业在技术创新、产品创造和行业应用等 方面实现快速发展，形成庞大市场规模。伴随以大模型为代 2 表的新技术加速迭代，人工智能产业呈现出创新技术群体突 破、行业应用融合发展、国际合作深度协同等新特点，亟需 完善人工智能产业标准体系。 二、总体要求 以习近平新时代中国特色社会主义思想为指导，全面贯 彻党的二十大和二十届二中全会精神，认真落实中央经济工 作会议和全国新型工业化推进大会部署要求，完整、准确、 加快人工智能领域关键共性技术研究，推动先进适用的科技 创新成果高效转化成标准。 坚持应用牵引。坚持企业主体、市场导向，面向行业应 用需求，强化创新成果迭代和应用场景构建，协同推进人工 3 智能与重点行业融合应用。 坚持产业协同。加强人工智能全产业链标准化工作协 同，加强跨行业、跨领域标准化技术组织的协作，打造大中 小企业融通发展的标准化模式。 坚持开放合作。深化国际标准化交流与合作，鼓励我国 所示。其中，基础共性标准是人 工智能的基础性、框架性、总体性标准。基础支撑标准主要 规范数据、算力、算法等技术要求，为人工智能产业发展夯 实技术底座。关键技术标准主要规范人工智能文本、语音、 图像，以及人机混合增强智能、智能体、跨媒体智能、具身 智能等的技术要求，推动人工智能技术创新和应用。智能产 品与服务标准主要规范由人工智能技术形成的智能产品和 服务模式。赋能新型工业化标准主要规范人工智能技术赋能

行业大模型 基座大模型 人机协同 Chatbot •自然语言对话 Reasoner •基本的推理和问 题解决能力 Agent •代表用户执行任 务，具备自主行 动能力 Innovator • 参与发明和创造， 增强人类的创造力 和创新能力 Organization •承担整个组织的 功能，独立管理 并执行复杂的操 作 • 致力于人机协同和人机共生领域的世界级团队，专注于打 李默非（清华大学人工智能学院拟录博士生）：人机共生之基座大模型研究研发 • 何静（清华博士后、北航助理教授）：人机共生之快生引擎研究研发 • 尤可可（清华博士后、北石化助理教授）：人机共生之AIGC短视频 • 安梦瑶（清华大学博士后）：人机共生之AI诊疗研究 • 陶炜（清华大学博士生）：人机共生之AI实时增强技术的探索与实践 • 胡晓李（清华大学博士后）：人机共生之游戏设计 • 余梦珑（清华大学博士后）：人机共生之媒体智能体应用 用 • 张家铖（清华大学博士后）：人机共生之AI评测 • 张诗瑶（清华大学博士后）：人机共生之AI社会理论分析 • 朱雪菡（清华大学博士后）：人机共生之影视内容创意与制作 • 陈禄梵（清华大学博士生）：人机共生之AI美学理论 • 罗雨果（清华大学拟录博士生）：人机共生之传播分析 • 章艾媛（清华大学博士生）：人机共生之数据分析 • 邹开元（清华大学博士生）：人机共生之文学内容创作 • 向安玲（清华

理 问题的每个步骤来得到答案 决策能力 依赖预设算法和规则进行决策 能够自主分析情况，实时做出决策 创造力 限于模式识别和优化，缺乏真正的创新能力 能够生成新的创意和解决方案，具备创新能力 人机互动能力 按照预设脚本响应，较难理解人类情感和意图 更自然地与人互动，理解复杂情感和意图 问题解决能力 擅长解决结构化和定义明确的问题 能够处理多维度和非结构化问题，提供创造性的解 决方案 伦理问题 控制类元素用于管理和引导AI的生成过程，确保输出 符合预期并能够进行必要的调整，是实现高级提示语 工程的重要工具。 提示语的DNA：解构强大提示语的基本元素 提示语元素组合矩阵 提示语元素协同效应理论的核心观点包括： ▪ 互补增强：某些元素组合可以互相弥补不足，产生1+1>2的效果。 ▪ 级联激活：一个元素的激活可能引发一系列相关元素的连锁反应，形成 一个自我强化的正反馈循环。 ▪ 社区化与用户生成内容 这些特性也对提示语设计提出了具体要求： 情感化与共鸣 视觉内容导向 消费决策引导 �小红书内容创作的核心原则 注重实用性与分享性 0 1 情感共鸣与个性化表达 0 2 视觉与文字的协同设计 0 3 简洁明了，突出重点 0 4 种草文案的提示语设计 �信任建设 信任建设的关键在于通过专业性与真实体验相结合，打造可 信赖的内容框架。信任建设提示语设计： 维度 提示语示例 要求

源操作系统 全栈原子化解耦，支持版本灵活构建、服务自由组合， 这样通过一套架构，来灵活支持南向多样性设备，北 向全场景应用 操作系统碎片化 导致数字基础设施产生大量“软烟囱”：生态割裂；重复开发；协同繁琐 首个社区共建的全场景版本openEuler22.03 LTS已 正式发布，版本持续迭代和创新 LTS版本 2020.03 2020.09 创新版本 2021.03 创新版本 2021 磁盘资源隔离，大数据性能提升30% • 应用感知调度，hbase性能提升20% • 容器/虚机混部， • 资源利用率15%-30% • 边云管理协同框架， • 跨边云单应用秒级发放 缘起：一个运动控制系统(机器人,数控机床….) 智能控制 （人机交互, 路径规划,导航) 行为控制 （轨迹追踪、碰撞检测，状态检测) 实时控制 （运动控制、传感器、动作 器) 灵活性 高 低 实时性、可靠性 典型硬件:树莓派４ • 特点：Linux和RTOS分工 协作 • 强隔离、资源动态分配 • 不足：对异构支持不完善 • 典型硬件:Xilinx Ultra Scale • 特点：异构多核，多种运 行时协同工作 • 不足：软件栈结构复杂 在不同模式下，openEuler Embedded始终是中心，提供富功能、富管理、富生态 混合关键系统：单节点极致“异构” 算力，多种OS/runtime共同部署，

DeepSeek应急协议： ① 资源热力图： 实时整合气象局数据/道路塌方报告/医院接诊状态 物资预测算法锁定3公里内未饱和便利店 ② 生命线工程： 孕妇救援通道： ✓ 自动生成医疗档案二维码 ✓ 无人机勘察可行路线 ✓ 协调民间救援队GPS定位 老人转移方案： ✓ 调取智能手环历史活动轨迹 ✓ 社区志愿者网络即时广播 ③ 企业级应急： 启动边缘计算节点转移关键数据 生成政府灾情报告模板（自动填充损失评估） 定化和信息增量的终止。实验显示，高收敛性提示语导致内容 趋于一致，而非收敛性提示语和多样化设计能突破逻辑循环。 结合自适应反馈和递进式提示链，可推动智能体生成新内容， 避免知识循环，拓宽智能体的生成空间，为人机共生系统中的 深层交互与创新实践提供新路径。 结合自适应反馈和递进式提示链 让AI生成优质内容 p 当AI面对收敛性高的提示词时，生成内容趋于一致，主要依赖已有知识的重复和组合。提示词的收敛性和对话轮次共 验证。 常见陷阱与应对：新手必知的提示语设计误区 假设偏见陷阱：当Al只告诉你想听的 幻觉生成陷阱：当AI自信地胡说八道 人机共生时代的能力培养体系 整合力 引导力 判断力 元认知 创造力 系统思维 决策力 AI思维 共生 人机 2025年中国电影《哪吒2》票房再创 新高，彰显我国电影产业跨入高质量 发展新时代。该片继承并创新中华传 统文化，以现代科技赋能艺术表现，

人脸识别 水印识别 特征提取 OCR 智能抠图 质量分析 内容属性 内容分析理解 版权保护 字幕制作 视频生产 视频修复 内容生产管理 智能封面 自动歌词 语音交互 人机协作运营 创新体验 易智字幕工具 易智语音工具 音视频效率工具 行业应用 产品 解决方案 语音技术 自然语言处理 计算机视觉 能力 组件 技术领先 算法能力行业领先，多次斩获 国内外技术竞赛最高奖项。 广泛应用于视频字幕制作、英文视频学习等场景。 语音转写工具 可快速准确的将语音、录音文件识别出文本内容，可视化的界 面提升人工精校效率。可应用于会议录音纪要整理，手机录音 文件管理等场景。 产品能力 产品能力 为企业提供人机协作AI效率工具，可显著提高字幕制作效率和音频文件转写效率。 易智音视频效率工具 综合运用语音技术、自然语言处理、计算机视觉等AI能力组件，精准的理解视音频、直播等媒体内容。可应用于内 容运营、分发推荐、生产管理等场景。 交易体系服务 社交体系服务 业务前台【贴近用户，快速迭代】 业务中台【资源整合，能力沉淀】 技术底座 SOLUTIONS 业务中台是企业核心能力以共享服务的形式沉淀，实现各业务之间的连接和协同，持续提升业务创新和数字化转型 能力的技术产品和方法体系。 业务中台解决方案 25 SOLUTIONS 方案价值 方案特色 提升数据服务效率 可实现需求交付速度、数据查找效率、数据查询能力的三重提升。

2021 2022 2023 2024 40 万 2024年Gitee开源组织数量 2024年，Gitee上的开源组织数 量达到了40万个，越来越多的开 发者选择凝聚在一起，共同拥抱 开放透明的组织协同。 7 / 111 本年度最受开发者关注的开源组织 2024 年，技术大厂及其大型项 目依然备受关注，它们推动着技 术的快速发展和广泛应用。 同时，「民间」开源组织虽然在 关注度上不及大厂主导的项目， 年中国开源模型：崛起与变革 文/Tiezhen、Adina、Lu Cheng 2024 年，中国在开源人工智能模型领域的崛起和变革成为全球瞩目的焦点：从学术到产业， 从技术到生态，中国通过自主研发和协同创新，逐步完成了从“追随者”到“引领者”的转变。 这种转变不仅是技术实力的体现，更是中国人工智能生态系统快速完善的真实写照。以下，我们 将从崛起与变革两个维度，探讨中国开源模型在这一年取得的重大成就和未来展望。 为了更好地展现这一 演进路径，我们在 Hugging Face 的中文模型社群中对各个领域的开源模型进行了系统整理。 展望 2024 年，中国开源模型的发展展现了技术、生态和社会价值之间的深度协同。无论是从技 术创新到社区建设，还是从行业实践到合规探索，中国开源生态体系的完善正在为全球人工智能 发展注入源源不断的动力。 在 Hugging Face，我们坚信开源是推动人工智能技术进步和生态繁荣的核心力量。开源

智能体推动大模型快速落地  能够调用各种工具，具有行动能力  调用企业专业知识，更懂企业  将日常重复性业务流程形成Playbook，实现流程自动化  通过目标拆解，多次调用大模型以及专家模型协同，形成 慢思考能力 传统软件是辅助人的工具，Agent是能够自主工作的数字员工，是新的生产力政企、创业者必读 22 DeepSeek出现之前的十大预判 之九 开源效果追赶上闭源  技术开放，吸引广大开发人员和用户使用 用大模型帮助传统产业、制造业实现“数转智改”，利用AI降本增效 41政企、创业者必读 DeepSeek六大应用方向之四 未来产业：变不可能为可能 42  DeepSeek的技术为机器人、智能网联车、无人机、机器狗 等带来巨大改进，降低成本和算力要求  低成本低算力需求使得模型更容易被部署到机器人等智能设 备上，解决物理现实世界的认知、决策和行动问题政企、创业者必读 赋予自动驾驶复杂物理世界理解能力 AI Fo r Science 知识管理（ 内部知识管理、 外部情报分析、 大数据分析、 工作流知识） 专家经验模型（ 专业模型训练） 业务流程自动化（ A g e n t框架） 组织协同（ 工作流） 人机交互 赋能个人和 企业员工 生产力提升 多模态 能力 3 图片理解和处理 视频理解和处理 音频理解和处理 非结构化文档处理 47政企、创业者必读 DeepSeek能力很强大 个人使用绰绰有余