基于 KUBERNETES 的 容器器 + AI 平台 如何助⼒力力企业数字化和智能化转型 xiaoqin@caicloud.io VP of R&D 提纲 构建集群与管理理资源 - 73s 视频演示 多集群和镜像仓库 多租户和旧系统的集成 运⾏行行和构建应⽤用 Rudder - 应⽤用编排技术框架 Cyclone - 持续集成与交付引擎 运⾏行行 AI 应⽤用（机器器学习） custom resource • ansible 管理理镜像仓库 • Cargo （内部项⽬目）- ⽣生产级镜像仓库解决⽅方案，基于 • ⼀一键⾼高可⽤用部署和维护 • 为多租户和复杂权限集成⽽而增强 『token service』 • 管理理基于规则的镜像仓库 • 其他企业需要的优化功能 企业典型的多租户模型 租户 Tenant User User group • https://github.com/caicloud/charts • https://github.com/caicloud/helm-registry Rudder 技术架构 ⼀一套基于 k8s 控制器器模式的原⽣生的应⽤用管理理 和编排运⾏行行时 安全性与扩展性：从 k8s 原⽣生模式中获益 状态可读：跟踪所有 k8s 对象状态 版本化：快速从历史版本回滚 构建应⽤用

基于go和flutter的实时通信/视频直播解决方案 段维伟 湖北捷智云技术有限公司 创始人 目 录 背景 01 技术简介 02 客户端 03 服务端 04 开源社区 05 Q&A 06 背景 第一部分 即将讲述的内容 • WebRTC 实时通讯 • Flutter 跨平台UI 开发框架 • 基于Flutter UI 框架的WebRTC 插件 flutter-webrtc flutter-webrtc • Go 语言的WebRTC 协议栈 pion/webrtc • 基于pion/webrtc 的应用级服务框架 pion/ion • 5G 时代, 实时通讯应用爆发 • 疫情影响，全世界都在使用远程教育，远程办公 • 云游戏，机器人，VR，直播等 • 如何用最容易的方案实现实时通讯 • 漂亮的app，最好全部(mobile, web, desktop)平台都支持. • 最容易使用的后端技术 最容易使用的后端技术 真实世界的需求点 用开源方案实现需求 WebRTC + Flutter + Go 技术简介 第二部分 WebRTC 是什么 01. • 由 Google 发起的基于浏览器通讯标准 • 基于收购来的 GIPS (6800万美金)的高质量实时音视频引 擎 • 支持主流浏览器主流移动设备 • 历时十年成为Web 实时通讯标准 • RTMP 直播协议的低延迟替代方案 WebRTC

生成时间：20100725T1630 版本：Daily 本课程由 Canonical 有限公司和 Ubuntu 培训社区创作 2008-2010。 这个协议受到知识共享署名-非商业性使用-相同方式共享的约束 基于这个协议，您可以自由： • 复制、发行、展览、表演、放映、广播或通过信息网络传播本作品 • 创作演绎作品 惟须遵守下列条件： • 署名。您必须按照作者或者许可人指定的方式对作品进行署名(但是不得以任何方式暗示它们支持您 式暗示它们支持您 或者您作品的使用)。 • 非商业性使用。您不得将本作品用于商业目的。 • 相同方式共享。如果您改变、转换本作品或者以本作品为基础进行创作，您只能采用与本协议相同的 许可协议发布基于本作品的演绎作品。 对于任何的再使用或者分发，您必须让他人清楚了解到本作品所适用的协议条款。若您获得著作权人的 许可，上述任何条件都可以免除。该协议的任何部分都不削弱或者限制作者的人格权利。 关于这个著作权协议的更多信息，请参阅： II Ubuntu 与 Debian 的关系 . . . . . . . . . . . . . . . . . . . . . . . . . . . 500 XI.IX.IIIUbuntu 与其他基于 Ubuntu 的衍生发行版 . . . . . . . . . . . . 501 图片 I.1 Linus Benedict Torvalds . . . . . . . . . . . .

用于实验的 GPU 容器 2.基于 Kubeflow 的机器学习训练服务 3.模型管理和模型 Serving 服务 Experiment Training Serving 均基于容器，不对业务方直接提供 GPU 物理机 GPU 实验 JDOS 常规的容器服务 ，使用 gpu 的 zone ， 自行设定相应的镜像即 可，有完善的周边服务 训练服务 • 提供基于 kubeflow 的分布式训练方案 填写代码地址，执行的命令等 – 可以选择是否监控训练，提供 tensorboard 任务列表 可以指定 git 的 commit-id 发起任务 任务详情 可以查看具体的容器列表，以及查看容器的日志和事件 Serving 服务 提供统一便捷的 Serving 服务，只需用户指定模型，即可提供 grpc 和 rest 服务，同时使用 GPU 复用 +HPA 提高 GPU 利用率 创建 Serving

on *.* to ‘sync’@'%' identified by 'sync'; /*保存权限设定*/ flush privileges; /*查看主数据日志状态，需要记住查询结果 File 和 Position 值，是从数据库复 制的日志起点*/ show master status; 在从数据库中执行 SQL 脚本： /*如果已经开启了同步，停止同步*/ stop slave; /*设定主数据库*/ 000004', master_log_pos=789; /*开启从数据库复制*/ start slave; 最后可以通过 show slave status; 查看同步情况。 至此我们就建立了一个基于 Docker 的 Mariadb 数据库集群。

Zookeeper etcd AppEngine（Resin/Tomcat…) 统一服 务管理 Kubernetes 模板管理 自动化测试 部署中心 服务发现 灰度发布 监控中心 日志系统 PaaS SaaS 编 译 发 布 授 权 监 控 IaaS Registry SOA服务框架 DevOps 测 试 账户 搜狗商业平台基础平台 物料 计费 管理界面 Ø 支持大多数 MySQL 版本 Ø 使用 mysql 半同步复制 Ø 有数据丢失风险 Mysql Group Replication Ø MySQL 官方提供 Ø 5.7 新特性 Ø 基于 Paxos 协议 Ø 写入延迟相对高 MySQL 高可用的实现方式 MHA 高可用简介 • 节点分为 mha-manager、 mha-node • 节点两两间 ssh 免密登录 • 集群管理 2. 调度 pod Ceph MySQL-Operator 数据存储 分布式存储 • 使用 Ceph RBD，基于产品线 创建 StorageClass • 优点：可靠性高，容器漂移时 数据不变 • 缺点：读写延迟较高 本地存储 • 基于 Host Path Volumes • 优点：读写延迟低 • 缺点：单点数据，容器漂移时 数据丢失 踩到的坑 • 现象：执行

_commit 1 0 0 代表日志只大约每秒写入日志文件并且日志文件 刷新到磁盘 ; 1 为执行完没执行一条 SQL 马上 commit; 2 代表日志写入日志文件在每次提交 后 , 但是日志文件只有大约每秒才会刷新到磁盘上 . 对速度影响比较大，同时也关系数据完整性 innodb_log_file_size 8M 512M 在日志组中每个日志文件的大小 , 一般是 innodb_buffer_pool_size innodb_buffer_pool_size 的 25% ，官方推荐是 innodb_buffer_pool_size 的 40-50%, 设置大 一点来避免在日志文件覆写上不必要的缓冲池刷新 行为 innodb_log_buffer_size 128K 64M 用来缓冲日志数据的缓冲区的大小 . 推荐是 8M ， 官方推荐该值小于 16M ，最好是 1M-8M 之间  设计合理的数据表结构：适当的数据冗余 设计合理的数据表结构：适当的数据冗余 mysqldumpslow - mysql mysqldumpslow - mysql 官方提供的慢查询日志分析 官方提供的慢查询日志分析 工具 工具  mysqlsla - hackmysql.com mysqlsla - hackmysql.com 推出的一款日志分析工具 推出的一款日志分析工具 ，功能 ，功能 非常强大 非常强大  my sql-ex plain-slow

................................................................................... 45 14.4 消费打印日志 .................................................................................................. 尽可能唯一，返样可以避免潜在的哈希冲突。 // 订单 Id String orderId = "20034568923546"; message.setKeys(orderId); 3. 消息収送成功戒者失败，要打印消息日志，务必要打印 sendresult 和 key 字段。 4. send 消息方法，只要丌抛异常，就代表収送成功。但是収送成功会有多个状态，在 sendResult 里定丿。  SEND_OK 客户端収送请求到服务器 2. 服务器处理该请求 3. 服务器吐客户端迒回应答 所以一个 RPC 的耗时时间是上述三个步骤的总和，而某些场景要求耗时非常短，但是对可靠性要求幵丌高，例如 日志收集类应用，此类应用可以采用 oneway 形式调用，oneway 形式只収送请求丌等待应答，而収送请求在客 户端实现局面仁仁是一个 os 系统调用的开销，即将数据写入客户端的 socket 缓冲区，此过程耗时通常在微秒级。

概率预测（快速反应模型，如ChatGPT 4o） 链式推理(慢速思考模型，如OpenAI o1) 性能表现 响应速度快，算力成本低 慢速思考，算力成本高 运算原理 基于概率预测，通过大量数据训练来快速预测可能 的答案 基于链式思维（Chain-of-Thought），逐步推理 问题的每个步骤来得到答案 决策能力 依赖预设算法和规则进行决策 能够自主分析情况，实时做出决策 创造力 限于模式识别和优化，缺乏真正的创新能力 涌现属性：某些元素组合可能产生单个元素所不具备的新特性。 目标 主要元素组合 次要元素组合 组合效果 提高输出准确性 主题元素 + 数据元素 + 质量控制 元素 知识域元素 + 输出验证元 素 确保AI基于准确的主题和数据生成内容，并通过严格的质量控制和验证提高准 确性 增强创造性思维 主题元素 + 背景元素 + 约束条件 元素 参考元素 + 迭代指令元素 通过提供丰富的背景信息和适度的约束，激发AI的创造性思维，同时通过多轮 提供背景信息和任务概述 任务分解的提示语链设计步骤 任务分解的概念源于问题解决理论和系统工程学。将任务分解应用于提示语设计，实际上是在模拟人类处理 复杂问题的方式。这种方法主要基于分而治之原则、层级结构理论以及认知负荷理论作为其理论基础。 设计基于任务分解的提示语链涉及以下步骤： 明确总体 目标 识别主要 任务 细化子任 务 定义微任 务 设计对应 提示语 建立任务 间联系 加入反馈 调整机制

你需要完成以下两个任务： 1.阅读网页【网址】源代码【对应网页源代码】。提取所 有包含“春运2025丨X月X日，全社会跨区域人员流动量完 成X万人次”的网址进行去重、筛选，合并成网址列表 2.撰写python脚本，基于步骤1输出的网址列表提取所有网 址内容“截至目前 2025 年春运（2025年1月14日到2月8日） 相关数据（如日期、全社会跨区域人员流动量、铁路客运 量、公路人员流动量、水路客运量、民航客运量等）”完 2、对数据集进行深入分析和数据挖掘 任务 DeepSeek R1 能够准确对数据进行分类，从多个维度进行梳理和分析，借助可视化图表进行数据挖掘，基于分析结 果提供可行建议，但整体数据挖掘深度较浅，缺少对不同类型数据直接关联性的探究。 第一轮对话： 第二轮对话： （基于初步分析结果，选择其中一部分或某个方 向进行深入的数据挖掘） 提示词 测试结果受到数据样本、测试环境、AI抽卡、提示词模板等因素 影响，仅供参考，无法作为决策制定、质量评估或产品验证的最终依据。 数据挖掘 Claude 3.5 sonnet 基于数据集，在整体数据概括后提供多个 深入数据挖掘方向，根据需求输入研究倾 向，高效生成多个维度的数据分析，语言 简洁，挖掘深度较浅。 Kimi k1.5 提供数据的潜在用途方向，深入分 析过程中，从多个维度（如时间、 语言、地区）深入挖掘数据意义和 关联性，进一步总结趋势结论并提