 Kubernetes Operator 实践 - MySQL容器化Kubernetes Operator 实践 —— MySQL 容器化 刘林 搜狗资深工程师 关于我 搜狗商业平台研发部 资深开发工程师 l 主要从事商业平台研发工作,在构建高性能、高可用大规模 系统方面有丰富的实践经验 l 目前专注于云计算、DevOps 等相关领域,负责搜狗商业云 平台的设计研发工作 刘林 1. 背景介绍 2. Operator 的基本原理 3. MySQL MySQL Operator 设计实践 4. 小结 搜狗商业平台 技术体系广 服务多迭代快 搜狗产品矩阵 商业平台 信息流广告 搜索广告 品牌广告 代理商 广告主 技术体系 CRM 广告平台 物料展现 审核平台 大数据平台 基础架构 Golang C++ JavaScript Java Python 质量要求高 业务响应快 故障恢复快 Cluster1 AppEngine(Resin/Tomcat…) 统一服 务管理 Kubernetes 模板管理 自动化测试 部署中心 服务发现 灰度发布 监控中心 日志系统 PaaS SaaS 编 译 发 布 授 权 监 控 IaaS Registry SOA服务框架 DevOps 测 试 账户 搜狗商业平台基础平台 物料 计费 管理界面 项目 管理 CI&&CD 统一配0 码力 | 42 页 | 4.77 MB | 1 年前3 Kubernetes Operator 实践 - MySQL容器化Kubernetes Operator 实践 —— MySQL 容器化 刘林 搜狗资深工程师 关于我 搜狗商业平台研发部 资深开发工程师 l 主要从事商业平台研发工作,在构建高性能、高可用大规模 系统方面有丰富的实践经验 l 目前专注于云计算、DevOps 等相关领域,负责搜狗商业云 平台的设计研发工作 刘林 1. 背景介绍 2. Operator 的基本原理 3. MySQL MySQL Operator 设计实践 4. 小结 搜狗商业平台 技术体系广 服务多迭代快 搜狗产品矩阵 商业平台 信息流广告 搜索广告 品牌广告 代理商 广告主 技术体系 CRM 广告平台 物料展现 审核平台 大数据平台 基础架构 Golang C++ JavaScript Java Python 质量要求高 业务响应快 故障恢复快 Cluster1 AppEngine(Resin/Tomcat…) 统一服 务管理 Kubernetes 模板管理 自动化测试 部署中心 服务发现 灰度发布 监控中心 日志系统 PaaS SaaS 编 译 发 布 授 权 监 控 IaaS Registry SOA服务框架 DevOps 测 试 账户 搜狗商业平台基础平台 物料 计费 管理界面 项目 管理 CI&&CD 统一配0 码力 | 42 页 | 4.77 MB | 1 年前3
 基于 KUBERNETES 的 容器器 + AI 平台基于 KUBERNETES 的 容器器 + AI 平台 如何助⼒力力企业数字化和智能化转型 xiaoqin@caicloud.io VP of R&D 提纲 构建集群与管理理资源 - 73s 视频演示 多集群和镜像仓库 多租户和旧系统的集成 运⾏行行和构建应⽤用 Rudder - 应⽤用编排技术框架 Cyclone - 持续集成与交付引擎 运⾏行行 AI 应⽤用(机器器学习) kubeflow/tf-operator • 定义 TFJob Spec (CRD) • 跟踪 TensorFlow 任务运⾏行行状态 • ⽀支持分布式 TensorFlow 任务 KUBEFLOW 之上 • 借⼒力力容器器平台提供⽣生产级的集群资源管理理 • ⼯工作区隔离与共享 • 数据、模型、环境、应⽤用等 • 全⾯面⽀支持 AI ⼯工作流 • 探索开发 • 线上运⾏行行 关注并回复 kubecon180 码力 | 19 页 | 3.55 MB | 1 年前3 基于 KUBERNETES 的 容器器 + AI 平台基于 KUBERNETES 的 容器器 + AI 平台 如何助⼒力力企业数字化和智能化转型 xiaoqin@caicloud.io VP of R&D 提纲 构建集群与管理理资源 - 73s 视频演示 多集群和镜像仓库 多租户和旧系统的集成 运⾏行行和构建应⽤用 Rudder - 应⽤用编排技术框架 Cyclone - 持续集成与交付引擎 运⾏行行 AI 应⽤用(机器器学习) kubeflow/tf-operator • 定义 TFJob Spec (CRD) • 跟踪 TensorFlow 任务运⾏行行状态 • ⽀支持分布式 TensorFlow 任务 KUBEFLOW 之上 • 借⼒力力容器器平台提供⽣生产级的集群资源管理理 • ⼯工作区隔离与共享 • 数据、模型、环境、应⽤用等 • 全⾯面⽀支持 AI ⼯工作流 • 探索开发 • 线上运⾏行行 关注并回复 kubecon180 码力 | 19 页 | 3.55 MB | 1 年前3
 GPU Resource Management On JDOScom 提供的服务 1. 用于实验的 GPU 容器 2.基于 Kubeflow 的机器学习训练服务 3.模型管理和模型 Serving 服务 Experiment Training Serving 均基于容器,不对业务方直接提供 GPU 物理机 GPU 实验 JDOS 常规的容器服务 ,使用 gpu 的 zone , 自行设定相应的镜像即 可,有完善的周边服务 训练服务 • 提供基于 生成镜像服务) – 选择存储来源:对接了内部的存储 – 填写代码地址,执行的命令等 – 可以选择是否监控训练,提供 tensorboard 任务列表 可以指定 git 的 commit-id 发起任务 任务详情 可以查看具体的容器列表,以及查看容器的日志和事件 Serving 服务 提供统一便捷的 Serving 服务,只需用户指定模型,即可提供 grpc 和 rest 服务,同时使用 利用率 创建 Serving 与训练集成 • 用户只需要简单选择机房和 镜像填写模型名即可完成 Serving 服务创建 自有模型 • 用户只需要填写模型地址即 可 GPU 监控 • 容器监控服务,自适 应 GPU 容器,可根据 容器 IP 查询记录 , 便 于用户查看服务状态 ,亦可作为 HPA 的数 据源 • 采集项 name,index,fan.speed,te mperature0 码力 | 11 页 | 13.40 MB | 1 年前3 GPU Resource Management On JDOScom 提供的服务 1. 用于实验的 GPU 容器 2.基于 Kubeflow 的机器学习训练服务 3.模型管理和模型 Serving 服务 Experiment Training Serving 均基于容器,不对业务方直接提供 GPU 物理机 GPU 实验 JDOS 常规的容器服务 ,使用 gpu 的 zone , 自行设定相应的镜像即 可,有完善的周边服务 训练服务 • 提供基于 生成镜像服务) – 选择存储来源:对接了内部的存储 – 填写代码地址,执行的命令等 – 可以选择是否监控训练,提供 tensorboard 任务列表 可以指定 git 的 commit-id 发起任务 任务详情 可以查看具体的容器列表,以及查看容器的日志和事件 Serving 服务 提供统一便捷的 Serving 服务,只需用户指定模型,即可提供 grpc 和 rest 服务,同时使用 利用率 创建 Serving 与训练集成 • 用户只需要简单选择机房和 镜像填写模型名即可完成 Serving 服务创建 自有模型 • 用户只需要填写模型地址即 可 GPU 监控 • 容器监控服务,自适 应 GPU 容器,可根据 容器 IP 查询记录 , 便 于用户查看服务状态 ,亦可作为 HPA 的数 据源 • 采集项 name,index,fan.speed,te mperature0 码力 | 11 页 | 13.40 MB | 1 年前3
 基于go和flutter的实时通信/视频直播解决方案 段维伟02 客户端 03 服务端 04 开源社区 05 Q&A 06 背景 第一部分 即将讲述的内容 • WebRTC 实时通讯 • Flutter 跨平台UI 开发框架 • 基于Flutter UI 框架的WebRTC 插件 flutter-webrtc • Go 语言的WebRTC 协议栈 pion/webrtc • 基于pion/webrtc 的应用级服务框架 pion/ion (ios/android/c++) • 使用第三方堆栈实现兼容功能(Go) https://github.com/pion/webrtc 一对一视频原理 基本通讯流程 5 RTP/RTCP/媒体流 1 Offer 信令服务器 2 Offer 3 Answer 4 Answer SDP(Session Description Protocol) v=0 o=mozilla...THIS_IS_SDPARTA-82 无需为每个平台独立维护代码 • 一次编码,多平台运行,效率最大化 • 多平台一致性体验 • 强大的社区资源 Flutter-WebRTC 插件 Flutter-WebRTC 支持那些平台 实现一对一视频通话服务 (基于 Go 开发) 源码: https://github.com/flutter-webrtc/flutter-webrtc-server https://github.com/flutte0 码力 | 38 页 | 2.22 MB | 1 年前3 基于go和flutter的实时通信/视频直播解决方案 段维伟02 客户端 03 服务端 04 开源社区 05 Q&A 06 背景 第一部分 即将讲述的内容 • WebRTC 实时通讯 • Flutter 跨平台UI 开发框架 • 基于Flutter UI 框架的WebRTC 插件 flutter-webrtc • Go 语言的WebRTC 协议栈 pion/webrtc • 基于pion/webrtc 的应用级服务框架 pion/ion (ios/android/c++) • 使用第三方堆栈实现兼容功能(Go) https://github.com/pion/webrtc 一对一视频原理 基本通讯流程 5 RTP/RTCP/媒体流 1 Offer 信令服务器 2 Offer 3 Answer 4 Answer SDP(Session Description Protocol) v=0 o=mozilla...THIS_IS_SDPARTA-82 无需为每个平台独立维护代码 • 一次编码,多平台运行,效率最大化 • 多平台一致性体验 • 强大的社区资源 Flutter-WebRTC 插件 Flutter-WebRTC 支持那些平台 实现一对一视频通话服务 (基于 Go 开发) 源码: https://github.com/flutter-webrtc/flutter-webrtc-server https://github.com/flutte0 码力 | 38 页 | 2.22 MB | 1 年前3
 Ubuntu 桌面培训 2010. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 457 IX.VII购买商业服务 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 458 . . . . . . . . . . . . . . 81 III.27 为接收邮件选择服务器类型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82 III.28 提供 POP 服务器信息 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85 III.30 提供 SMTP 服务器信息 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86 III.310 码力 | 540 页 | 26.26 MB | 1 年前3 Ubuntu 桌面培训 2010. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 457 IX.VII购买商业服务 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 458 . . . . . . . . . . . . . . 81 III.27 为接收邮件选择服务器类型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 82 III.28 提供 POP 服务器信息 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85 III.30 提供 SMTP 服务器信息 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 86 III.310 码力 | 540 页 | 26.26 MB | 1 年前3
 清华大学 DeepSeek+DeepResearch 让科研像聊天一样简单和文本构思,生成符合中文文学传统的故事情 节和诗句,助力突破创作瓶颈。 • 智能广告创意生成:根据产品特点和目标 受众自动生成创意广告文案和宣传语,提高广 告创作效率。 • 中小企业AI定制化服务:为中小企业提 供定制化的AI解决方案,如智能客服、营销 和办公工具,提升企业竞争力。 • 开源AI教育平台:借助DeepSeek R1 的低成本特性,创建开源AI教育平台,提供 免费课程和实验资源,促进AI教育普及。 的训练成本仅为 557.6 万美元,远低于 其他国际大公司的训练成本。这种低成本策略使得更多企业和开发 者能够负担得起高性能 AI 模型的训练和使用。  调用成本:DeepSeek R1 的 API 服务定价为每百万输入 tokens 1 元(缓存命中)/4 元(缓存未命中),每百万输出 tokens 16 元, 输出 API 价格仅为 OpenAI o1 的 3%。这种低廉的 API 价格进一 场 地 位 , 还 迫 使 行 业 整 体 降 价 ( 如 字 节 豆 包 降价 8 5 % ),重塑了 A I 服 务 的定价逻辑。 推动研发转型 D e e p S e e k 的 全 栈 开 源 策 略 ( 模 型 权 重 、 训 练 代 码 均 采 用 M I T 协 议 ) , 吸 引 了 全 球 开 发 者 参 与 , 形 成 了 强 大 的 社 区 生 态 。 这 种0 码力 | 85 页 | 8.31 MB | 8 月前3 清华大学 DeepSeek+DeepResearch 让科研像聊天一样简单和文本构思,生成符合中文文学传统的故事情 节和诗句,助力突破创作瓶颈。 • 智能广告创意生成:根据产品特点和目标 受众自动生成创意广告文案和宣传语,提高广 告创作效率。 • 中小企业AI定制化服务:为中小企业提 供定制化的AI解决方案,如智能客服、营销 和办公工具,提升企业竞争力。 • 开源AI教育平台:借助DeepSeek R1 的低成本特性,创建开源AI教育平台,提供 免费课程和实验资源,促进AI教育普及。 的训练成本仅为 557.6 万美元,远低于 其他国际大公司的训练成本。这种低成本策略使得更多企业和开发 者能够负担得起高性能 AI 模型的训练和使用。  调用成本:DeepSeek R1 的 API 服务定价为每百万输入 tokens 1 元(缓存命中)/4 元(缓存未命中),每百万输出 tokens 16 元, 输出 API 价格仅为 OpenAI o1 的 3%。这种低廉的 API 价格进一 场 地 位 , 还 迫 使 行 业 整 体 降 价 ( 如 字 节 豆 包 降价 8 5 % ),重塑了 A I 服 务 的定价逻辑。 推动研发转型 D e e p S e e k 的 全 栈 开 源 策 略 ( 模 型 权 重 、 训 练 代 码 均 采 用 M I T 协 议 ) , 吸 引 了 全 球 开 发 者 参 与 , 形 成 了 强 大 的 社 区 生 态 。 这 种0 码力 | 85 页 | 8.31 MB | 8 月前3
 强大的音视频处理工具: FFmpeg辅助功能举例: 播放视频并显示⽔印位置:便于发现⽔印位置是否准确 播放效果: -》⽅便看出要去除的⽔印的位置有偏差 可以后续再调整参数值,让去除⽔印的区域更加准 确 ffserver:搭建流媒体服务器 -》⽤来⽀持其他端去播放⾳视频 ffplay -f lavfi -i ffplay -f lavfi -i "movie=course_59485_video_no "movie=course_59485_video_no input.mp4 -vf subtitles ffmpeg -i input.mp4 -vf subtitles==subtitle.s subtitle.s 获取 52 ⽐如视频是mkv的容器,内挂有srt字幕,则可以: 2. 嵌⼊ass字幕 举例 特殊 另外ffmpeg也⽀持: Picture-based subtitles =基 于图⽚的字幕 命令举例: 参数说明: 维基百科,⾃由的百科全书 ffserver – FFmpeg ffmpeg——ffserver的⼀个简单demo - Eyrane的博客 - CSDN博客 ffmpeg+ffserver搭建流媒体服务器 - 静之深 - 博客园 ffmpeg Documentation Documentation ffmpeg Documentation FFmpeg Utilities Documentation0 码力 | 73 页 | 11.57 MB | 1 年前3 强大的音视频处理工具: FFmpeg辅助功能举例: 播放视频并显示⽔印位置:便于发现⽔印位置是否准确 播放效果: -》⽅便看出要去除的⽔印的位置有偏差 可以后续再调整参数值,让去除⽔印的区域更加准 确 ffserver:搭建流媒体服务器 -》⽤来⽀持其他端去播放⾳视频 ffplay -f lavfi -i ffplay -f lavfi -i "movie=course_59485_video_no "movie=course_59485_video_no input.mp4 -vf subtitles ffmpeg -i input.mp4 -vf subtitles==subtitle.s subtitle.s 获取 52 ⽐如视频是mkv的容器,内挂有srt字幕,则可以: 2. 嵌⼊ass字幕 举例 特殊 另外ffmpeg也⽀持: Picture-based subtitles =基 于图⽚的字幕 命令举例: 参数说明: 维基百科,⾃由的百科全书 ffserver – FFmpeg ffmpeg——ffserver的⼀个简单demo - Eyrane的博客 - CSDN博客 ffmpeg+ffserver搭建流媒体服务器 - 静之深 - 博客园 ffmpeg Documentation Documentation ffmpeg Documentation FFmpeg Utilities Documentation0 码力 | 73 页 | 11.57 MB | 1 年前3
 使用 Docker 建立 MySQL 集群yum install docker-io 第二步 运行 Mariadb 容器 首先要将数据镜像拉下来 docker pull mariadb:latest 注意,如果不加:latest 标签,docker 会把所有的镜像版本都拉下来。 然后我们就可以启动镜像了,参数方面需要注意的有一下几点: 1,-name <给容器取个好记的名称> 2,-e MYSQL_ROOT_PASSWORD =‘<给数据库一个 MYSQL_DATABASE 环境变量可以使容器在 运行时同时创建你所需要的数据库和带有全部权限的用户及其对应密码 6,设定 TERM 环境变量的值可以解决容器不能进入 mysql 控制台的问题。 对于不是自己建立的镜像,建立出来的容器未必能一次达到要求,建议是将 run 命令写成脚本,创建后使用 docker inspect <容器名> 仔细查看容器信息,关注镜像公开的端口和文件目录。如果发现达不到要求,使 不到要求,使 用 docker rm -f <容器名> 删除容器后修改 run 脚本再次运行,直到满意为止。 下面是我的 run 命令: docker run --name mdb1 \ -p 13306:3306 \ -v /home/wonders/docker_mdb1_data:/var/lib/mysql \ -e MYSQL_ROOT_PASSWORD=wondersgroup \ -e0 码力 | 3 页 | 103.32 KB | 1 年前3 使用 Docker 建立 MySQL 集群yum install docker-io 第二步 运行 Mariadb 容器 首先要将数据镜像拉下来 docker pull mariadb:latest 注意,如果不加:latest 标签,docker 会把所有的镜像版本都拉下来。 然后我们就可以启动镜像了,参数方面需要注意的有一下几点: 1,-name <给容器取个好记的名称> 2,-e MYSQL_ROOT_PASSWORD =‘<给数据库一个 MYSQL_DATABASE 环境变量可以使容器在 运行时同时创建你所需要的数据库和带有全部权限的用户及其对应密码 6,设定 TERM 环境变量的值可以解决容器不能进入 mysql 控制台的问题。 对于不是自己建立的镜像,建立出来的容器未必能一次达到要求,建议是将 run 命令写成脚本,创建后使用 docker inspect <容器名> 仔细查看容器信息,关注镜像公开的端口和文件目录。如果发现达不到要求,使 不到要求,使 用 docker rm -f <容器名> 删除容器后修改 run 脚本再次运行,直到满意为止。 下面是我的 run 命令: docker run --name mdb1 \ -p 13306:3306 \ -v /home/wonders/docker_mdb1_data:/var/lib/mysql \ -e MYSQL_ROOT_PASSWORD=wondersgroup \ -e0 码力 | 3 页 | 103.32 KB | 1 年前3
 MySQL高可用 - 多种方案来实现写入数据库为单点的需求。本方案实现的功能是当网络有问题、 mysql 有问题、服务器宕机、keepalived 服务停止后,服务器能自动跳转到备用机, 当主服务器服务启动起来后会自动切换回来。 2.2 方案架构图 2.3 方案优缺点 优点:  安装配置简单,实现方便,高可用效率好,可以根据服务与系统的可用性 多方面进行切换。  可以将写 VIP 和读 VIP 分别进行设置,为读写分离做准备。 扩展不是很方便。  可以在后面添加多个从服务器,并做到负载均衡。 缺点:  在启动或者恢复后会立即替换掉定义的 sorry_server,因此如果要实现指 定条件替换或者不替换需要通过其他方式实现,比如:临时更改 mysql 的端口等。  切换需要 1s 左右的时间。 2.4 方案实战 2.4.1 适用场景 这个方案适用于只有两台数据库服务器并且还没有实现数据库的读写 分离的情况,读和写都配置 分离的情况,读和写都配置 VIP。这个方案能够便于单台数据库的管理 维护以及切换工作。比如进行大表的表结构更改、数据库的升级等都是 非常方便的。 2.4.2 实战环境介绍 服务器名 IP VIP 系统 Mysql Master 10.1.1.113 10.1.1.176 Centos 5.5 64bit 5.1.63 Backup 10.1.1.75 10.1.10 码力 | 31 页 | 874.28 KB | 1 年前3 MySQL高可用 - 多种方案来实现写入数据库为单点的需求。本方案实现的功能是当网络有问题、 mysql 有问题、服务器宕机、keepalived 服务停止后,服务器能自动跳转到备用机, 当主服务器服务启动起来后会自动切换回来。 2.2 方案架构图 2.3 方案优缺点 优点:  安装配置简单,实现方便,高可用效率好,可以根据服务与系统的可用性 多方面进行切换。  可以将写 VIP 和读 VIP 分别进行设置,为读写分离做准备。 扩展不是很方便。  可以在后面添加多个从服务器,并做到负载均衡。 缺点:  在启动或者恢复后会立即替换掉定义的 sorry_server,因此如果要实现指 定条件替换或者不替换需要通过其他方式实现,比如:临时更改 mysql 的端口等。  切换需要 1s 左右的时间。 2.4 方案实战 2.4.1 适用场景 这个方案适用于只有两台数据库服务器并且还没有实现数据库的读写 分离的情况,读和写都配置 分离的情况,读和写都配置 VIP。这个方案能够便于单台数据库的管理 维护以及切换工作。比如进行大表的表结构更改、数据库的升级等都是 非常方便的。 2.4.2 实战环境介绍 服务器名 IP VIP 系统 Mysql Master 10.1.1.113 10.1.1.176 Centos 5.5 64bit 5.1.63 Backup 10.1.1.75 10.1.10 码力 | 31 页 | 874.28 KB | 1 年前3
 RocketMQ v3.2.4 开发指南........................................................................................ 20 7.4 服务器消息过滤 ............................................................................................. ................................................................................ 31 10 RocketMQ 服务収现(Name Server) ................................................................................... ..................................................................................... 46 14.5 利用服务器消息过滤,避免多余的消息传输 ...................................................................................0 码力 | 52 页 | 1.61 MB | 1 年前3 RocketMQ v3.2.4 开发指南........................................................................................ 20 7.4 服务器消息过滤 ............................................................................................. ................................................................................ 31 10 RocketMQ 服务収现(Name Server) ................................................................................... ..................................................................................... 46 14.5 利用服务器消息过滤,避免多余的消息传输 ...................................................................................0 码力 | 52 页 | 1.61 MB | 1 年前3
共 16 条
- 1
- 2













