服务端 第四部分 如何实现多人视频服务 • 一个SFU 服务器 （pion/ion-sfu) • 一个信令协议与客户端通讯, 完成SDP的交互 （Websockets/json-rpc/grpc） • 一个WebRTC 客户端 （浏览器/原生客户端/flutter 客户端） SFU工作原理 SFU 服务器 https://pion.ly/ The Open Source, Cross DuBois ION 离子之光 分布式实时通讯系统 https://github.com/pion/ion • 基于pion/webrtc 开发 pion/ion-sfu • 分布式架构 • 基于grpc over NATS mq • 使用redis 存储媒体流全局位置 • 支持业务自定义开发 • 高性能，单个ion-sfu节点 1k 并发仅需 0.5核 ION 架构 多node 架构 主要模块

git 的 commit-id 发起任务 任务详情 可以查看具体的容器列表，以及查看容器的日志和事件 Serving 服务 提供统一便捷的 Serving 服务，只需用户指定模型，即可提供 grpc 和 rest 服务，同时使用 GPU 复用 +HPA 提高 GPU 利用率 创建 Serving 与训练集成 • 用户只需要简单选择机房和 镜像填写模型名即可完成 Serving 服务创建