周遥 xuanyin.zy@alibaba-inc.com 阿里巴巴核心应用落地 Service Mesh 的挑战与机遇 关注“阿里巴巴云原生”公众号 回复 1124 获取 PPT自我介绍 •2010 四川大学毕业 •2010-2016 社区、我的淘宝、中间件软负载 •2016-2019 自主创业、挖财中间件负责人 •2019-今 阿里服务网格团队 专注软负载、服务治理、分布式；Nacos 专注软负载、服务治理、分布式；Nacos 奠 基人、《Service Mesh 实战作者》；爱好骑 行、钢琴•现状及行业态度 •带来的变化和发展机遇 •核心应用落地所克服的挑战 主题#1 现状及行业态度•时隔两月 Istio 发布了 1.4，迭代迅速 •国内 Service Mesh 相关书籍出版三本以上 •各大厂积极部署推进，蚂蚁金服影响力最大 •阿里巴巴实现对核心应用于双十一上验证 •云计算平台推出商业产品，但仍未普适 Service Mesh 打通技术鸿沟三位一体，构建经济共同体 技术社区 内部支撑 商业赋能 技术输入 反哺增强 标准化生产 场景验证#2 阿里巴巴在落地 Service Mesh 中遇到的挑战#1 在 SDK 无法升级的情形下如何实现应用的 mesh 化 •没有人力修改 RPC-SDK，应用不想升级 1. Istio 通过 iptables NAT 表所使 用到的 nf_contrack

AI 的三岔路口：专业模型和个人模型 40 | 2024 年 AI 编程技术与工具发展综述 45 | RAG 的 2024：随需而变，从狂热到理性 51 | 大模型训练中的开源数据和算法：机遇及挑战 57 | 2024 年 AI 编程工具的进化 62 | AI 开发者中间件工具生态 2024 年总结 66 | AI Agent 逐渐成为 AI 应用的核心架构 68 | 谈开源大模型的技术主权问题 最受喜爱开源组织指2024年获得 Star 数最多的开源组织（成员5人及以上） 收获 Star 数方面，更加注重创 新和技术探索「民间」开源组织 更加「接地气」，受到了更多开 发者的喜爱。 虽然面临资源的挑战，但它们的 灵活性和社区驱动力使得它们获 得了更多开发者的支持。 9 / 111 本年度最活跃的开源组织 不同开源组织在 Issue 解决 和 PR 处理数量上的差异，反映了它 们在开发活跃度、社区参与度和 模型通过与 高通 GenAI 扩展的联合优化，在搭载骁龙 8 Gen 4 处理器的手机上实现了每秒 65 个 tokens 的推理速度，接近人类语音的平均输出速率。尽管存在电池续航和内存占用过大等挑战， 端上模型代表了 AI 技术隐私保护和成本优化的未来方向。中国在这一领域的探索，为行业提供 了宝贵经验。 推理扩展法则的潜力释放 通过推理扩展法则，模型性能可通过延长“思考时间”而进一步优化。这一技术模拟了人类

常见陷阱与应对：新手必知的提示语设计误区 挖掘反向思维：从非传统角度切入 创新设计策略： ▪ 设定逆向任务：提示语可以引导AI从相反的角度处理问题，提供不同于传统生成的内容。 ▪ 挑战预设思维模式：通过打破任务的常规设定，促使AI生成具有挑战性和创新性的内容。 灵活运用任务开放性：给AI自由发挥的空间 创新设计策略： ▪ 设定基本框架，留出探索余地：提示语应提供一个结构化的框架，包含具体的生成目标，但不应过度限制表 请从一个全新的角度重新思考[问题/主题]，并提出与众不同的见解。 2. 请将其他领域中与此不相关的概念结合起来，探索其在[主题]上的应用。 3. 请设定一个全新的情境，讨论在此情境下[问题/主题]会有怎样的发展。 4. 请挑战现有的常规观点，从反面角度思考[问题/主题]，并提出新的可能性。 5. 请结合不同学科的理论，提出一个创新的解决方案。 6. 请从结果出发，倒推可能的原因和过程，探索新的解决途径。 提示语链的作用机制（二） 与图像和数据可视化 结合起来。 6. 请选用合适的数据可视化工具，并详细描述其使用方法，生成可视化内容。 7. 请将具体案例与数据分析相结合，生成一份包含案例分析的多模态报告。 类别 优势 挑战 结构化思维 引导AI按照预设逻辑进行创作 设计合理的逻辑结构需要经验和技巧 内容深度 通过多步引导，实现更深入的内容 探讨 控制每个步骤的输出深度，避免冗余 创意激发 多角度提示激发AI的创造性思维

常见陷阱与应对：新手必知的提示语设计误区 挖掘反向思维：从非传统角度切入 创新设计策略： ▪ 设定逆向任务：提示语可以引导AI从相反的角度处理问题，提供不同于传统生成的内容。 ▪ 挑战预设思维模式：通过打破任务的常规设定，促使AI生成具有挑战性和创新性的内容。 灵活运用任务开放性：给AI自由发挥的空间 创新设计策略： ▪ 设定基本框架，留出探索余地：提示语应提供一个结构化的框架，包含具体的生成目标，但不应过度限制表 请从一个全新的角度重新思考[问题/主题]，并提出与众不同的见解。 2. 请将其他领域中与此不相关的概念结合起来，探索其在[主题]上的应用。 3. 请设定一个全新的情境，讨论在此情境下[问题/主题]会有怎样的发展。 4. 请挑战现有的常规观点，从反面角度思考[问题/主题]，并提出新的可能性。 5. 请结合不同学科的理论，提出一个创新的解决方案。 6. 请从结果出发，倒推可能的原因和过程，探索新的解决途径。 提示语链的作用机制（二） 与图像和数据可视化 结合起来。 6. 请选用合适的数据可视化工具，并详细描述其使用方法，生成可视化内容。 7. 请将具体案例与数据分析相结合，生成一份包含案例分析的多模态报告。 类别 优势 挑战 结构化思维 引导AI按照预设逻辑进行创作 设计合理的逻辑结构需要经验和技巧 内容深度 通过多步引导，实现更深入的内容 探讨 控制每个步骤的输出深度，避免冗余 创意激发 多角度提示激发AI的创造性思维

ShardingSphere 和 Apache SkyWalking 核心贡献者, Istio 贡献者。 1/28/01 /02 /03 SkyWalking 简介 遇到的挑战 应用方案 ServiceMesh 场景 下 SkyWalking 面 临的挑战 针对 Mesh 场景方案的演化 SkyWalking 历史和特 点 2/28SkyWalking 简介 /01 SkyWaling 的历史和特点 3/28Micro 9/28遇到的挑战 /02 Service Mesh 场景下 SkyWalking 面临的挑战 ( Istio ) 10/28可观测性 11/28Istio 1.5 架构图 12/28挑战1：技术路线多变 基于 Log 成熟、但性能低 Mixer 基于 Metric 高效、但技术门槛高 Mixerless 13/28挑战2：无 Tracing VS 14/28挑战3：维度匹配-Mixer 14/28挑战3：维度匹配-Mixer Instance Service Endpoint 15/28挑战3：维度匹配-Telemetry2 Instance Service Endpoint 16/28应用方案 /03 针对 Mesh 场景下的方案演化 17/28技术路线全覆盖-Mixer 18/28技术路线全覆盖-Mixer 19/28技术路线全覆盖-Mixer 20/28技术路线全覆盖-Envoy

Prompts（指令） 跨学科融合：将“舆论分析”概念与其他领域的最新具有突破性的理论深度结合，提出极其具有创新的交叉领域的十个问题。 探索“舆论分析”概念的基础理论、哲学基础或科学原理等深层次原理，提出挑战这些基础的前所未有的突破性十个问题。 舆论分析这个概念在最前沿科技或理论中的潜在应用，列出十个充满想象力和震撼性，前所未有的应用。 如果要量化研究审美智能概念，请提出一个合理的，有效的，各指标不 文本较为学术，内容涵盖引言、 各层面的分析，总结与展望、 参考文献 文本贴近学术综述，内容涵盖 了引言、研究现状、参考文献 文本倾向于事实现状，内容包 括历史背景、当前趋势、应用 领域、挑战与局限、未来方向 等，结构清晰，适合用于行业 分析和趋势预测 参考文献管理 参考文献数量相对更多，涵盖 国内外学术文献，参考文献标 注格式规范，引用的文献来自 真实数据源，确保内容的准确 照不同研究领域和主题进行 分类，逻辑性强 报告整体呈现出总分总的逻 辑架构，语言描述清晰，避 免冗长，使用简短的句子表 达复杂的信息 报告整体架构严谨，以引言、 技术原理、应用现状、技术 挑战、未来展望等部分进行 层层递进。语言中多使用中 性描述，客观呈现研究进展 与问题 语言逻辑严谨，条理清晰，各部分 之间逻辑关系明确。在历史背景和 当前趋势部分，按照时间顺序和技 术创新进行分类，逻辑性强

发布平台 提升资源使用率 1 多云冗余高可用 2 环境并行互不影响 3 P-2 线下多环境一期方案 ‣ 一键拉起master镜像新环境 ‣ 如何确保环境间资源互不影响 ‣ 一期方案存在的问题与挑战 ‣ 如何实现线下多环境 • 一键拉起环境 注意点 • 数据建设依赖于规划 • 数据如何切分 原理 • 所有镜像自动生成 • 一键master镜像部署 1. 注册中心 2. Mysql 全搭建 • 数据全部物理隔离 发布平台 • 按需分支发布 • 多环境完全并行 • 一期方案的问题与挑战 1 2 3 多环境资源“假”隔离 Namespace隔离，共享资源 数据依赖成本高 所有存储都是独立搭建的 集群规模大，运维工作量大 环境数目越多，资源成本，维护成本越高 挑战 P-3 多环境优化实战 ‣ 为什么要多环境访问严格隔离 ‣ 如何借助多云保证有状态服务高可用 Gateway 负载均衡 Ribbon 负载均衡 Ribbon Axxx Hxxx Eureka Eureka 注册 注册 Redis ES Mysql • 多云多K8S多环境的挑战 挑战 多云发布一致性 1 跨云数据同步保证 2 多环境一套模板适配性 3 多K8S的监控 4 • 基于Istio的智能路由 Istio层 IstioIngressGateway v5897

Internet网络代理有什么？ Maglev Ipvs Katran GFE BFE TGW Nginx Apache httpd SOFAMosn Envoy Linkerd网络的挑战网络的挑战 高效接入 访问加速 容量 稳定性 高可用 灵活弹性 安全合规 防攻击蚂蚁金服网络接入十年变迁 2010年前部署商用设备 前世 01 2010 开始网络代理白盒 化，定制业务逻辑，软 链路稳定性 链路一致性 RPC错误率 Push实时性 海外RTT 数据效率 快 速 稳 定 高 效 移动客户痛点 性能指标 线下支付 大促 国际支付咻一咻与敬业福咻一咻的挑战 亿级用户快速进入 亿级用户同时点击 剩余红包实时显示无线移动网络优化 § 统一通道：主长连接 + 短连接 § 统一协议：MTLS+MMTP § 统一调度：MobileDC 最优调度 filter 接口，实现了 Stream filter 扩展机制， 包括支持： • 流量镜像，RBAC鉴权SOFAMosn能力扩展 心跳检查在Service Mesh场景下网络代理有着不同于接入层的挑战 • 无论应用是否接入Mesh，接入了多少Mesh，都需要保证可正常处理请求，做到可 灰度、可回滚的兼容，平滑迁移 • 通用的框架能力（SOFAMosn/Envoy）无法直接满足复杂的、定制的业务能力，需

深入 Kubernetes 的“无人区” —— 蚂蚁金服双十一的调度系统 曹寅2/19 一、蚂蚁金服的Kubernetes现状 二、双十一Kubernetes实践 三、展望未来迎接挑战 目 录 contents 目录3/19 一、蚂蚁金服的Kubernetes现状 Part 1：4/19 发展历程与落地规模 Part 1：蚂蚁金服的Kubernetes现状 平台研发 灰度验证 Part 2：双十一 Kubernetes 实践16/19 三、展望未来，迎接挑战 Part 2：17/19 平台与多租户 Part 3：展望未来，迎接挑战 Kubernetes设计的多租户 实际Kubernetes集群里的多租户18/19 自动化运维 – 技术风险 Part 3：展望未来，迎接挑战