 2.游戏战中陪伴助手微服务架构设计与应用初始方案——Lua 方案 显而易见的问题 范畴 问题 需求 - 所有策略需求都需要走开发流程 - 迭代周期长:2周开发、测试、上线 运营 - 变更困难,修改策略 = 修改代码 开发 - 代码低内聚,交接难度大 扩展 - 没有考虑扩展 功能 - 难以实现战略推荐 - 早期:先考虑有无 - 引入推荐系统 系统思考——如何评判方案的好坏? 需要定义几个维度来评判一个方案的好坏 - 响应性能: 左:配置文件 - 右:大数据挖掘 - 不足: - 太 bug 了,限制使用 方案探索——聚类统计 模仿大多数玩家的选择 - 实现方法: - 为玩家生成 [0, 1] 特征向量 - 聚类统计,存入 Faiss - 实时 Faiss 匹配召回 - 问题: - 特征过多(600多维),无法分析 - 聚类结果趋同 方案探索——关键帧 / 路径推荐 模仿某一个玩家的选择 - 专利:《一 推荐系统:策略召回和推荐 - 数据分析:离线策略挖掘和模型训练 - 管理平台:开发、运营、运维辅助 实现方案——Token 清洗 Token 清洗服务完整流程 - 挑战:150+类 token,如何高内聚,降低 token 计算逻辑复杂度 - 方案:Token 计算插件化 - 技术选型: - 对比:Lua vs Go 二进制——开发灵活 vs 性能 - 思考:Go 脚本? - 最终方案: -0 码力 | 47 页 | 11.10 MB | 1 年前3 2.游戏战中陪伴助手微服务架构设计与应用初始方案——Lua 方案 显而易见的问题 范畴 问题 需求 - 所有策略需求都需要走开发流程 - 迭代周期长:2周开发、测试、上线 运营 - 变更困难,修改策略 = 修改代码 开发 - 代码低内聚,交接难度大 扩展 - 没有考虑扩展 功能 - 难以实现战略推荐 - 早期:先考虑有无 - 引入推荐系统 系统思考——如何评判方案的好坏? 需要定义几个维度来评判一个方案的好坏 - 响应性能: 左:配置文件 - 右:大数据挖掘 - 不足: - 太 bug 了,限制使用 方案探索——聚类统计 模仿大多数玩家的选择 - 实现方法: - 为玩家生成 [0, 1] 特征向量 - 聚类统计,存入 Faiss - 实时 Faiss 匹配召回 - 问题: - 特征过多(600多维),无法分析 - 聚类结果趋同 方案探索——关键帧 / 路径推荐 模仿某一个玩家的选择 - 专利:《一 推荐系统:策略召回和推荐 - 数据分析:离线策略挖掘和模型训练 - 管理平台:开发、运营、运维辅助 实现方案——Token 清洗 Token 清洗服务完整流程 - 挑战:150+类 token,如何高内聚,降低 token 计算逻辑复杂度 - 方案:Token 计算插件化 - 技术选型: - 对比:Lua vs Go 二进制——开发灵活 vs 性能 - 思考:Go 脚本? - 最终方案: -0 码力 | 47 页 | 11.10 MB | 1 年前3
 2022年美团技术年货 合辑支持随机查询操作。例如,查询给定节点的邻居节点;判断给定的两个节点在图中是 否相连。我们对此提出的解决方案包括两部分: ● 图数据预处理和压缩:首先分析图的统计特征,以轻量级的方式对节点进行聚 类和重新编号,以期让编号接近的节点在领域结构上也更为相似。随后调整边 的顺序,对边数据进行分块和编码,产生“节点 - 分块索引 - 邻接边”层次的 图数据文件(如下图 7 所示)。最后,如果数据包含节点特征或边特征,还需要 近些年来,随着图神经网络(Graph Neural Networks)的快速发展 [1],越来越多的 人开始关注起图数据。工业界也出现了图技术的相继落地,很多应用场景都可以抽象 为节点向量化表示、分类、聚类、链接预测等图任务形式。 ● 对于召回场景来说,基于多种实体间天然存在的关联交互图,构建深度匹配模 型学习到的 Embedding 表达可以直接用来度量用户 - 商品的偏好、商品 - 商 品关联。 能够在用户历史行为中,充分发掘用户的兴趣偏好,但是由于用户行为序列本身是 “有偏采样”的反馈:不同用户所处的地理位置、商家供给情况、使用频次等方面存 在着较大差异;且高低频用户的点击行为分布差异明显,呈现出高频用户行为丰富聚 集、低频用户行为稀疏的特点。 对于高频用户,可能会导致兴趣圈封闭导致模型建模无法跳脱既有的兴趣圈;对于低 频用户,由于信息的缺乏导致其兴趣刻画不完整。因此,我们需要具备拓展用户兴趣 边界的信0 码力 | 1356 页 | 45.90 MB | 1 年前3 2022年美团技术年货 合辑支持随机查询操作。例如,查询给定节点的邻居节点;判断给定的两个节点在图中是 否相连。我们对此提出的解决方案包括两部分: ● 图数据预处理和压缩:首先分析图的统计特征,以轻量级的方式对节点进行聚 类和重新编号,以期让编号接近的节点在领域结构上也更为相似。随后调整边 的顺序,对边数据进行分块和编码,产生“节点 - 分块索引 - 邻接边”层次的 图数据文件(如下图 7 所示)。最后,如果数据包含节点特征或边特征,还需要 近些年来,随着图神经网络(Graph Neural Networks)的快速发展 [1],越来越多的 人开始关注起图数据。工业界也出现了图技术的相继落地,很多应用场景都可以抽象 为节点向量化表示、分类、聚类、链接预测等图任务形式。 ● 对于召回场景来说,基于多种实体间天然存在的关联交互图,构建深度匹配模 型学习到的 Embedding 表达可以直接用来度量用户 - 商品的偏好、商品 - 商 品关联。 能够在用户历史行为中,充分发掘用户的兴趣偏好,但是由于用户行为序列本身是 “有偏采样”的反馈:不同用户所处的地理位置、商家供给情况、使用频次等方面存 在着较大差异;且高低频用户的点击行为分布差异明显,呈现出高频用户行为丰富聚 集、低频用户行为稀疏的特点。 对于高频用户,可能会导致兴趣圈封闭导致模型建模无法跳脱既有的兴趣圈;对于低 频用户,由于信息的缺乏导致其兴趣刻画不完整。因此,我们需要具备拓展用户兴趣 边界的信0 码力 | 1356 页 | 45.90 MB | 1 年前3
 庖丁解牛:华为云微服务工具解放开发者Step2:逐条根据SQL创建语法树 Step3:在每棵语法树上分析表的关联关系并汇集 成表关联关系加权图 Step6:采用图切割算法并配合启发式规则将表分 割到不同库中 原则:低耦合,高内聚 耦合度:微服务划分后,微服务与微服务连接的边的权重之和 内聚度:微服务划分后,微服务内部表与表之间的边权重之和 采用图搜索算法划分微服务的启发式规则(规则可自定义): 规则1:贪婪原则 规则2:完全独立的表可归属任意微服务,也可独立成微服务 埋入源码 生成sql语句集(Mysql 或其他DB的方言) mysql/oracle 的规则文件 生成表关联关系list 计算权重,生成图 输出权重图, 选择、调用 指定算法 贪婪/谱聚类算法 内容格式化 拿规则类解析sql语句 返回计算结果 1 2 3 4 5 6 7 8 9 sqlrule (mysql/oracle/…) 选择规则,透 传sql语句集0 码力 | 14 页 | 1.54 MB | 1 年前3 庖丁解牛:华为云微服务工具解放开发者Step2:逐条根据SQL创建语法树 Step3:在每棵语法树上分析表的关联关系并汇集 成表关联关系加权图 Step6:采用图切割算法并配合启发式规则将表分 割到不同库中 原则:低耦合,高内聚 耦合度:微服务划分后,微服务与微服务连接的边的权重之和 内聚度:微服务划分后,微服务内部表与表之间的边权重之和 采用图搜索算法划分微服务的启发式规则(规则可自定义): 规则1:贪婪原则 规则2:完全独立的表可归属任意微服务,也可独立成微服务 埋入源码 生成sql语句集(Mysql 或其他DB的方言) mysql/oracle 的规则文件 生成表关联关系list 计算权重,生成图 输出权重图, 选择、调用 指定算法 贪婪/谱聚类算法 内容格式化 拿规则类解析sql语句 返回计算结果 1 2 3 4 5 6 7 8 9 sqlrule (mysql/oracle/…) 选择规则,透 传sql语句集0 码力 | 14 页 | 1.54 MB | 1 年前3
 8 4 Deep Learning with Python 费良宏 历史的数据和统计建模被用于概率进行预测 传统的数据分析旨在回答关于过去的事实,机器学习的目 的是回答关于未来事件的可能性的问题! 机器学习的应用场景 个性化 – 提供个性化的电子商务体验 文档聚类 – 按照文档上下文自动分类 欺诈检测 – 发现异常的规律行为,识别和标记欺诈交易 推荐引擎 客户流失预测 ... 机器学习-学习方式 监督学习- 人工干预和验证的要求,算法:Logistic SVM 强化学习- 通过观察来学习做成如何的动作, 算法:Q-Learning以及时间差学习 机器学习- 方法及流程 输入特征选择 – 基于什么进行预测 目标 – 预测什么 预测功能 – 回归、聚类、降维... Xn -> F(xn) -> T(x) 机器学习- 举例 机器学习- 举例 如何让机器分辨出来他/她是谁 ? 图像分析 – 输入特征选择 ->面部特征、发型、裙子、身高、手势… ->面部特征、发型、裙子、身高、手势… 机器学习- 何时使用 你不需要机器学习,如果 - 使用简单的规则和计算,你可以预测答案 你能够预先了解到所需要的步骤不需要任何数据驱动的 学习 你需要机器学习,如果 - 简单的聚类规则是不充分的 面对大量的数据集的可伸缩性的问题 机器学习 - 总结 由已知答案的数据开始 明确目标 – 从数据中希望可以预测什么 选择可以被用来预测目标的模式所需要的变量/特性 使用已知目标答案的数据训练机器学习模型0 码力 | 49 页 | 9.06 MB | 1 年前3 8 4 Deep Learning with Python 费良宏 历史的数据和统计建模被用于概率进行预测 传统的数据分析旨在回答关于过去的事实,机器学习的目 的是回答关于未来事件的可能性的问题! 机器学习的应用场景 个性化 – 提供个性化的电子商务体验 文档聚类 – 按照文档上下文自动分类 欺诈检测 – 发现异常的规律行为,识别和标记欺诈交易 推荐引擎 客户流失预测 ... 机器学习-学习方式 监督学习- 人工干预和验证的要求,算法:Logistic SVM 强化学习- 通过观察来学习做成如何的动作, 算法:Q-Learning以及时间差学习 机器学习- 方法及流程 输入特征选择 – 基于什么进行预测 目标 – 预测什么 预测功能 – 回归、聚类、降维... Xn -> F(xn) -> T(x) 机器学习- 举例 机器学习- 举例 如何让机器分辨出来他/她是谁 ? 图像分析 – 输入特征选择 ->面部特征、发型、裙子、身高、手势… ->面部特征、发型、裙子、身高、手势… 机器学习- 何时使用 你不需要机器学习,如果 - 使用简单的规则和计算,你可以预测答案 你能够预先了解到所需要的步骤不需要任何数据驱动的 学习 你需要机器学习,如果 - 简单的聚类规则是不充分的 面对大量的数据集的可伸缩性的问题 机器学习 - 总结 由已知答案的数据开始 明确目标 – 从数据中希望可以预测什么 选择可以被用来预测目标的模式所需要的变量/特性 使用已知目标答案的数据训练机器学习模型0 码力 | 49 页 | 9.06 MB | 1 年前3
 1_丁来强_开源AIOps数据中台搭建与Python的作用各种第三⽅方数据关联 • 数据⽣生命周期管理理(时序数据的归并、变化数据更更新等) 机器器学习对分析增强的⽅方向 增强点 描述 统计性分析 基于IT实体与数据,在单维、多维变量量上的关联、聚类、分类和推断。 ⾃自动模式发现与预测 基于历史数据⾃自动探索出数学与结构化模式,并⽤用于各种可能维度的预测。 异常检测 基于模式识别正常⾏行行为与异常⾏行行为。 根因判断 修剪⽹网络并提供有效问题的关系链接。 机器器学习:Airflow(编排)+ 如下机器器学习框架 • ⾃自动化:Ansible、Puppet等 • AI增强 - 降噪去重与模式识别 • 对海海量量⽇日志进⾏行行模式聚类(例例如从65万条⽇日志,聚类出50条⽇日志模式) 阿⾥里里云⽇日志服务 Sumologic Splunk 消除告警疲劳 • 传统阈值⽅方式的告警并不不能解决问题: • 阈值难以合理理,或会⾮非常复杂0 码力 | 48 页 | 17.54 MB | 1 年前3 1_丁来强_开源AIOps数据中台搭建与Python的作用各种第三⽅方数据关联 • 数据⽣生命周期管理理(时序数据的归并、变化数据更更新等) 机器器学习对分析增强的⽅方向 增强点 描述 统计性分析 基于IT实体与数据,在单维、多维变量量上的关联、聚类、分类和推断。 ⾃自动模式发现与预测 基于历史数据⾃自动探索出数学与结构化模式,并⽤用于各种可能维度的预测。 异常检测 基于模式识别正常⾏行行为与异常⾏行行为。 根因判断 修剪⽹网络并提供有效问题的关系链接。 机器器学习:Airflow(编排)+ 如下机器器学习框架 • ⾃自动化:Ansible、Puppet等 • AI增强 - 降噪去重与模式识别 • 对海海量量⽇日志进⾏行行模式聚类(例例如从65万条⽇日志,聚类出50条⽇日志模式) 阿⾥里里云⽇日志服务 Sumologic Splunk 消除告警疲劳 • 传统阈值⽅方式的告警并不不能解决问题: • 阈值难以合理理,或会⾮非常复杂0 码力 | 48 页 | 17.54 MB | 1 年前3
 领域驱动设计&中台/可视化的遗留系统微服务改造好的设计 低耦合 如果做到了了服务之间的松耦 合,那么修改⼀一个服务就不不 需要修改另⼀一个服务。⼀一个 松耦合的服务应该尽可能少 地知道与之协作的那些服务 的信息。 ⾼高内聚 就是把相关的⾏行行为聚 集在⼀一起,把不不相关 的⾏行行为放在别处。如 果你要修改某个服务 的⾏行行为,最好只在⼀一 处修改。 领域驱动设计 ‣领域驱动设计是⼀一种处理理⾼高度复杂域的设 计思想,试图分离技术实现的复杂性 检验上⾯面的划分结果是否匹配,如不不匹 配则基于划分原则并结合业务重新调整 聚合。 使⽤用聚合的⽬目的是封装业务的不不 变性,同时强迫⼤大家尽可能的简 化领域模型之间的关联关系。在 业务层⾯面进⾏行行⾼高内聚,低耦合的 设计。 为什什么⽤用聚合? 划分限界上下⽂文 聚合示例例 添加 商品 商品 已创建 商品已 编辑 编辑 商品 商品销售 价格已编辑 编辑销 售 商品 已发布0 码力 | 54 页 | 3.85 MB | 1 年前3 领域驱动设计&中台/可视化的遗留系统微服务改造好的设计 低耦合 如果做到了了服务之间的松耦 合,那么修改⼀一个服务就不不 需要修改另⼀一个服务。⼀一个 松耦合的服务应该尽可能少 地知道与之协作的那些服务 的信息。 ⾼高内聚 就是把相关的⾏行行为聚 集在⼀一起,把不不相关 的⾏行行为放在别处。如 果你要修改某个服务 的⾏行行为,最好只在⼀一 处修改。 领域驱动设计 ‣领域驱动设计是⼀一种处理理⾼高度复杂域的设 计思想,试图分离技术实现的复杂性 检验上⾯面的划分结果是否匹配,如不不匹 配则基于划分原则并结合业务重新调整 聚合。 使⽤用聚合的⽬目的是封装业务的不不 变性,同时强迫⼤大家尽可能的简 化领域模型之间的关联关系。在 业务层⾯面进⾏行行⾼高内聚,低耦合的 设计。 为什什么⽤用聚合? 划分限界上下⽂文 聚合示例例 添加 商品 商品 已创建 商品已 编辑 编辑 商品 商品销售 价格已编辑 编辑销 售 商品 已发布0 码力 | 54 页 | 3.85 MB | 1 年前3
 2.2.5 Go 如何助力企业进行微服务转型数据拆分 • 数据不能乱,规则先确定 • 定义数据边界,避免数据冗余 • 数据库互相隔离,避免故障传递 • No join, no pain! ⽤户 商品 订单 物流 接⼝聚类收敛 • 按功能聚类接⼝ • 避免微服务过微 • 避免调⽤链路过深 正确性验证 • 循序渐进可回滚 • fork请求,验证返回 • 灰度逐步迁移 • 监控有⽆漏⽹请求 • 保留回滚可能性0 码力 | 25 页 | 4.51 MB | 1 年前3 2.2.5 Go 如何助力企业进行微服务转型数据拆分 • 数据不能乱,规则先确定 • 定义数据边界,避免数据冗余 • 数据库互相隔离,避免故障传递 • No join, no pain! ⽤户 商品 订单 物流 接⼝聚类收敛 • 按功能聚类接⼝ • 避免微服务过微 • 避免调⽤链路过深 正确性验证 • 循序渐进可回滚 • fork请求,验证返回 • 灰度逐步迁移 • 监控有⽆漏⽹请求 • 保留回滚可能性0 码力 | 25 页 | 4.51 MB | 1 年前3
 PyConChina2022-深圳-Python赋能智慧物流-康昊= g + h h:传统启发函数+额外代价 Python赋能智慧物流 2-系统/模型实现 · 增强系统鲁棒性 - 准确的抛出异常,快速处理 - 引入状态机,在稳定状态中判断 - “高内聚,低耦合” - 判断数据的时效性 Python赋能智慧物流 2-系统/模型实现 · 产品价值 Python赋能智慧物流 2-系统/模型实现 应 用 层 驱 动 层 硬 件 层 雷达驱动0 码力 | 22 页 | 3.81 MB | 1 年前3 PyConChina2022-深圳-Python赋能智慧物流-康昊= g + h h:传统启发函数+额外代价 Python赋能智慧物流 2-系统/模型实现 · 增强系统鲁棒性 - 准确的抛出异常,快速处理 - 引入状态机,在稳定状态中判断 - “高内聚,低耦合” - 判断数据的时效性 Python赋能智慧物流 2-系统/模型实现 · 产品价值 Python赋能智慧物流 2-系统/模型实现 应 用 层 驱 动 层 硬 件 层 雷达驱动0 码力 | 22 页 | 3.81 MB | 1 年前3
 基于 Rust 语言编写的可编程的全球分布式 MQTT 服务器 王文庭⽹聚云联 王⽂庭 基于边缘架构的可编程MQTT服务 CONTENTS 背景说明 O1 O2 O4 HPMQ简介 HPMQ开发说明 HPMQ未来规划 O3 1. 背景说明 物联⽹时代带来的变化 海量 连⽹ 设备 海量数据处理? 设备安全性? 共性:边缘 原来以数据中 ⼼为核⼼的云 端架构是否还 满⾜需求? 01 02 03 边缘架构 ⼀种分布式计 算架构0 码力 | 31 页 | 3.95 MB | 1 年前3 基于 Rust 语言编写的可编程的全球分布式 MQTT 服务器 王文庭⽹聚云联 王⽂庭 基于边缘架构的可编程MQTT服务 CONTENTS 背景说明 O1 O2 O4 HPMQ简介 HPMQ开发说明 HPMQ未来规划 O3 1. 背景说明 物联⽹时代带来的变化 海量 连⽹ 设备 海量数据处理? 设备安全性? 共性:边缘 原来以数据中 ⼼为核⼼的云 端架构是否还 满⾜需求? 01 02 03 边缘架构 ⼀种分布式计 算架构0 码力 | 31 页 | 3.95 MB | 1 年前3
 王宜国 - 基于 Rust 编程语⾔构建 Amphitheatre CLI  Desktop  Server 的全平台实践经验替换(切换版本) 3 演出(运⾏) 搭档 适⽤于 29+ 种 编程语⾔ 您可以在⼀个地⽅测量项⽬中所有 语⾔以及领域中所有项⽬的可靠 性、安全性和可维护性。 从语⾔到语⾔,我们为您提供有凝 聚⼒的体验和⼀致的指标集以及数 百条静态代码分析规则。 ⽆需配置环境,⽀持多种编程语⾔和框架 Kayn Sona Redis ETCD Riven Event Account Project0 码力 | 34 页 | 10.81 MB | 1 年前3 王宜国 - 基于 Rust 编程语⾔构建 Amphitheatre CLI  Desktop  Server 的全平台实践经验替换(切换版本) 3 演出(运⾏) 搭档 适⽤于 29+ 种 编程语⾔ 您可以在⼀个地⽅测量项⽬中所有 语⾔以及领域中所有项⽬的可靠 性、安全性和可维护性。 从语⾔到语⾔,我们为您提供有凝 聚⼒的体验和⼀致的指标集以及数 百条静态代码分析规则。 ⽆需配置环境,⽀持多种编程语⾔和框架 Kayn Sona Redis ETCD Riven Event Account Project0 码力 | 34 页 | 10.81 MB | 1 年前3
共 126 条
- 1
- 2
- 3
- 4
- 5
- 6
- 13














