分布式任务系统cronsunTechnology 分布式任务系统 cronsun 苏创绩 @Copyright Sunteng Technology 目录 01 任务系统 02 分布式任务系统 03 cronsun 04 心得体会 @Copyright Sunteng Technology Part One 01 任务系统 @Copyright Sunteng Technology 任务 1. 什么时间 什么时间 2. 什么地点 3. 做什么事 @Copyright Sunteng Technology 一个简单的任务 0 8 * * * echo "Hello Gophers!" @Copyright Sunteng Technology cron crond crontab cmd1 cmd2 cmd3 ... @Copyright @Copyright Sunteng Technology 早期的 cron V7,1979 1. 在Version 7 Unix里是一个系统服务 2. 只用 root 运行任务 3. 算法简单直接 @Copyright Sunteng Technology 早期的 cron 运行逻辑 1. 读 /usr/lib/crontab 文件 2. 如果有命令要在当前时间执行,就用0 码力 | 48 页 | 1.52 MB | 1 年前3
4_杨柳_基于Python构建高稳定可扩展的自动化测试集群0 码力 | 62 页 | 25.29 MB | 1 年前3
Apifox - API调试、API Mock、API自动化测试一体化协作平台成立于 2021 年,是一家专注于企业 API 研发管理工具及解决方案 的创新企业。围绕 API 全生命周期协同与管理需求, 提供 API 文档、API 调试、API Mock、API 自动化 测试等核心产品能力,致力于为全球研发团队提高 API 开发与协作效率,节省研发团队的每一分钟,助 力企业研发效能升级。 关于 Apifox 获得知名创投机构信任与支持 超百万开发者的选择 ⽣成代码 JSON Path Cookie 全局共享 单接⼝多⽤例 可视化断⾔ ⾃动化测试 可视化编排 逻辑判断 多线程压测 测试数据集 CI/CD 集成 兼容 JMeter 可视化报告 定时任务 API 分发 实时更新 实时调试 Markdown 公开⽂档站点 ⾃定义域名 ⾃定义样式 密码保护 Fox 脚本引擎 团队协同 历史修改记录 多⼈实时编辑 API 设计 可视化编辑 则,你想要的都能得到。 API 自动化测试:强大的编排能力,测试更便捷 批量导入接口,保持实时同步 自动生产“自动化测试用例”,无需手动添加,API 变更 实时自动同步。 可视化编排,零代码 瀑布流形式查看测试流程,拖动即可调整测试步骤。 设置逻辑判断条件,实现流程控制 添加「判断、循环、等待、分组」等条件,配置更复杂的 测试情景。 API 自动化测试:满足更复杂的业务场景测试 多线程压测0 码力 | 27 页 | 14.01 MB | 1 年前3
Apifox API文档、API调试、API Mock、API自动化测试一体化协作平台DevOps # '()# *+#,- 缺乏合适的 技术和工具 最大障碍 !" API # $%& '( API ) * 常用解决方案 API 开发调试 Postman API 自动化测试 API 压力测试 JMeter API 文档设计 Swagger API 数据Mock Mock.js 测试人员 API 设计者 前端开发 后端开发 存在问题 多系统 数据不互通 mock 规则。 自定义 Mock 规则 1. 支持 Mock.js 语法 2. 扩展身份证、国内手机号等 常用规则 高级 Mock Mock 自定义脚本 自动化测试 自动化测试 测试数据 自动化测试 自动化测试 其他特性 生成业务代码 1. 根据接口/模型定义,自动生成各种语 言/框架的业务、模型代码。 2. 支持 TypeScript、Java、Go、Swift、0 码力 | 44 页 | 12.45 MB | 1 年前3
2022年美团技术年货 合辑ECCV 2022 | 美团视觉 8 篇论文揭秘内容领域的智能科技 413 前端 427 知识图谱可视化技术在美团的实践与探索 427 终端新玩法:技术栈无关的剧本式引导 459 自动化测试在美团外卖的实践与落地 483 深入理解函数式编程(上) 512 深入理解函数式编程(下) 541 Android 对 so 体积优化的探索与实践 568 从 0 到 1:美团端侧 4%,在实际工程中基本不可用。而 YOLOv6s_repopt 网络的量化模型精度为 40.9%,精度损失仅为 1.5%,相比原版 模型有了极大的改善。 表 1 使用 RepOpt 在标准分类和检测任务上的 INT8 精度提升 2.1.3 RepOpt 版本的 QAT 此外,使用 RepOpt 结构解决了原本的 RepVGG 网络无法直接使用现有量化感知训 练的问题。对于结构重参数化的 RepVGG Cup/Kaggle 比赛冠军的方案与理解,问题涉及推 荐、广告、交通、环境、人工智能公平性等多个领域问题。接着会介绍在以上比赛中 发挥关键作用的 AutoML 技术框架,包括自动化特征工程,自动化模型优化,自动化 算法 < 39 模型融合等,以及如何通过该技术框架系统性建模不同的问题。最后再介绍以上比赛 形成的通用方法,即面对一个新问题,如何进行分析、理解、建模、与挑战解决、从 而实现问题的深度优化。0 码力 | 1356 页 | 45.90 MB | 1 年前3
Django、Vue 和Element UI 前后端原理论述心依赖问题。 简化依赖管理:虚拟环境可以将项目所需的依赖以及其版本信息保存在一个文件中 (例如 Pipfile.lock),这样可以方便地重现项目的开发环境,使得依赖的安装和管理更加 简单和自动化。 2、Pipenv 介绍 Pipenv 是 Python 的一个包管理工具和虚拟环境管理工具,它是为了解决 Python 项目 中依赖管理和虚拟环境创建的问题而开发的。Pipenv 结合了 pip(Python ---npm :用于管理和安装前端项目的依赖、构建工具和其他相关资源。 ·开发环境 PyCharm 2023.1.3 (Professional Edition) 拓展学习 [1] 【Python 自动化测试学习交流群】学习交流 咨询:微信 atstudy-js 备注:学习群 [2] ISTQB 认证基础级培训(含考试) http://testing51.mikecrm.com/BPY6sJs 代码基础的你做自动化! https://mp.weixin.qq.com/s/0EOcvaDG1xP7nDvit-8v2g [4] 云端全链路测试技术全栈学习 咨询:微信 atstudy-js 备注:全栈 15 《51 测试天地》七十四 www.51testing.com 前言 一般在做自动化的时候大家都会使用到很多数据,一般像接口数据大部分都是存放 在数据库中,web 自动化的数据可以通过0 码力 | 61 页 | 6.84 MB | 1 年前3
Django 官方教程翻译项目[==========] 100/100 欢迎一切有时间有能力的小伙伴一起来翻译。 流程: 1. 到任务大厅认领任务。 中文版文档 翻译进度 我也想一起翻译 README - 4 - 本文档使用 书栈(BookStack.CN) 构建 2. 任务申请被接受后,Fork 本项目。 3. 仔细阅读 正在讨论中的画风设定集(我改改改改的累死了啊啊啊啊)。 4. 如果对上述草稿有话想说,请参与讨论。 的功能性概述。Django 还有更多实用的特性: 缓存框架可以与 memcached 或其他后端集成。 聚合器框架可以通过简单编写一个 Python 类来推送 RSS 和 Atom。 更多令人心动的自动化管理功能:概述里面仅仅浅尝辄止。 接下来您可以下载 Django(zh),阅读 实例教程(zh),然后加入 Django 社区!感谢您的关 注! 这只是冰山一角 初识 Django - 12 项目, 第四部分 - 52 - 本文档使用 书栈(BookStack.CN) 构建 创建你的第一个 Django 项目, 第五部分 创建你的第一个 Django 项目, 第五部分 自动化测试简介 自动化测试是什么? 为什么你需要写测试 测试将节约你的时间 测试不仅能发现错误,而且能预防错误 测试使你的代码更有吸引力 测试有利于团队协作 基本测试策略 第一个测试 首先得有个0 码力 | 103 页 | 1.86 MB | 1 年前3
2020美团技术年货 算法篇MT-BERT 在文本检索任务中的实践 192 美团无人车引擎在仿真中的实践 204 美团无人配送 CVPR2020 论文 CenterMask 解读 215 WSDM Cup 2020 检索排序评测任务第一名经验总结 225 美团内部讲座|清华大学莫一林:信息物理系统中的安全控制算法 235 KDD Cup 2020 多模态召回比赛季军方案与搜索业务应用 252 对话任务中的“语言 - BERT 模型预估,并将预估输出值作 为特征,用于最终的模型打分。这就需要 Augur 提供 Model as a Feature 的能力。 得益于 Augur 抽象的流程框架,我们很快超额完成了任务。Model as a feature, 虽然要对一个 Model 做预估操作,但从更上层的模型角度看,它就是一个特征。既 然是特征,模型预估也就是一个计算 OP 而已。 所以我们只需要在内部实现一个特 相关性却不一致。 2018 年底,以 Google BERT[1] 为代表的预训练语言模型刷新了多项 NLP 任务的 最好水平,开创了 NLP 研究的新范式:即先基于大量无监督语料进行语言模型预 训练(Pre-training),再使用少量标注语料进行微调(Fine-tuning)来完成下游的 NLP 任务(文本分类、序列标注、句间关系判断和机器阅读理解等)。美团 AI 平台搜 索与 NLP 部算法团队基于美团海量业务语料训练了0 码力 | 317 页 | 16.57 MB | 1 年前3
Nacos架构&原理
信息计算其所属的 Distro 责任节点, 并将该请求转发到所属的 Distro 责任节点上。 责任节点上的 Controller 将写请求进行解析。 Distro 协议定期执行 Sync 任务,将本机所负责的所有的实例信息同步到其他节点上。 读操作 由于每台机器上都存放了全量数据,因此在每⼀次读操作中,Distro 机器会直接从本地拉取数据。 快速响应。 41 > Nacos 架构 每个节点的地址,长链接数量,与平均数量的差值,正负值。 47 > Nacos 架构 ○ 对高于平均值的节点进行数量调控,设置数量上限(临时和持久化),并可指定服务节点进行切 换。 (未来终态版本)自动化管控方案:基于每个 server 间连接数及负载自动计算节点合理连接数,自 动触发 reblance,自动削峰填谷。实现周期较长,比较依赖算法准确性。 3. 连接⽣命周期 心跳保活机制 Nacos 配置⼀致性模型 sdk-server ⼀致性 53 > Nacos 架构 server 间⼀致性 Server 间同步消息接收处理轻量级实现,重试失败时,监控告警。 断网:断网太久,重试任务队列爆满时,无剔除策略。 2. 服务⼀致性模型 Nacos 架构 < 54 sdk-server 间⼀致性 server 间⼀致性 55 > Nacos 架构 六、核心模型组件设计 0 码力 | 326 页 | 12.83 MB | 9 月前3
PaddleDTX 1.0.0 中文文档操作Distributed AI 案例应用-线性回归算法测试 案例简介 测试脚本说明 上传样本文件 训练任务 预测任务 模型评估 案例应用-逻辑回归算法测试 案例简介 测试脚本说明 上传样本文件 训练任务 预测任务 模型评估 系统详解 部署架构 计算需求方(Requester) 任务执行节点(Executor Node) 数据持有节点(DataOwner Node) 存储节点(Storage 链网络构建而成。 1.1 多方安全计算网络 有预测需求的一方为计算需求节点。可获取样本数据进行模型训练和预测的一 方为任务执行节点,多个任务执行节点组成一个SMPC(多方安全计算)网 络。计算需求节点将任务发布到区块链网络,任务执行节点确认后执行任务。 数据持有节点对任务执行节点的计算数据做信任背书。 SMPC是一个支持多个学习过程并行运行的框架,会陆续集成更多纵向联邦学 习、横向联邦学习算法。 训练样本和预测数据集往往是归属于不同机构的隐私数据。这些机构可以作为 数据持有节点加入到去中心化存储网络中,通过多方安全计算网络发挥数据的 最大价值。 1.3 区块链网络 训练任务和预测任务通过区块链网络广播到任务执行节点,后者继而执行训练 任务和预测任务。数据持有节点和存储节点在副本保持证明、健康状态监控过 程中,通过区块链网络实现信息交换。 目前,PaddleDTX底层采用的区块链框架是XuperChain。0 码力 | 53 页 | 1.36 MB | 1 年前3
共 406 条
- 1
- 2
- 3
- 4
- 5
- 6
- 41













