使用Python训练和部署低精度模型 （TensorFlow版） 张校捷 2019/9/21 目录 CONTENTS 低精度的概念和意义 TensorFlow的FP16模型 TensorRT的FP16/Int8模型 总结 1 低精度的概念和意义 实数的16-bit半精度浮点数和8-bit定点数表示 使用低精度的意义 深度学习模型中实数的表示 FP32: E8M23 FP16:

js 构建部署时 我们要关心的数据 死月 死月 XadillaX（朱凯迪） 蚂蚁金服 Node.js 研发工程师 /《Node.js：来一打 C++ 扩展》作者 • 2013-2015 浙江大学 / 花瓣网 • 2015 大搜车 • 2017 蚂蚁金服 目录 CONTENTS ✦ 源起 ✦ 构建数据 ✦ 部署结果 ✦ 400+ Node.js 应用 来自灵魂的拷问 我是谁？ 我要做什么？ 谁用了我？ 初衷 egg-niubility 构建部署流程 构建任务 统一脚本 触发部署 应用节点 统一脚本 应用本身 启动元信息收集 接收⽅方 触发构建 部署结果 启动数据 构建数据 2 构建数据 我要关心构建时的哪些数据？ 工具 / 版本治理 ‣ Node.js / alinode com/node-modules/shameimaru/pull/4 依赖新旧程度 * 功能可参考 https://david-dm.org/ 近 7 日发布依赖 ‣ 之前好好的，没动代码，今天构建部署怎么挂了？ ‣ 构建产物怎么突然大了这么多？ 使依赖可检索 拍平 app_id / id / name / version / path / ancestor / parent_id / …

算法 1 YOLOv6：又快又准的目标检测框架开源啦 1 目标检测开源框架 YOLOv6 全面升级，更快更准的 2.0 版本来啦 13 通用目标检测开源框架 YOLOv6 在美团的量化部署实战 17 7 次 KDD Cup&Kaggle 冠军的经验分享：从多领域优化到 AutoML 框架 37 图神经网络训练框架的实践和探索 66 图技术在美团外卖下的场景化应用及探索 83 589 美团高性能终端实时日志系统建设实践 608 后端 622 可视化全链路日志追踪 622 设计模式二三事 647 基于代价的慢查询优化建议 670 Java 系列 | 远程热部署在美团的落地实践 692 日志导致线程 Block 的这些坑，你不得不防 713 基于 AI 算法的数据库异常监测系统的设计与实现 775 目录 < v Replication（上）：常见复制模型 FPS；YOLOv6-s 在 COCO 上精度可达 43.1% AP，在 T4 上推理速度可达 520 FPS。在部署方面， YOLOv6 支 持 GPU（TensorRT）、CPU（OPENVINO）、ARM（MNN、TNN、 NCNN）等不同平台的部署，极大地简化工程部署时的适配工作。 目前，项目已开源至 Github，传送门：YOLOv6。欢迎有需要的小伙伴们 Star 收 藏，随时取用。

国际化站点 4 10.4 小结 11.错误处理，调试和测试 11.1 错误处理 11.2 使用GDB调试 11.3 Go怎么写测试用例 11.4 小结 12.部署与维护 12.1 应用日志 12.2 网站错误处理 12.3 应用部署 12.4 备份和恢复 12.5 小结 13.如何设计一个Web框架 13.1 项目规划 13.2 自定义路由器设计 13.3 controller设计 13 、可扩展 性)、有好的单元测试和压力测试以保证上线之后代码能够保持良好的性能和按预期的运行。 links links 目录 上一节: Go怎么写测试用例 下一节: 部署与维护 238 12 部署与维护 12 部署与维护 到目前为止，我们前面已经介绍了如何开发程序、调试程序以及测试程序，正如人们常说的：开发最后的10%需要花 费90%的时间，所以这一章我们将强调这最后的10%部分， seelog介绍 seelog是用Go语言实现的一个日志系统，它提供了一些简单的函数来实现复杂的日志分配、过滤和格式化。主要有如 下特性： XML的动态配置，可以不用重新编译程序而动态的加载配置信息 支持热更新，能够动态改变配置而不需要重启应用 支持多输出流，能够同时把日志输出到多种流中、例如文件流、网络流等 支持不同的日志输出 命令行输出 文件输出 缓存输出 支持log rotate SMTP邮件

预，才会将最适合用户（指标）的结果展示在大家的眼前。 为了保证良好的用户体验，技术团队对模型预估能力的要求变得越来越高，同时模型 与特征的类型、数量及复杂度也在与日俱增。算法团队如何尽量少地开发和部署上 算法 < 3 线，如何快速进行模型特征的迭代？如何确保良好的预估性能？在线预估框架 Augur 应运而生。经过一段时间的实践，Augur 也有效地满足了算法侧的需求，并成为美团 搜索与 NLP 连续型特征的分桶计算逻辑一样，但“桶”却因模型而各不相同；对于离散特 征的低频过滤也是如此。 ● 迭代快：特征的快速迭代，要求特征有快速在线上生效的能力，如果想要改动 一个判断还需要写代码上线部署，无疑会拖慢了迭代的速度。模型如此，特征 也是如此。 针对特征的处理逻辑，我们抽象出两个概念： Operator：通用特征处理逻辑，根据功能的不同又可以分为两类： ● IO OP：用处理原始特征的获取，如从 ，在验证集上 AUC 提升了 234BP。目前，场景切分依赖 Query 意图模块进行硬切分，后续自动 场景切分也值得进行探索。 应用实践 由于 BERT 的深层网络结构和庞大参数量，如果要部署上线，实时性上面临很大挑 战。在美团搜索场景下，我们对基于 MT-BERT Fine-tuning 好的相关性模型（12 层）进行了 50QPS 压测实验，在线服务的 TP99 增加超过 100ms，不符合工程上

2. 核心数据结构 4. 智能合约 5. 权限系统 6. 隐私和保密 7. 性能 8. 总结 快速入门 1. XuperChain环境部署 1.1. 准备环境 1.2. 编译XuperChain 2. XuperChain基本操作 2.1. 部署xchain服务 2.2. 基本功能的使用 技术设计文档: 1. XuperModel 2. XuperBridge 2.1. 内核调用设计 1.1. 访问控制列表（ACL） 1.2. 合约账号创建 1.3. 合约账号基本操作 2. 多节点部署 2.1. p2p网络配置 2.2. 搭建TDPoS共识网络 2.3. 选举TDPOS候选人 2.4. 常见问题 3. 创建合约 3.1. 编写合约 3.2. 部署wasm合约 3.3. 部署native合约 4. 发起提案 5. 配置变更 5.1. 配置多盘存储 5.2. 替换扩展插件 在架构方面，其可插拔、插件化的设计使得用户可以方便选择适合自己业务场 景的解决方案，通过独有的XuperBridge技术，可插拔多语言虚拟机，从而支 持丰富的合约开发语言。 在网络能力方面，XuperChain具备全球化部署能力，节点通信基于加密的P2P 网络，支持广域网超大规模节点，且底层账本支持分叉管理，自动收敛一致 性，TDPOS算法确保了大规模节点下的快速共识。在账号安全方面， XuperChain内置了多私钥