使用Python训练和部署低精度模型 （TensorFlow版） 张校捷 2019/9/21 目录 CONTENTS 低精度的概念和意义 TensorFlow的FP16模型 TensorRT的FP16/Int8模型 总结 1 低精度的概念和意义 实数的16-bit半精度浮点数和8-bit定点数表示 使用低精度的意义 深度学习模型中实数的表示 FP32: E8M23 FP16: ResNet-50-v1.5 3.3X speedup SSD-RN50-FPN-640 2.5X speedup FP16浮点数（E5M10）的表示范围 FP16模型的训练方法 Int8模型的推断过程 2 TensorFlow的FP16模型 实数的16-bit半精度浮点数和8-bit定点数表示 使用低精度的意义 TensorCores适用条件 1. 卷积：K（输入通道），C（输出通道） 2 2=1 TF_ENABLE_CUDNN_TENSOR_OP_MATH_FP32=1 TF_ENABLE_CUDNN_RNN_TENSOR_OP_MATH_FP32=1 TensorFlow手动转换模型 import tensorflow as tf import numpy as numpy input = tf.placeholder(dtype=tf.float32, shape=[None

Python的NLP实战分享 如何实现合同风险预测模型？ GVA TECH Co., Ltd 藤井美娜 自我介绍 2% |# | self-introduction • Machine Learning Engineer / Data Scientist • GVA TECH的人工智能法律服务AI-CON的多语言系统 开发负责人 inazo18 藤井美娜 目录 CONTENTS CONTENTS 1. Python NLP 入门 2. 多语言NLP攻略 3.“合同风险预测模型”实战经验分享 4. 总结 5% |### | today’s topic 1 Python NLP 入门 简单介绍自然语言处理的流程和使用corpus的EDA方法。 8% |##### | section1 NLP基础 11% |######### | section1 收集语料 前处理 section1 收集语料 前处理 分词 向量化 机器学习模型 各种OUTPUT 语义解析 NLP基础 22% |################## | section1 收集语料 前处理 分词 向量化 机器学习模型 各种OUTPUT 语义解析 有时候会把语义分析的结果做成 feature，放进机器学习模型里。 EDA NLP基础 25% |###################

Python的NLP实战分享 如何实现合同风险预测模型？ GVA TECH Co., Ltd 藤井美娜 自我介绍 2% |# | self-introduction • Machine Learning Engineer / Data Scientist • GVA TECH的人工智能法律服务AI-CON的多语言系统 开发负责人 inazo18 藤井美娜 目录 CONTENTS CONTENTS 1. Python NLP 入门 2. 多语言NLP攻略 3.“合同风险预测模型”实战经验分享 4. 总结 5% |### | today’s topic 1 Python NLP 入门 简单介绍自然语言处理的流程和使用corpus的EDA方法。 8% |##### | section1 NLP基础 11% |####### | section1 收集语料 前处理 分词 收集语料 前处理 分词 向量化 （Vectorization） 机器学习模型 各种OUTPUT 语义解析 NLP基础 19% |################ | section1 收集语料 前处理 分词 向量化 机器学习模型 语义解析 有时候会把语义分析的结果feature， 放进机器学习模型里。 各种OUTPUT EDA NLP基础 23% |###################

如果对上述草稿有话想说，请参与讨论。 5. 可以开始翻译咯。 6. PR。 README - 5 - 本文档使用 书栈(BookStack.CN) 构建 初识 Django 初识 Django 设计模型 创建模型 享用便捷的 API 动态生成的管理页面：并非徒有其表 规划 URL 编写视图 设计模板 这只是冰山一角 Django 最初被设计用于具有快速开发需求的新闻类站点，目的是要实现简单快捷的网站开发。以下 实例教程（zh）开始入手，或者直接开始阅读详细的参考文档。 Django 无需数据库就可以使用，它提供了对象关系映射器（ORM）。通过此技术，你可以使用 Python 代码来描述数据库结构。 数据模型语法提供了很多方法来描述你的数据，这解决了多年来在数据库模式中的难题。以下是一个 简明的例子： 1. # mysite/news/models.py 2. 3. from django.db pub_date = models.DateField() 13. headline = models.CharField(max_length=200) 初识 Django 设计模型 初识 Django - 6 - 本文档使用 书栈(BookStack.CN) 构建 14. content = models.TextField() 15. reporter

（ORM，即对象关系映射）。借助 SQLAlchemy，你可以通过定义 Python 类来表 示数据库里的一张表（类属性表示表中的字段 / 列），通过对这个类进行各种操作 来代替写 SQL 语句。这个类我们称之为模型类，类中的属性我们将称之为字段。 Flask 有大量的第三方扩展，这些扩展可以简化和第三方库的集成工作。我们下面 将使用一个叫做 Flask-SQLAlchemy 的官方扩展来集成 SQLAlchemy。 os.path.join(ap p.root_path, 'data.db') app.config['SQLALCHEMY_TRACK_MODIFICATIONS'] = False # 关闭对模型 修改的监控 # 在扩展类实例化前加载配置 db = SQLAlchemy(app) 如果你固定在某一个操作系统上进行开发，部署时也使用相同的操作系统，那么可 以不用这么做，直接根据你的需要写出前缀即可。 Flask-SQLAlchemy 文档的配置页面可以看到 Flask-SQLAlchemy 提供的配置变 量。 创建数据库模型 在 Watchlist 程序里，目前我们有两类数据要保存：用户信息和电影条目信息。下 面分别创建了两个模型类来表示这两张表： app.py：创建数据库模型 第 5 章：数据库 37 class User(db.Model): # 表名将会是 user（自动生成，小写处理）

智能问答举例-Community QA • 数据结构化 Ø 用问答对的方式进行知识表示 Ø 知识点：由若干个问题（相似问）、以及 能回答这些问题的答案组成 Ø 知识库：由若干个知识点组成 • 模型 Ø 找到和用户query最匹配的问题，进而给 出对应的答案 • 特点 Ø 易于维护 Ø 符合实际业务场景 Ø 为什么用这种形式？ ü 减轻人工维护答案的工作量 ü 同一知识点下的问题语义相同，是很好的 标注数据 Ø 训练数据 Ø 测试数据 Ø 评估数据 • 建模 Ø 输入输出？ Ø 工作流？ • 语言工具 Ø C++ Ø Python Ø Java Ø GO • 模型 Ø 统计模型 Ø 传统机器学习模型 Ø 深度学习模型 Ø 如何选择？是否组合？ • 评估 Ø 评估指标 Ø 工具 • 迭代 Ø 策略？ • 服务化 Ø 服务框架 Ø 性能 Ø 稳定性 各个击破－业务 u 想给小孩报名英文课，不清楚课程内 Ø 用知识库内的相似问，构造句对训练数 据，训练有监督的模型 Ø 基于通用领域的问答对，构造句对训练 数据，训练通用领域内有监督的模型 Ø 模型融合 Ø 判断（query，question）相关性打分， 返回top n作为最终命中知识点，给出对 应知识点的答案回复用户 • 依赖工具 Ø Python及第三方扩展包 各个击破－模型 各个击破－数据 • 开源数据抓取&清洗 • 依赖工具

Python赋能智慧物流 主讲人： 康昊 – 调度系统开发工程师 Python赋能智慧物流 目 录 目 录 >> 行业背景 >> 系统/模型实现 >> Q&A Python赋能智慧物流 1-行业背景 · AGV/AMR：自动导引运输车/自主移动机器 人 仓储搬运 车间物料运输 室外无人配送 Python赋能智慧物流 1-行业背景 · 移动机器人行业持续增长 From Python赋能智慧物流 2-系统/模型实现 ·Why Python？ - 简单省事 - 易于编写、阅读、测试和维 护 - 支持多种编程范式 - 兼容主流平台 - 完备的标准库和框架 - 接口实现 - 框架搭建 - 不断提升的性能 Python赋能智慧物流 2-系统/模型实现 · 部分第三方库 Python赋能智慧物流 2-系统/模型实现 ·系统架构 Python赋能智慧物流 Python赋能智慧物流 2-系统/模型实现 · 类型实例 Python赋能智慧物流 2-系统/模型实现 · 流程示意 Python赋能智慧物流 2-系统/模型实现 · 算法实现 Python赋能智慧物流 2-系统/模型实现 · 路径规划 Less is more ——an ancient Greek proverb A* Bidirectional A* Lifelong

Python自带的很多库也使用了 MixIn。举个例子，Python 自带了 TCPServer 和 UDPServer 这两类网络服务，而要同时服务多个用户就必须使用多进 程或多线程模型，这两种模型由 ForkingMixIn 和 ThreadingMixIn 提供。 通过组合，我们就可以创造出合适的服务来。 比如，编写一个多进程模式的 TCP 服务，定义如下： class M 编写一个多线程模式的 UDP 服务，定义如下： class MyUDPServer(UDPServer, ThreadingMixIn): pass 如果你打算搞一个更先进的协程模型，可以编写一个 CoroutineMixIn： Python3 基础教程【完整版】 http://www.yeayee.com/ 196/531 class MyTCPServer(TCPServer 分钟，你可以先去逛商 场，等做好了，我们再通知你，这样你可以立刻去干别的事情（逛商场）， 这是异步 IO。 很明显，使用异步 IO 来编写程序性能会远远高于同步 IO，但是异步 IO 的缺点是编程模型复杂。想想看，你得知道什么时候通知你“汉堡做好 了”，而通知你的方法也各不相同。如果是服务员跑过来找到你，这是 回调模式，如果服务员发短信通知你，你就得不停地检查手机，这是轮 询模式。总之，异步

语言的发展水平标志着思维的发展水平。 — Marx 语言决定思维模型 GNU-APL C++ Haskell 说 到 质 数 ， 人 们 想 到 什 么 ？ 语言决定思维模型 在 实 际 业 务 中 处 理 数 据 。 Haskell 虽然模式匹配似乎还不甚流行，但它仅是编 程语言走向未来必然经过的一个极其不起眼 的、实现简单的基础设施。 语言决定思维模型 在 实 际 业 务 中 处 理 数 据 。 。 Python 语言决定思维模型 Python? 语言决定思维模型 Think about it: Is someone whose first programming language was APL going to think about programming ever after in the same way as someone whose first programming Alan Perlis(ALGOL 60) 一位老大爷的名言 一篇生动的博客 语言决定思维模型 细说，不是胡说；语言，不止工具。 你所常用的语言决定了你思考的流向，和解决问题的方式， 不管是对细节的实现还是对整体框架的设计。 上述提到的一些的简单案例，意在表达，不同语言的使用者， 使用不同的心智模型去解决问题。 而对于这个现象的发生，我归因于语言本身。编程语言会对你的思维 方式进行诱导，试图将你同化。

基于Python的深度学习框 架设计与实现 主讲人： 刘凡平 介绍大纲 一、背景 二、原理：深度学习框架的一般性结构 三、设计 四、应用案例 五、思考 一、背景 深度学习框架是包含深度学习模型设计、训练和验证的一套标准接口、特性库和工具包，集成深度学习 的算法封装、数据调用以及计算资源的使用，同时面向开发者提供了开发界面和高效的执行平台，是算法工 程师的必备工具之一。 美国互联网对 ����� ���� ����� ���� ��� 面向应用服务提供解 决方案或一般性方法。 提供模型生命周期中 科配置的各类功能组件。 实现框架最基础、最 核心的功能，帮助开发者 屏蔽底层硬件技术细节。 三、设计：最小化的深度学习框架 从模型的设计者角度思考，一个模型设计的最小使用内容。 三、设计：最小MVP深度学习框架的层次逻辑 � � � � Datasets DataLoader 四、应用：简单回归问题的实现（一） 1、定义问题 已知某类工业零件不同长与宽的产品数据集，求长与宽的关系。 2、宽与高的数据关系示意图： 宽 长 四、应用：简单回归问题的实现（二） 模型结构： class SampleModel(nn.Module): def __init__(self): super(SampleModel, self).__init__() self.line_layer