使用Python训练和部署低精度模型 （TensorFlow版） 张校捷 2019/9/21 目录 CONTENTS 低精度的概念和意义 TensorFlow的FP16模型 TensorRT的FP16/Int8模型 总结 1 低精度的概念和意义 实数的16-bit半精度浮点数和8-bit定点数表示 使用低精度的意义 深度学习模型中实数的表示 FP32: E8M23 FP16: ResNet-50-v1.5 3.3X speedup SSD-RN50-FPN-640 2.5X speedup FP16浮点数（E5M10）的表示范围 FP16模型的训练方法 Int8模型的推断过程 2 TensorFlow的FP16模型 实数的16-bit半精度浮点数和8-bit定点数表示 使用低精度的意义 TensorCores适用条件 1. 卷积：K（输入通道），C（输出通道） 2 2=1 TF_ENABLE_CUDNN_TENSOR_OP_MATH_FP32=1 TF_ENABLE_CUDNN_RNN_TENSOR_OP_MATH_FP32=1 TensorFlow手动转换模型 import tensorflow as tf import numpy as numpy input = tf.placeholder(dtype=tf.float32, shape=[None

Python的NLP实战分享 如何实现合同风险预测模型？ GVA TECH Co., Ltd 藤井美娜 自我介绍 2% |# | self-introduction • Machine Learning Engineer / Data Scientist • GVA TECH的人工智能法律服务AI-CON的多语言系统 开发负责人 inazo18 藤井美娜 目录 CONTENTS CONTENTS 1. Python NLP 入门 2. 多语言NLP攻略 3.“合同风险预测模型”实战经验分享 4. 总结 5% |### | today’s topic 1 Python NLP 入门 简单介绍自然语言处理的流程和使用corpus的EDA方法。 8% |##### | section1 NLP基础 11% |######### | section1 收集语料 前处理 section1 收集语料 前处理 分词 向量化 机器学习模型 各种OUTPUT 语义解析 NLP基础 22% |################## | section1 收集语料 前处理 分词 向量化 机器学习模型 各种OUTPUT 语义解析 有时候会把语义分析的结果做成 feature，放进机器学习模型里。 EDA NLP基础 25% |###################

Python的NLP实战分享 如何实现合同风险预测模型？ GVA TECH Co., Ltd 藤井美娜 自我介绍 2% |# | self-introduction • Machine Learning Engineer / Data Scientist • GVA TECH的人工智能法律服务AI-CON的多语言系统 开发负责人 inazo18 藤井美娜 目录 CONTENTS CONTENTS 1. Python NLP 入门 2. 多语言NLP攻略 3.“合同风险预测模型”实战经验分享 4. 总结 5% |### | today’s topic 1 Python NLP 入门 简单介绍自然语言处理的流程和使用corpus的EDA方法。 8% |##### | section1 NLP基础 11% |####### | section1 收集语料 前处理 分词 收集语料 前处理 分词 向量化 （Vectorization） 机器学习模型 各种OUTPUT 语义解析 NLP基础 19% |################ | section1 收集语料 前处理 分词 向量化 机器学习模型 语义解析 有时候会把语义分析的结果feature， 放进机器学习模型里。 各种OUTPUT EDA NLP基础 23% |###################

（机器的潜台词：“我”会推理，so easy ！）。 所以，通俗的来说，在AI system中：要么从原有的知识体系中直接提取信息来使用，要 么进行推理。 将知识融合在机器中，使机器能够利用我们人类知识、专家知识解决问题，这就是早期 知识工程（Knowledge Engineering）的核心内涵。 Preliminaries Explaining AI system from the perspective York: MIT Press. 本页PPT借鉴于复旦大学肖仰华老师《大数据时代的知识工程与知识管理》 Preliminaries Major difficulties: 自上而下：严重依赖专家和用户的干预（规模有限、质量存疑） Conventional KE – Features and Challenges 1、知识获取困难 e.g., 领域知识难以表达（形式化），因为它往往是一种隐性知识、过程知识。 （User Generated Content） • 提供获得广大用户一致认可的高质量数据源 e.g., Wikipedia，百度百科 • 为自动挖掘知识提供了高质量的数据源 • 为构建抽取模型提供了高质量的样本 Ref： Fei Wu, etc. Autonomously Semantifying Wikipedia Ref：Danqi Chen, etc. Reading Wikipedia

Lambda, Pipe运算 语言决定思维模型 GNU-APL C++ Haskell 说 到 质 数 � 人 们 想 到 什 么 � 语言决定思维模型 在 实 际 业 务 中 处 理 数 据 � Haskell 虽然模式匹配似乎还不甚流行，但它仅是编 程语言走向未来必然经过的一个极其不起眼 的、实现简单的基础设施。 语言决定思维模型 在 实 际 业 务 中 处 理 数 据 � � Python 语言决定思维模型 语言中的语法和语义， 决定了 它真实的表达力。 大多数语言都不是“万金油” 的，这是客观事实。 但它们不够“万金油”的问题 来源，不一定是不能解决的。 扩展语言，开阔思维 我预期的语法(及语义) 扩展系统: 1. 首行用moshmosh? 标志模块 2. +extension名 (extension参数)开 启扩展 3. -extension名 先把Python字节码翻译到一个精简版本， 便于分析 指令集这么大时准备追x86汇编了？ 指令集减小到15以内 混合IR tmp = Call(x, (1, 2)) Python字节码 LOAD_FAST f LOAD_CONST (1, 2) CALL_FUNCTION 1 混合是指Stack Machine和 Register-based Machine语义共存 为何不最直接翻 译成寄存器语义？

如果对上述草稿有话想说，请参与讨论。 5. 可以开始翻译咯。 6. PR。 README - 5 - 本文档使用 书栈(BookStack.CN) 构建 初识 Django 初识 Django 设计模型 创建模型 享用便捷的 API 动态生成的管理页面：并非徒有其表 规划 URL 编写视图 设计模板 这只是冰山一角 Django 最初被设计用于具有快速开发需求的新闻类站点，目的是要实现简单快捷的网站开发。以下 实例教程（zh）开始入手，或者直接开始阅读详细的参考文档。 Django 无需数据库就可以使用，它提供了对象关系映射器（ORM）。通过此技术，你可以使用 Python 代码来描述数据库结构。 数据模型语法提供了很多方法来描述你的数据，这解决了多年来在数据库模式中的难题。以下是一个 简明的例子： 1. # mysite/news/models.py 2. 3. from django.db pub_date = models.DateField() 13. headline = models.CharField(max_length=200) 初识 Django 设计模型 初识 Django - 6 - 本文档使用 书栈(BookStack.CN) 构建 14. content = models.TextField() 15. reporter

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1177 20.6 xml.dom --- 文档对象模型 API . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1185 20.6.1 模块内容 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1218 20.13.4 内容模型描述 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1219 20.13.5 Expat . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1416 25.1.4 线程模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1419 25.1

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1098 20.6 xml.dom --- 文档对象模型 API . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1105 20.6.1 模块内容 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1137 20.13.4 内容模型描述 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1137 20.13.5 Expat Tkinter 拾遗 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1324 25.1.4 线程模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1326 25.1.5 快速参考

ElementTree --- ElementTree XML API . . . . . . . . . . . . . . . . . . . . . . . 1058 21.6 xml.dom --- 文档对象模型 API . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1074 21.7 xml.dom.minidom 能在不同版本之间改变。例如，当实参是一个 类时，metaclass 的属性不包含在结果列表中。 divmod(a, b) 它将两个（非复数）数字作为实参，并在执行整数除法时返回一对商和余数。对于混合操作数类型，适 用双目算术运算符的规则。对于整数，结果和 (a // b, a % b) 一致。对于浮点数，结果是 (q, a % b) ，q 通常是 math.floor(a / b) 但可能会比 和二进制数）会生成整数。包含小数点或幂运算符的数字字面值会生成浮点数。在数字字面值末尾加上 'j' 或 'J' 会生成虚数（实部为零的复数），你可以将其与整数或浮点数相加来得到具有实部和虚部的复数。 Python 完全支持混合运算：当一个二元算术运算符的操作数有不同数值类型时，” 较窄” 类型的操作数会拓 宽到另一个操作数的类型，其中整数比浮点数窄，浮点数比复数窄。不同类型的数字之间的比较，同比较这 些数字的精确值一样。

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1145 20.6 xml.dom --- 文档对象模型 API . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1153 20.6.1 模块内容 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1185 20.13.4 内容模型描述 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1186 20.13.5 Expat 能在不同版本之间改变。例如，当实参是一个 类时，metaclass 的属性不包含在结果列表中。 divmod(a, b) 它将两个（非复数）数字作为实参，并在执行整数除法时返回一对商和余数。对于混合操作数类型，适 用双目算术运算符的规则。对于整数，结果和 (a // b, a % b) 一致。对于浮点数，结果是 (q, a % b) ，q 通常是 math.floor(a / b) 但可能会比