使用Python训练和部署低精度模型 （TensorFlow版） 张校捷 2019/9/21 目录 CONTENTS 低精度的概念和意义 TensorFlow的FP16模型 TensorRT的FP16/Int8模型 总结 1 低精度的概念和意义 实数的16-bit半精度浮点数和8-bit定点数表示 使用低精度的意义 深度学习模型中实数的表示 FP32: E8M23 FP16: ResNet-50-v1.5 3.3X speedup SSD-RN50-FPN-640 2.5X speedup FP16浮点数（E5M10）的表示范围 FP16模型的训练方法 Int8模型的推断过程 2 TensorFlow的FP16模型 实数的16-bit半精度浮点数和8-bit定点数表示 使用低精度的意义 TensorCores适用条件 1. 卷积：K（输入通道），C（输出通道） 2 2=1 TF_ENABLE_CUDNN_TENSOR_OP_MATH_FP32=1 TF_ENABLE_CUDNN_RNN_TENSOR_OP_MATH_FP32=1 TensorFlow手动转换模型 import tensorflow as tf import numpy as numpy input = tf.placeholder(dtype=tf.float32, shape=[None

Python的NLP实战分享 如何实现合同风险预测模型？ GVA TECH Co., Ltd 藤井美娜 自我介绍 2% |# | self-introduction • Machine Learning Engineer / Data Scientist • GVA TECH的人工智能法律服务AI-CON的多语言系统 开发负责人 inazo18 藤井美娜 目录 CONTENTS CONTENTS 1. Python NLP 入门 2. 多语言NLP攻略 3.“合同风险预测模型”实战经验分享 4. 总结 5% |### | today’s topic 1 Python NLP 入门 简单介绍自然语言处理的流程和使用corpus的EDA方法。 8% |##### | section1 NLP基础 11% |######### | section1 收集语料 前处理 section1 收集语料 前处理 分词 向量化 机器学习模型 各种OUTPUT 语义解析 NLP基础 22% |################## | section1 收集语料 前处理 分词 向量化 机器学习模型 各种OUTPUT 语义解析 有时候会把语义分析的结果做成 feature，放进机器学习模型里。 EDA NLP基础 25% |###################

Python的NLP实战分享 如何实现合同风险预测模型？ GVA TECH Co., Ltd 藤井美娜 自我介绍 2% |# | self-introduction • Machine Learning Engineer / Data Scientist • GVA TECH的人工智能法律服务AI-CON的多语言系统 开发负责人 inazo18 藤井美娜 目录 CONTENTS CONTENTS 1. Python NLP 入门 2. 多语言NLP攻略 3.“合同风险预测模型”实战经验分享 4. 总结 5% |### | today’s topic 1 Python NLP 入门 简单介绍自然语言处理的流程和使用corpus的EDA方法。 8% |##### | section1 NLP基础 11% |####### | section1 收集语料 前处理 分词 收集语料 前处理 分词 向量化 （Vectorization） 机器学习模型 各种OUTPUT 语义解析 NLP基础 19% |################ | section1 收集语料 前处理 分词 向量化 机器学习模型 语义解析 有时候会把语义分析的结果feature， 放进机器学习模型里。 各种OUTPUT EDA NLP基础 23% |###################

如果对上述草稿有话想说，请参与讨论。 5. 可以开始翻译咯。 6. PR。 README - 5 - 本文档使用 书栈(BookStack.CN) 构建 初识 Django 初识 Django 设计模型 创建模型 享用便捷的 API 动态生成的管理页面：并非徒有其表 规划 URL 编写视图 设计模板 这只是冰山一角 Django 最初被设计用于具有快速开发需求的新闻类站点，目的是要实现简单快捷的网站开发。以下 实例教程（zh）开始入手，或者直接开始阅读详细的参考文档。 Django 无需数据库就可以使用，它提供了对象关系映射器（ORM）。通过此技术，你可以使用 Python 代码来描述数据库结构。 数据模型语法提供了很多方法来描述你的数据，这解决了多年来在数据库模式中的难题。以下是一个 简明的例子： 1. # mysite/news/models.py 2. 3. from django.db pub_date = models.DateField() 13. headline = models.CharField(max_length=200) 初识 Django 设计模型 初识 Django - 6 - 本文档使用 书栈(BookStack.CN) 构建 14. content = models.TextField() 15. reporter

根地址。 我们只需要写出相对地址，主机地址、端口号等都不需要写出。所以说，这里的 / 对应的是主机名后面的路径部分，完整 URL 就是 http://localhost:5000/。如果 我们这里定义的 URL 规则是 /hello ，那么完整 URL 就是 http://localhost:5000/hello 。 整个请求的处理过程如下所示： 1. 当用户在浏览器地址栏访问这个地址，在这里即 还是 http://localhost:5000/index 都可以看到返回值。 在前面，我们之所以把传入 app.route 装饰器的参数称为 URL 规则，是因为我 们也可以在 URL 里定义变量部分。比如下面这个视图函数会处理所有类似 /user/ 的请求： @app.route('/user/') def user_page(): return user_page(name): return 'User: %s' % name 修改视图函数名？ 最后一个可以修改的部分就是视图函数的名称了。首先，视图函数的名字是自由定 义的，和 URL 规则无关。和定义其他函数或变量一样，只需要让它表达出所要处 理页面的含义即可。 除此之外，它还有一个重要的作用：作为代表某个路由的端点（endpoint），同时 用来生成 URL。对于程序内的 URL，为了避免手写，Flask

............................................................................................. 76 定义函数 ................................................................................................ 计算机顾名思义就是可以做数学计算的机器，因此，计算机程序理所当 然地可以处理各种数值。但是，计算机能处理的远不止数值，还可以处 理文本、图形、音频、视频、网页等各种各样的数据，不同的数据，需 要定义不同的数据类型。在 Python 中，能够直接处理的数据类型有以 下几种： 整数 Python 可以处理任意大小的整数，当然包括负整数，在程序中的表示方 法和数学上的写法一模一样，例如：1，100，-8080，0，等等。 Python 里一个特殊的值，用 None 表示。None 不能理解为 0，因 为 0 是有意义的，而 None 是一个特殊的空值。 此外，Python 还提供了列表、字典等多种数据类型，还允许创建自定义 数据类型，我们后面会继续讲到。 变量 变量的概念基本上和初中代数的方程变量是一致的，只是在计算机程序 中，变量不仅可以是数字，还可以是任意数据类型。 变量在程序中就是用一个变量名表示了，变量名必须是大小写英文、数

语言的发展水平标志着思维的发展水平。 — Marx 语言决定思维模型 GNU-APL C++ Haskell 说 到 质 数 ， 人 们 想 到 什 么 ？ 语言决定思维模型 在 实 际 业 务 中 处 理 数 据 。 Haskell 虽然模式匹配似乎还不甚流行，但它仅是编 程语言走向未来必然经过的一个极其不起眼 的、实现简单的基础设施。 语言决定思维模型 在 实 际 业 务 中 处 理 数 据 。 。 Python 语言决定思维模型 Python? 语言决定思维模型 Think about it: Is someone whose first programming language was APL going to think about programming ever after in the same way as someone whose first programming Alan Perlis(ALGOL 60) 一位老大爷的名言 一篇生动的博客 语言决定思维模型 细说，不是胡说；语言，不止工具。 你所常用的语言决定了你思考的流向，和解决问题的方式， 不管是对细节的实现还是对整体框架的设计。 上述提到的一些的简单案例，意在表达，不同语言的使用者， 使用不同的心智模型去解决问题。 而对于这个现象的发生，我归因于语言本身。编程语言会对你的思维 方式进行诱导，试图将你同化。

代码侵入性小，旧脚本代码仅需修改输入输出逻辑便可改造为 Web 服务 • 支持整合到现有的 Web 服务，目前支持与 Flask、Django、Tornado、aiohttp 框架集成 • 同时支持基于线程的执行模型和基于协程的执行模型 • 支持结合第三方库实现数据可视化 3 PyWebIO, 发布 1.1.0 4 Chapter 1. 特性 CHAPTER2 Install 稳定版安装: pip3 install PyWebIO 的绝大部分特性。本文档中大部分 示例代码的右上方都有一个 Demo 链接，点击后可以在线预览代码的运行效果。 9 PyWebIO, 发布 1.1.0 4.1.1 输入 输入函数都定义在pywebio.input 模块中，可以使用 from pywebio.input import * 引入。 调用输入函数会在浏览器上弹出一个输入表单来获取输入。PyWebIO 的输入函数是阻塞式的（和 input_group 中调用输入函数 时，需 务必提供 name 参数 12 Chapter 4. Documentation PyWebIO, 发布 1.1.0 4.1.2 输出 输出函数都定义在pywebio.output 模块中，可以使用 from pywebio.output import * 引入。 调用输出函数后，内容会实时输出到浏览器，在应用的生命周期内，可以在任意时刻调用输出函数。

代码侵入性小，旧脚本代码仅需修改输入输出逻辑便可改造为Web服务 支持整合到现有的Web服务，目前支持与Flask、Django、Tornado、aiohttp 框架集成 同时支持基于线程的执行模型和基于协程的执行模型 支持结合第三方库实现数据可视化 Install 稳定版安装: pip3 install -U pywebio 开发版安装: pip3 install -U https://code 本篇使用指南从几个方面对PyWebIO的使用进行介绍，覆盖了PyWebIO的绝大 部分特性。本文档中大部分示例代码的右上方都有一个Demo链接，点击后可 以在线预览代码的运行效果。 输入 输入函数都定义在 pywebio.input 模块中，可以使用 from pywebio.input import * 引入。 调用输入函数会在浏览器上弹出一个输入表单来获取输入。PyWebIO的输入函 数是阻塞式的（和Python内置的 input_group 中还是被单独调用。 所以当单独调用一个输入函数时, 不要 设 置 name 参数；而在 input_group 中调用输入函数时，需 务必提供 name 参数 输出 输出函数都定义在 pywebio.output 模块中，可以使用 from pywebio.output import * 引入。 调用输出函数后，内容会实时输出到浏览器，在应用的生命周期内，可以在任 意时刻调用输出函数。