使用Python训练和部署低精度模型 （TensorFlow版） 张校捷 2019/9/21 目录 CONTENTS 低精度的概念和意义 TensorFlow的FP16模型 TensorRT的FP16/Int8模型 总结 1 低精度的概念和意义 实数的16-bit半精度浮点数和8-bit定点数表示 使用低精度的意义 深度学习模型中实数的表示 FP32: E8M23 FP16: ResNet-50-v1.5 3.3X speedup SSD-RN50-FPN-640 2.5X speedup FP16浮点数（E5M10）的表示范围 FP16模型的训练方法 Int8模型的推断过程 2 TensorFlow的FP16模型 实数的16-bit半精度浮点数和8-bit定点数表示 使用低精度的意义 TensorCores适用条件 1. 卷积：K（输入通道），C（输出通道） 2 2=1 TF_ENABLE_CUDNN_TENSOR_OP_MATH_FP32=1 TF_ENABLE_CUDNN_RNN_TENSOR_OP_MATH_FP32=1 TensorFlow手动转换模型 import tensorflow as tf import numpy as numpy input = tf.placeholder(dtype=tf.float32, shape=[None

Python的NLP实战分享 如何实现合同风险预测模型？ GVA TECH Co., Ltd 藤井美娜 自我介绍 2% |# | self-introduction • Machine Learning Engineer / Data Scientist • GVA TECH的人工智能法律服务AI-CON的多语言系统 开发负责人 inazo18 藤井美娜 目录 CONTENTS CONTENTS 1. Python NLP 入门 2. 多语言NLP攻略 3.“合同风险预测模型”实战经验分享 4. 总结 5% |### | today’s topic 1 Python NLP 入门 简单介绍自然语言处理的流程和使用corpus的EDA方法。 8% |##### | section1 NLP基础 11% |######### | section1 收集语料 前处理 section1 收集语料 前处理 分词 向量化 机器学习模型 各种OUTPUT 语义解析 NLP基础 22% |################## | section1 收集语料 前处理 分词 向量化 机器学习模型 各种OUTPUT 语义解析 有时候会把语义分析的结果做成 feature，放进机器学习模型里。 EDA NLP基础 25% |###################

Python的NLP实战分享 如何实现合同风险预测模型？ GVA TECH Co., Ltd 藤井美娜 自我介绍 2% |# | self-introduction • Machine Learning Engineer / Data Scientist • GVA TECH的人工智能法律服务AI-CON的多语言系统 开发负责人 inazo18 藤井美娜 目录 CONTENTS CONTENTS 1. Python NLP 入门 2. 多语言NLP攻略 3.“合同风险预测模型”实战经验分享 4. 总结 5% |### | today’s topic 1 Python NLP 入门 简单介绍自然语言处理的流程和使用corpus的EDA方法。 8% |##### | section1 NLP基础 11% |####### | section1 收集语料 前处理 分词 收集语料 前处理 分词 向量化 （Vectorization） 机器学习模型 各种OUTPUT 语义解析 NLP基础 19% |################ | section1 收集语料 前处理 分词 向量化 机器学习模型 语义解析 有时候会把语义分析的结果feature， 放进机器学习模型里。 各种OUTPUT EDA NLP基础 23% |###################

（ORM，即对象关系映射）。借助 SQLAlchemy，你可以通过定义 Python 类来表 示数据库里的一张表（类属性表示表中的字段 / 列），通过对这个类进行各种操作 来代替写 SQL 语句。这个类我们称之为模型类，类中的属性我们将称之为字段。 Flask 有大量的第三方扩展，这些扩展可以简化和第三方库的集成工作。我们下面 将使用一个叫做 Flask-SQLAlchemy 的官方扩展来集成 SQLAlchemy。 章：数据库 35 为了设置 Flask、扩展或是我们程序本身的一些行为，我们需要设置和定义一些配 置变量。Flask 提供了一个统一的接口来写入和获取这些配置变 量： Flask.config 字典。配置变量的名称必须使用大写，写入配置的语句一般 会放到扩展类实例化语句之前。 下面写入了一个 SQLALCHEMY_DATABASE_URI 变量来告诉 SQLAlchemy 数据库连 config['SQLALCHEMY_DATABASE_URI'] = 'sqlite:////' + os.path. join(app.root_path, 'data.db') 注意 这个配置变量的最后一个单词是 URI，而不是 URL。 对于这个变量值，不同的 DBMS 有不同的格式，对于 SQLite 来说，这个值的格式 如下： sqlite:////数据库文件的绝对地址 数据库文件一般放到项目根目录即可，

如果对上述草稿有话想说，请参与讨论。 5. 可以开始翻译咯。 6. PR。 README - 5 - 本文档使用 书栈(BookStack.CN) 构建 初识 Django 初识 Django 设计模型 创建模型 享用便捷的 API 动态生成的管理页面：并非徒有其表 规划 URL 编写视图 设计模板 这只是冰山一角 Django 最初被设计用于具有快速开发需求的新闻类站点，目的是要实现简单快捷的网站开发。以下 实例教程（zh）开始入手，或者直接开始阅读详细的参考文档。 Django 无需数据库就可以使用，它提供了对象关系映射器（ORM）。通过此技术，你可以使用 Python 代码来描述数据库结构。 数据模型语法提供了很多方法来描述你的数据，这解决了多年来在数据库模式中的难题。以下是一个 简明的例子： 1. # mysite/news/models.py 2. 3. from django.db pub_date = models.DateField() 13. headline = models.CharField(max_length=200) 初识 Django 设计模型 初识 Django - 6 - 本文档使用 书栈(BookStack.CN) 构建 14. content = models.TextField() 15. reporter

.................................................................................. 468 Day 6 - 编写配置文件 ............................................................................................. 473 Python自带的很多库也使用了 MixIn。举个例子，Python 自带了 TCPServer 和 UDPServer 这两类网络服务，而要同时服务多个用户就必须使用多进 程或多线程模型，这两种模型由 ForkingMixIn 和 ThreadingMixIn 提供。 通过组合，我们就可以创造出合适的服务来。 比如，编写一个多进程模式的 TCP 服务，定义如下： class M 编写一个多线程模式的 UDP 服务，定义如下： class MyUDPServer(UDPServer, ThreadingMixIn): pass 如果你打算搞一个更先进的协程模型，可以编写一个 CoroutineMixIn： Python3 基础教程【完整版】 http://www.yeayee.com/ 196/531 class MyTCPServer(TCPServer

代码侵入性小，旧脚本代码仅需修改输入输出逻辑便可改造为Web服务 支持整合到现有的Web服务，目前支持与Flask、Django、Tornado、aiohttp 框架集成 同时支持基于线程的执行模型和基于协程的执行模型 支持结合第三方库实现数据可视化 Install 稳定版安装: pip3 install -U pywebio 开发版安装: pip3 install -U --force-reinstall Django相关 aiohttp相关 其他 第三方库生态 数据可视化 示例Demos 基本demo 数据可视化demo 其他 常用的Codemirror选项 Nginx WebSocket配置示例 常见问题 Release notes What’s new in PyWebIO 1.0 What’s new in PyWebIO 0.3 What’s new in PyWebIO 0 调也将不起作用，你可以在任务函数末尾处使用 pywebio.session.hold() 函 数来将会话保持，这样在用户关闭浏览器页面前，事件回调将一直可用。 输出域Scope PyWebIO使用Scope模型来对内容输出的位置进行灵活地控制，PyWebIO的内 容输出区可以划分出不同的输出域，PyWebIO将输出域称作 Scope 。 输出域为输出内容的容器，各个输出域之间上下排列，输出域也可以进行嵌

代码侵入性小，旧脚本代码仅需修改输入输出逻辑便可改造为 Web 服务 • 支持整合到现有的 Web 服务，目前支持与 Flask、Django、Tornado、aiohttp 框架集成 • 同时支持基于线程的执行模型和基于协程的执行模型 • 支持结合第三方库实现数据可视化 3 PyWebIO, 发布 1.1.0 4 Chapter 1. 特性 CHAPTER2 Install 稳定版安装: pip3 install 以在任务函数末尾处使用pywebio.session.hold() 函数来将会话保持，这样在用户关闭浏览器页面前， 事件回调将一直可用。 输出域 Scope PyWebIO 使用 Scope 模型来对内容输出的位置进行灵活地控制，PyWebIO 的内容输出区可以划分出不同的输 出域，PyWebIO 将输出域称作 Scope 。 输出域为输出内容的容器，各个输出域之间上下排列，输出域也可以进行嵌套。 在 输 出 内 容 时 默 认 会 使 用 淡 入 的 动 画 效 果 来 显 示 内 容， 可 使 用set_env(output_animation=False) 来关闭动画。 有关不同环境配置的效果可查看 set_env Demo 布局 一般情况下，使用上文介绍的各种输出函数足以完成各种内容的展示，但直接调用输出函数产生的输出之间 都是竖直排列的，如果想实现更复杂的布局（比如在页面

代码侵入性小，旧脚本代码仅需修改输入输出逻辑便可改造为 Web 服务 • 支持整合到现有的 Web 服务，目前支持与 Flask、Django、Tornado、aiohttp 框架集成 • 同时支持基于线程的执行模型和基于协程的执行模型 • 支持结合第三方库实现数据可视化 3 PyWebIO, 发布 1.0.3 4 Chapter 1. 特性 CHAPTER2 Install 稳定版安装: pip3 install 以在任务函数末尾处使用pywebio.session.hold() 函数来将会话保持，这样在用户关闭浏览器页面前， 事件回调将一直可用。 输出域 Scope PyWebIO 使用 Scope 模型来对内容输出的位置进行灵活地控制，PyWebIO 的内容输出区可以划分出不同的输 出域，PyWebIO 将输出域称作 Scope 。 输出域为输出内容的容器，各个输出域之间上下排列，输出域也可以进行嵌套。 在 输 出 内 容 时 默 认 会 使 用 淡 入 的 动 画 效 果 来 显 示 内 容， 可 使 用set_env(output_animation=False) 来关闭动画。 有关不同环境配置的效果可查看 set_env Demo 布局 一般情况下，使用上文介绍的各种输出函数足以完成各种内容的展示，但直接调用输出函数产生的输出之间 都是竖直排列的，如果想实现更复杂的布局（比如在页面

服务 • 支持整合到现有的 Web 服务，目前支持与 Flask、Django、Tornado、aiohttp、FastAPI(Starlette) 框架集成 • 同时支持基于线程的执行模型和基于协程的执行模型 • 支持结合第三方库实现数据可视化 3 PyWebIO, 发布 1.3.1 4 Chapter 1. 特性 CHAPTER2 Installation 稳定版: pip3 以在任务函数末尾处使用pywebio.session.hold() 函数来将会话保持，这样在用户关闭浏览器页面前， 事件回调将一直可用。 输出域 Scope PyWebIO 使用 Scope 模型来对内容输出的位置进行灵活地控制，PyWebIO 的内容输出区可以划分出不同的输 出域，PyWebIO 将输出域称作 Scope 。 输出域为输出内容的容器，各个输出域之间上下排列，输出域也可以进行嵌套。 在 输 出 内 容 时 默 认 会 使 用 淡 入 的 动 画 效 果 来 显 示 内 容， 可 使 用set_env(output_animation=False) 来关闭动画。 有关不同环境配置的效果可查看 set_env Demo 4.1. User’s guide 19 PyWebIO, 发布 1.3.1 布局 通常，使用上述输出函数足以完成大部分输出，但是这些输出之间全都是竖直排列的。如果想创建更复杂的