基于Python的深度学习框 架设计与实现 主讲人： 刘凡平 介绍大纲 一、背景 二、原理：深度学习框架的一般性结构 三、设计 四、应用案例 五、思考 一、背景 深度学习框架是包含深度学习模型设计、训练和验证的一套标准接口、特性库和工具包，集成深度学习 的算法封装、数据调用以及计算资源的使用，同时面向开发者提供了开发界面和高效的执行平台，是算法工 程师的必备工具之一。 美国 决方案或一般性方法。 提供模型生命周期中 科配置的各类功能组件。 实现框架最基础、最 核心的功能，帮助开发者 屏蔽底层硬件技术细节。 三、设计：最小化的深度学习框架 从模型的设计者角度思考，一个模型设计的最小使用内容。 三、设计：最小MVP深度学习框架的层次逻辑 � � � � Datasets DataLoader ABCDataset ABCDataLoader � � 训练10个epoch后的效果对比图： 预测后分类区域图 测试数据分布 五、思考 n 为什么要设计一个深度学习框架？ 切勿以造轮子的初衷去设计深度学习框架，一切均需围绕业务进行。脱离业务的技术体系价值不大。 n 是否存在完美的深度学习框架？ 一切以落地场景为根基，满足业务使用即可，不要过度设计，过度设计将会导致框架越来越复杂、 臃肿。 n 实现的深度学习框架与目前主流开源的结果计算结果不一致怎么办？

README - 5 - 本文档使用 书栈(BookStack.CN) 构建 初识 Django 初识 Django 设计模型 创建模型 享用便捷的 API 动态生成的管理页面：并非徒有其表 规划 URL 编写视图 设计模板 这只是冰山一角 Django 最初被设计用于具有快速开发需求的新闻类站点，目的是要实现简单快捷的网站开发。以下 内容简要介绍了如何使用 Django 实现一个数据库驱动的 实例教程（zh）开始入手，或者直接开始阅读详细的参考文档。 Django 无需数据库就可以使用，它提供了对象关系映射器（ORM）。通过此技术，你可以使用 Python 代码来描述数据库结构。 数据模型语法提供了很多方法来描述你的数据，这解决了多年来在数据库模式中的难题。以下是一个 简明的例子： 1. # mysite/news/models.py 2. 3. from django.db pub_date = models.DateField() 13. headline = models.CharField(max_length=200) 初识 Django 设计模型 初识 Django - 6 - 本文档使用 书栈(BookStack.CN) 构建 14. content = models.TextField() 15. reporter

我们到底是在解决谁的问题 • 业务需求和技术需求哪个更重要 • 技术的价值到底在哪里 Python Web开发有什么优势 • 为什么选择python django框架做web开发 • 基于后端数据模型生成的web模板 • 快速通过模板语言生成网页，加载python中的字典和列表 • 结合html模板嵌套和语法，使得共享页面布局，自定义数据块方便简洁 • 各种html模板tag，让数据在网页显示能更加方便 app怎么开发，网页怎么写，服务器用什么样的，短信如何设置自动回复，订餐电话用 人工还是自动语音？ 如何技术变现 • 寻找用户问题 • 衣、食、住、行、娱乐和人相关的 • 销售、采购、开源、节流与企业相关的 • 设计商业模式 • 基于现有的技术解决一个或几个用户的问题 • 使用技术实现 • 信件--》电报--》电话--》短信、邮件--》微信--》？ • 报纸--》新闻网站--》新闻app--》微博、公众号--》短视频--》？

感谢腾宝、琦宝、飞宝为本书起了一个富有创意的名字，唤起大家写下第一行代码“Hello World!”的 美好回忆； ‧ 感谢校铨在知识产权方面提供的专业帮助，这对本开源书的完善起到了重要作用； ‧ 感谢苏潼为本书设计了精美的封面和 logo ，并在我的强迫症的驱使下多次耐心修改； ‧ 感谢 @squidfunk 提供的排版建议，以及他开发的开源文档主题 Material‑for‑MkDocs 。 在写作过程 数据结构（data structure）是计算机中组织和存储数据的方式，具有以下设计目标。 ‧ 空间占用尽量少，以节省计算机内存。 第 1 章 初识算法 hello‑algo.com 14 ‧ 数据操作尽可能快速，涵盖数据访问、添加、删除、更新等。 ‧ 提供简洁的数据表示和逻辑信息，以便算法高效运行。 数据结构设计是一个充满权衡的过程。如果想在某方面取得提升，往往需要在另一方面作出妥协。下面举两 复杂度分析犹如浩瀚的算法宇宙中的时空向导。 它带领我们在时间与空间这两个维度上深入探索，寻找更优雅的解决方案。 第 2 章 复杂度分析 hello‑algo.com 18 2.1 算法效率评估 在算法设计中，我们先后追求以下两个层面的目标。 1. 找到问题解法：算法需要在规定的输入范围内可靠地求得问题的正确解。 2. 寻求最优解法：同一个问题可能存在多种解法，我们希望找到尽可能高效的算法。 也

感谢腾宝、琦宝、飞宝为本书起了一个富有创意的名字，唤起大家写下第一行代码“Hello World!”的 美好回忆； ‧ 感谢校铨在知识产权方面提供的专业帮助，这对本开源书的完善起到了重要作用； ‧ 感谢苏潼为本书设计了精美的封面和 logo ，并在我的强迫症的驱使下多次耐心修改； ‧ 感谢 @squidfunk 提供的排版建议，以及他开发的开源文档主题 Material‑for‑MkDocs 。 在写作过程 「数据结构 data structure」是计算机中组织和存储数据的方式，具有以下设计目标。 ‧ 空间占用尽量少，以节省计算机内存。 第 1 章 初识算法 hello‑algo.com 14 ‧ 数据操作尽可能快速，涵盖数据访问、添加、删除、更新等。 ‧ 提供简洁的数据表示和逻辑信息，以便算法高效运行。 数据结构设计是一个充满权衡的过程。如果想在某方面取得提升，往往需要在另一方面作出妥协。下面举两 复杂度分析犹如浩瀚的算法宇宙中的时空向导。 它带领我们在时间与空间这两个维度上深入探索，寻找更优雅的解决方案。 第 2 章 复杂度分析 hello‑algo.com 18 2.1 算法效率评估 在算法设计中，我们先后追求以下两个层面的目标。 1. 找到问题解法：算法需要在规定的输入范围内可靠地求得问题的正确解。 2. 寻求最优解法：同一个问题可能存在多种解法，我们希望找到尽可能高效的算法。 也

的角度提出许多宝贵建议，使得本书更适合新 手阅读。 ‧ 感谢腾宝、琦宝、飞宝为本书起了一个富有创意的名字，唤起大家写下第一行代码“Hello World!”的 美好回忆。 ‧ 感谢苏潼为本书设计了精美的封面和 LOGO，并在我的强迫症下多次耐心修改。 ‧ 感谢 @squidfunk 提供的写作排版建议，以及他开发的开源文档主题 Material‑for‑MkDocs 。 在写作过程中， 「数据结构 data structure」是计算机中组织和存储数据的方式，具有以下设计目标。 ‧ 空间占用尽量减少，节省计算机内存。 第 1 章 初识算法 hello‑algo.com 13 ‧ 数据操作尽可能快速，涵盖数据访问、添加、删除、更新等。 ‧ 提供简洁的数据表示和逻辑信息，以便使得算法高效运行。 数据结构设计是一个充满权衡的过程。如果想要在某方面取得提升，往往需要在另一方面作出妥协。下面举 复杂度分析犹如浩瀚的算法宇宙中的时空向导。 它带领我们在时间与空间这两个维度上深入探索，寻找更优雅的解决方案。 第 2 章 复杂度分析 hello‑algo.com 17 2.1 算法效率评估 在算法设计中，我们先后追求以下两个层面的目标。 1. 找到问题解法：算法需要在规定的输入范围内，可靠地求得问题的正确解。 2. 寻求最优解法：同一个问题可能存在多种解法，我们希望找到尽可能高效的算法。

各种分析的⽀支持： • 流式分析：流式或微批实时处理理 • 统计关联分析：多维度的实时关联统计与分析⽀支持，⽀支持交互式add-hoc⽅方式 • 数据治理理： • 数据加⼯工：通⽤用数据模型；多维机器器数据、半结构化的规整、各种第三⽅方数据关联 • 数据⽣生命周期管理理（时序数据的归并、变化数据更更新等） 机器器学习对分析增强的⽅方向 增强点 描述 统计性分析 基于IT实体 ⽀支持（CQ/TickScript） ⽣生命周期 不不直接⽀支持 ⽀支持 不不直接⽀支持 指标类数据监控 - prometheus • K8S监控标配（继K8S后第2个CNCF项⽬目） • 多维数据模型 + PromQL • 汇总性数据+Label过滤 • 可从160+源渠道提取指标数据 • 主动拉去模式（可由gateway被动） • ⾃自动发现 • 主要⽤用于短期指标 •

感谢腾宝、琦宝、飞宝为本书起了一个富有创意的名字，唤起大家写下第一行代码“Hello World!”的 美好回忆； ‧ 感谢校铨在知识产权方面提供的专业帮助，这对本开源书的完善起到了重要作用； ‧ 感谢苏潼为本书设计了精美的封面和 logo ，并在我的强迫症的驱使下多次耐心修改； ‧ 感谢 @squidfunk 提供的排版建议，以及他开发的开源文档主题 Material‑for‑MkDocs 。 在写作过程 structure）是组织和存储数据的方式，涵盖数据内容、数据之间关系和数据操作方法，它具 有以下设计目标。 第 1 章 初识算法 www.hello‑algo.com 14 ‧ 空间占用尽量少，以节省计算机内存。 ‧ 数据操作尽可能快速，涵盖数据访问、添加、删除、更新等。 ‧ 提供简洁的数据表示和逻辑信息，以便算法高效运行。 数据结构设计是一个充满权衡的过程。如果想在某方面取得提升，往往需要在另一方面作出妥协。下面举两 复杂度分析犹如浩瀚的算法宇宙中的时空向导。 它带领我们在时间与空间这两个维度上深入探索，寻找更优雅的解决方案。 第 2 章 复杂度分析 www.hello‑algo.com 18 2.1 算法效率评估 在算法设计中，我们先后追求以下两个层面的目标。 1. 找到问题解法：算法需要在规定的输入范围内可靠地求得问题的正确解。 2. 寻求最优解法：同一个问题可能存在多种解法，我们希望找到尽可能高效的算法。 也

，既解决了定制电路 的不足，又克服了原有可编程器件门电路数有限的缺点。 Ø 设计语言：硬件描述语言（HDL）是一种用来设计数字逻辑系统和描述数字电路的语言，常用 的主要有VHDL、Verilog HDL Ø 信号处理：数据可以并行处理 Ø 主要实现功能： Ø 组合逻辑 -》计数器 -》算法实现 -》SOC 设计 Ø 新一代FPGA器件：高速接口、ARM SOC、多个 IP 硬核、大容量存储器等 软件仿真：这种方法主要是使用计算机软件来模拟运行， 用户不需要搭建硬件电路就可以对程序进行验证，特别 适合于偏重算法的程序。软件仿真的缺点是无法完全仿 真与硬件相关的部分，因此最终还要通过硬件仿真来完 成最终的设计。 Ø 大部分算法工程师经常做的事情 Ø 大量的仿真软件：Matlab，Simulink Ø 数学建模：核心技术 Ø 硬件仿真：使用附加的硬件来替代用户系统的单片机并 完成单片机全部或大部分的功能。使用了附加硬件后用 适合C算法的工程师进行快速硬件验证 Ø 赛灵思提供基于 OpenCV 的库函数，适用于图像处理 Ø 高层次EDA开发工具，C开发者的福音，Xilinx 开发工具的核心引擎。 Ø 怎么用C语言写硬件逻辑设计？ Ø 使用C 的编程语法 Ø 借用硬件设计的思路 高层次综合工具 （Vivado HLS) 11 赛灵思 openCV 库：xFopencv - HW Accelerated OpenCV Functions Level

，既解决了定制电路 的不足，又克服了原有可编程器件门电路数有限的缺点。 Ø 设计语言：硬件描述语言（HDL）是一种用来设计数字逻辑系统和描述数字电路的语言，常用 的主要有VHDL、Verilog HDL Ø 信号处理：数据可以并行处理 Ø 主要实现功能： Ø 组合逻辑 -》计数器 -》算法实现 -》SOC 设计 Ø 新一代FPGA器件：高速接口、ARM SOC、多个 IP 硬核、大容量存储器等 软件仿真：这种方法主要是使用计算机软件来模拟运行， 用户不需要搭建硬件电路就可以对程序进行验证，特别 适合于偏重算法的程序。软件仿真的缺点是无法完全仿 真与硬件相关的部分，因此最终还要通过硬件仿真来完 成最终的设计。 Ø 大部分算法工程师经常做的事情 Ø 大量的仿真软件：Matlab，Simulink Ø 数学建模：核心技术 Ø 硬件仿真：使用附加的硬件来替代用户系统的单片机并 完成单片机全部或大部分的功能。使用了附加硬件后用 适合C算法的工程师进行快速硬件验证 Ø 赛灵思提供基于 OpenCV 的库函数，适用于图像处理 Ø 高层次EDA开发工具，C开发者的福音，Xilinx 开发工具的核心引擎。 Ø 怎么用C语言写硬件逻辑设计？ Ø 使用C 的编程语法 Ø 借用硬件设计的思路 高层次综合工具 （Vivado HLS) 11 赛灵思 openCV 库：xFopencv - HW Accelerated OpenCV Functions Level