MapReduce Blink  场景丰富: 图像/视频/推荐/搜索  大数据+大模型: Model Zoo  跨场景+跨模态  开箱即用: 封装复杂性  白盒化, 可扩展性强  积极对接开源系统+模型 FTRL SGD Adam Solutions Librarys 优势: Components Framework EasyVision EasyRec GraphLearn • OpenAPI AI能力 体验中心 开源 PAI平台（Platform of Artificial Intelligence） Deep Learning Container 数据量大而全 先进的模型结构 业务场景复杂 计算力强、性价比高 提供 支撑 支撑 支撑 促进 促进 开源生态 系统 硬件 模型 生态系统 外循环 内循环 贡献 对接 PAI平台的优势

. 6 2.4 Keras 支持多个后端引擎，并且不会将你锁定到一个生态系统中 . . . . . . . . . . 6 2.5 Keras 拥有强大的多 GPU 和分布式训练支持 . . . . . . . . . . . . . . . . . . . . . . 6 2.6 Keras 的发展得到深度学习生态系统中的关键公司的支持 . . . . . . . . . . . . . Flask app）中。 • 在 JVM，通过 SkyMind 提供的 DL4J 模型导入。 • 在 Raspberry Pi 树莓派上。 2.4 Keras 支持多个后端引擎，并且不会将你锁定到一个生态系统中 你的 Keras 模型可以基于不同的深度学习后端开发。重要的是，任何仅利用内置层构建的 Keras 模型，都可以在所有这些后端中移植：用一种后端训练模型，再将它载入另一种后端中（比 如为了发布）。支持的后端有： 集群上训练。 • Keras 可以在 Spark（通过 CERN 的 Dist-Keras）和 Elephas 上运行。 为什么选择 KERAS？ 7 2.6 Keras 的发展得到深度学习生态系统中的关键公司的支持 Keras 的开发主要由谷歌支持，Keras API 以 tf.keras 的形式包装在 TensorFlow 中。此外， 微软维护着 Keras 的 CNTK 后端。亚马逊

进行二次撰写，代码部分完全基于 PyTorch 进行实现。考虑到本人能力有限、行文仓促，可 以预见地，本书会存在部分语句表达不准确、部分素材尚未创作完成、部分参考引用未能及 时补充、甚至一些错误出现，因此本书以开源、免费地方式发布，希望一方面能够帮助初学 者快速上手深度学习算法，另一方面也能汇聚众多行业专家们的力量，修正测试版中的谬误 之处，让本书变得更为完善。 本书虽然免费开放电子版，供个人学习使用，但是未经许可，不能用于任何个人或者企 50~90%的效果提升。常用的机器翻译模型有 Seq2Seq、BERT、GPT、GPT-2 等，其中 OpenAI 提出的 GPT-2 模型参数量高达 15 亿个，甚至发布之初一度以技术安全考 虑为由拒绝开源 GPT-2 模型。 聊天机器人(Chatbot) 聊天机器人也是自然语言处理的一项主流任务，机器自动学习与 人类对话，对于人类的简单诉求提供满意的自动回复，提高客户的服务效率和服务质量 等。 载数据集。对于自定义的数据集的加载，将会在后续章节介绍。 PyTorch 发布至今，受到越来越多的开发者的青睐，甚至在很多国际会议论文中的使 用率已经远超 TensorFlow。使用的人越多，生态系统相应地越加完善，目前涌现出如 torchvision、torchtext、torchaudio、PyTorch Geometric 等一系列面向各个行业应用的优秀第 三方库，极大地方便了开发人员的

matplotlib_inline import backend_inline d2l = sys.modules[__name__] 本书中的大部分代码都是基于PyTorch的。PyTorch是一个开源的深度学习框架，在研究界非常受欢迎。本书 中的所有代码都在最新版本的PyTorch下通过了测试。但是，由于深度学习的快速发展，一些在印刷版中代 码可能在PyTorch的未来版本无法正常工作。但是 的快速进步。尽管在许多情况下， 这是以修改和重新发明存在了数十年的工具为代价的。 最后，深度学习社区引以为豪的是，他们跨越学术界和企业界共享工具，发布了许多优秀的算法库、统计模 型和经过训练的开源神经网络。正是本着这种精神，本书免费分发和使用。我们努力降低每个人了解深度学 习的门槛，希望读者能从中受益。 1.7. 特点 37 小结 • 机器学习研究计算机系统如何利用经验（通常是数据） • 最近在深度学习方面取得的许多进展，大都是由廉价传感器和互联网规模应用所产生的大量数据，以 及（通过GPU）算力的突破来触发的。 • 整个系统优化是获得高性能的关键环节。有效的深度学习框架的开源使得这一点的设计和实现变得非 常容易。 练习 1. 你当前正在编写的代码的哪些部分可以“学习”，即通过学习和自动确定代码中所做的设计选择来改进？ 你的代码是否包含启发式设计选择？ 2. 你

TensorFlow 训练模型的工作流 数据读入 数据分析 数据 规范化 创建模型 (数据流图) 创建会话 (运行环境) 训练模型 数据分析库：Pandas Pandas 是一个 BSD 开源协议许可的，面向 Python 用户的高性能和易于上手的数 据结构化和数据分析工具。 数据框（Data Frame）是一个二维带标记的数据结构，每列（column）数据类型 可以不同。我们可以将其当作电子表格或数据库表。 方法专门用于线性关系的可视化，适用于回归模型。 数据分析（3D） Axes3D.scatter3D 方法专门用于绘制3维的散点图。 数据归一化（3D） 数据处理：NumPy NumPy 是一个 BSD 开源协议许可的，面向 Python 用户的基础科学计算库，在多 维数组上实现了线性代数、傅立叶变换和其他丰富的函数运算。 X y 创建线性回归模型（数据流图） 创建会话（运行环境） 使用 TensorBoard

， 它应该为一般的图像处理工 具提供坚实的基础。 https://github.com/python-pillow/Pillow captcha Catpcha 是一个生成图像和音频验证码的开源工具库。 https://github.com/lepture/captcha from captcha.image import ImageCaptcha from captcha.audio https://github.com/lepture/captcha flask flask 是一个基于 Werkzeug 和 jinja2 开发的 Python Web 应用程序框架，遵从 BSD 开源协 议。它以一种简约的方式实现了框架核心，又保留了扩展性。 https://github.com/pallets/flask 生成验证码数据集 验证码（CAPTCHA）简介 全自动区分计算

将深度网络SDK生成，分为解析，编译，运行三个阶段 • 一键生成深度学习SDK，一个模型到处应用 加快应用速度 - RapidNet Ncnn ： 移动端前向网络开源框 https://github.com/tencent/ncnn • 针对移动端优化版本 • 开源建设， 2.6k+ stars SACC2017 从静到动：结合视频识别能力 从图像到声音： 音频识别 03 图像内容审核的扩展和延伸 优图-腾讯云

tuning 如何设计网络呢？需要分别计算答案的起始和终止位置 4.BERT 待分类句子A: Datawhale 是 一个 专注于 Al领域 的开源组织 模型输出以下各token的向量: [CLS]Datawhale 是 一个 专注于 Al领域 的开源 组织[SEP] [CLS]表示的向量一般可以认为是句向量,用[CLS] 向量对接下游文本分类任务,可得到fine tuning的 文本分类模型

• 智慧城市中机器视觉应用 • 我们是如何构建城市级AI+智慧城市系统 • 大规模深度学习实战系统的几点经验 l商汤科技联合创始人，架构师 lC++/Go/Rust/Ruby开发者 l多个开源项目贡献者 lNIPS国际会议论文作者 @chyh1990 2017.6 2016.3 2015.11 2014.6 2013.3 2011年中 2017.3 2016.3 2014

EfficientNet 24 01 经典网络 4.卷积神经网络使用技巧 02 深度残差网络 03 其它现代网络 04 卷积神经网络使用技巧 25 4.卷积神经网络使用技巧 使用开源的方案 26 4.卷积神经网络使用技巧 数据增强 27 数据增强 4.卷积神经网络使用技巧 28 迁移学习 迁移学习 (Transfer Learning) 是把已学训练好的模型参数用作新训练模型的起