本书基于清华大学出版社出版的《TensorFlow 深度学习—深入理解人工智能算法》一书 进行二次撰写，代码部分完全基于 PyTorch 进行实现。考虑到本人能力有限、行文仓促，可 以预见地，本书会存在部分语句表达不准确、部分素材尚未创作完成、部分参考引用未能及 时补充、甚至一些错误出现，因此本书以开源、免费地方式发布，希望一方面能够帮助初学 者快速上手深度学习算法，另一方面也能汇聚众多行业专家们的力量，修正测试版中的谬误 之处，让本书变得更为完善。 1.15 目标检测效果图 图 1.16 语义分割效果图 视频理解(Video Understanding) 随着深度学习在 2D 图片的相关任务上取得较好的效 果，具有时间维度信息的 3D 视频理解任务受到越来越多的关注。常见的视频理解任务有 视频分类、行为检测、视频主体抽取等。常用的模型有 C3D、TSN、DOVF、TS_LSTM 等。 图片生成(Image Generation) × 4，现有 2 个通道的源张量 src， 其 shape 为:[2,4,4]，需要写入索引为[1,3]的通道上。 源张量：src 目标张量：x 输出 索引坐标：index 图 5.4 3D 张量更新示意图 下面将新的特征图写入目标张量中，实现如下： In [62]: # 构造写入位置，即 2 个位置 idx = torch.tensor([1, 3]) src = torch

感谢读者对本书的关注，因为读者的注意力是一种稀缺的资源：此刻读者正在阅读本书（而忽略了其他的书）， 因此读者的注意力是用机会成本（与金钱类似）来支付的。为了确保读者现在投入的注意力是值得的，作者 们尽全力（全部的注意力）创作一本好书。 自经济学研究稀缺资源分配以来，人们正处在“注意力经济”时代，即人类的注意力被视为可以交换的、有 限的、有价值的且稀缺的商品。许多商业模式也被开发出来去利用这一点：在音乐或视频流媒体服务上，人 operation），其中任何超出有效长度的位置都被掩蔽并置为0。 #@save def masked_softmax(X, valid_lens): """通过在最后一个轴上掩蔽元素来执行softmax操作""" # X:3D张量，valid_lens:1D或2D张量 if valid_lens is None: return nn.functional.softmax(X, dim=-1) else: shape torch.linspace(-1.0, 1.0, 101)) z = x**2 - y**2 ax = d2l.plt.figure().add_subplot(111, projection='3d') ax.plot_wireframe(x, y, z, **{'rstride': 10, 'cstride': 10}) ax.plot([0], [0], [0], 'rx') ticks

组，其中 None 表示可能为任何正整数)。在 input_shape 中不包含数据的 batch 大小。 • 某些 2D 层，例如 Dense，支持通过参数 input_dim 指定输入尺寸，某些 3D 时序层支持 input_dim 和 input_length 参数。 • 如果你需要为你的输入指定一个固定的 batch 大小（这对 stateful RNNs 很有用），你可以 传递一个 batch_size model.output_shape == (None, 3, 32) 参数 • n: 整数，重复次数。 输入尺寸 2D 张量，尺寸为 (num_samples, features)。 输出尺寸 3D 张量，尺寸为 (num_samples, n, features)。 5.2.9 Lambda [source] keras.layers.Lambda(function, output_shape=None • bias_constraint: 运用到偏置向量的约束函数 (详见 constraints)。 关于 KERAS 网络层 67 输入尺寸 3D 张量 ，尺寸为 (batch_size, steps, input_dim)。 输出尺寸 3D 张量，尺寸为 (batch_size, new_steps, filters)。由于填充或窗口按步长滑动，steps 值可能已更改。 5.3.2

����I��� �P��������I�M����U�� ��M�C�������� ��(������� ���)����� ����������� ������� DeepMapTM 3D Map for Localization 9 ● ������������ ● ����������� ������������������������ ����������������������� Detection) ��� 3D������ �����������������������(��������������������) � � ���D����������A� D�� ��������O� ���������� 3D������ ���(��������D���� ��� ��� ���(��������������)2��1��������� 3D������ ���

Geometrically, when n = 1, h✓(x) is actually a line in a 2D plane, while h✓(x) represents a plane in a 3D space when n = 2. Generally, when n � 3, h✓(x) defines a so-called “hyperplane” in a higher dimensional y(i)⌘2 1 Figure 1: 3D linear regression. Specifically, we aim at minimizing J(✓) over ✓. We give an illustration in Fig. 1 to explain linear regression in 3D space (i.e., n = 2). In the 3D space, the hypothesis

mplot3d 是一个基础 3D绘图（散点图、平面图、折线图等）工具集，也是 matplotlib 库的一部分。同时，它也支持轻量级的独立安装模式。 数据分析（2D） seaborn.lmplot 方法专门用于线性关系的可视化，适用于回归模型。 数据分析（2D） seaborn.lmplot 方法专门用于线性关系的可视化，适用于回归模型。 数据分析（3D） Axes3D.scatter3D scatter3D 方法专门用于绘制3维的散点图。 数据归一化（3D） 数据处理：NumPy NumPy 是一个 BSD 开源协议许可的，面向 Python 用户的基础科学计算库，在多 维数组上实现了线性代数、傅立叶变换和其他丰富的函数运算。 X y 创建线性回归模型（数据流图） 创建会话（运行环境） 使用 TensorBoard 可视化模型数据流图 TensorBoard 可视化工具

visualize the relationship between the parameters θ ∈ R2 and J(θ). In this problem, we’ll plot J(θ) as a 3D surface plot. (When applying learning algorithms, we don’t usually try to plot J(θ) since usually θ use the orbit tool to view this plot from different viewpoints. What is the relationship between this 3D surface and the value of θ0 and θ1 that your implementation of gradient descent had found? Visualize

information Predict the age of a viewer watching a given video on YouTube Predict the location in 3D space of a robot arm end effector, given control signals (torques) sent to its various motors Predict efficiently when there are many parame- ters. Visualization Understanding what’s happening is hard, 2D? 3D? All these challenges become greater when there are many variables or parameters —-the so-called “curse

为什么选择 MXNet ？ MXNet: 可扩展的深度学习框架 MXNet 框架的特点 命令式 NDArray API 声明式 Symbolic Executor MXNet： 博采众家之长 3D Image Construction https://github.com/piiswrong/deep3d 100行Python代码 在 TX1 无人机上运行 TX1 with customized

层级级联 EasyVision 多机多卡性能对比 工程优化: 数据并行  M6模型  Transformer模型: RapidFormer  人脸分类模型: 超大softmax  3D卷积模型 M6模型 RapidFormer性能 工程优化: 模型并行(Whale)  FP16 / Int8  模型剪枝  Op融合(Fusion Stitch)  MILR: