每个位置保存了像素(Pixel)值，像素值一般使用 0~255 的整形数值来表达颜色强度信息， 例如 0 表示强度最低，255 表示强度最高。如果是彩色图片，则每个像素点包含了 R、G、 B 三个通道的强度信息，分别代表红色通道、绿色通道、蓝色通道的颜色强度，所以与灰 度图片不同，它的每个像素点使用一个 1 维、长度为 3 的向量(Vector)来表示，向量的 3 个 元素依次代表了当前像素点上面的 R、G、B 颜色强值，因此彩色图片需要保存为形状是 数据集，通过 train=True 选择生成训练集还是测试机。其中训练集?的大小为(60000,28,28)，代表了 60000 个样 本，每个样本由 28 行、28 列构成，由于是灰度图片，故没有 RGB 通道；训练集?的大小 为(60000)，代表了这 60000 个样本的标签数字，每个样本标签用一个范围为 0~9 的数字 表示。测试集 X 的大小为(10000,28,28)，代表了 10000 张测试图片，Y ion)，使用形状为[?, ℎ, ?]的张量 来表示，其中?代表了批量大小(Batch Size)，这里?设置为 512；多张彩色图片可以使用形 状为[?, ℎ, ?, ?]的张量来表示，其中?表示通道数量(Channel)，彩色图片? = 3。通过 PyTorch 提供的 torch.utils.data.DataLoader 类可以方便完成模型的批量训练，只需要调用设 预览版202112 第

. . . . . . . . . . . . . . . . . 230 6.4 多输入多输出通道 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 232 6.4.1 多输入通道 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 232 6.4.2 多输出通道 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 233 6.4.3 1 × 1 卷积层 . . . . . . . . . . . . . . . . . . . . . . . . . . 填充和步幅 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 238 v 6.5.3 多个通道 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 239 6.6 卷积神经网络（LeNet）

项目（开放式神经电子智能机器人操作系统）研究工作的一部 分而开发的。 “Oneiroi 超出了我们的理解 - 谁能确定它们讲述了什么故事？并不是所有人都能找 到。那里有两扇门，就是通往短暂的 Oneiroi 的通道；一个是用号角制造的，一个是 用象牙制造的。穿过尖锐的象牙的 Oneiroi 是诡计多端的，他们带有一些不会实现的 信息；那些穿过抛光的喇叭出来的人背后具有真理，对于看到他们的人来说是完成 的。” to_categorical(np.random.randint(10, size=(20, 1)), num_classes=10) model = Sequential() # 输入: 3 通道 100x100 像素图像 -> (100, 100, 3) 张量。 # 使用 32 个大小为 3x3 的卷积滤波器。 model.add(Conv2D(32, (3, 3), activation='relu' Image Recogni- tion。 from keras.layers import Conv2D, Input # 输入张量为 3 通道 256x256 图像 x = Input(shape=(256, 256, 3)) # 3 输出通道（与输入通道相同）的 3x3 卷积核 y = Conv2D(3, (3, 3), padding='same')(x) # 返回 x + y z =

): super(Net, self).__init__() # 输入图片通道数为 1，输出通道数为 6，卷积核大小为 (5, 5) self.conv1 = nn.Conv2d(1, 6, 5) # 输入图片通道数为 6，输出通道数为 16，卷积核大小为 (5, 5) self.conv2 = nn.Conv2d(6, nn 包都只支持小批量样本，而不支持单个样本。 例如，nn.Conv2d 接受一个4维的张量，每一维分别是 sSamples * nChannels * Height * Width（ 本数 * 通道数 * 高 * 宽）。如果你有单个样本，只需使用 input.unsqueeze(0) 来添加其它的维数 在继续之前，我们回顾一下到目前为止用到的类。 回顾: ● torch.Tensor：一个用过自动调用backward()

上，因此，需要一个更大的卷积窗口来捕获目标。 第二层 中的卷积窗形状被缩减为 5×5 ，然后是 3×3 。 此外，在 第一层、第二层和第五层之后，加入窗口形状为 3×3 、步 幅为 2 的最大池化层。 此外，AlexNet 的卷积通道是 LeNet 的10倍。 • 在最后一个卷积层后有两个全连接层，分别有4096个输出。 这两个巨大的全连接层拥有将近 1GB 的模型参数。 由于 早期 GPU 显存有限，原版的 AlexNet 1×1卷积层就是这样实现了一些重要功能的（doing something pretty non-trivial），它给神经网络添加 了一个非线性函数，从而减少或保持输入层中的通道数 量不变，当然如果你愿意，也可以增加通道数量。 18 3.谷歌Inception网络 Previous layer 1x1 convolutions 1x1 convolutions 3x3 convolutions

算法维度 �总结 基于深度学习模型的推荐流程，场景与⽬标 Serving系统 HDFS 数据 通道 训练系统 召回 业务服务 排序 混排 模型 管理 上线 管理 ⽆量 RGW/Cos/ kafka 样本 存储 实时样本 ⽣成服务 离线样本 ⽣成任务 数据 通道 特征 处理 模型 登记 模型 上线 预测 请求 数据 落地 ⽆量 ⽤户⾏为数据上报 特征 库 实时模型，KB级，秒（Kafka） 分布式 Serving集群 推理节点 分布式 Serving集群 推理节点 召回索引服务 业务服务 1. 获取⽤户向量 2. 向量召回 异步 刷库 训练端⽣成⾼频参数集 独⽴通道上线 降低请求⽑刺 Feature 2.1: 短时间内只 有部分参数被⽤到 Feature 2.2 Hotkey变化慢 ⼤规模推荐模型深度学习系统基本解决维度 分布式 系统 ⼤规模

标准Transformer的输入是1D序列，对于图像? ∈ ??∗?∗?， 将其reshape 成 ?? ∈ ??∗ ?2⋅? 的序列。 P是patch的大小； (H,W)是图像的高和宽；C是图像通道数；? = ??/?2， 即patch的个数。 2.模型介绍 24 3.模型训练策略 03 模型训练策略 01 背景知识 02 模型介绍 04 模型的缺点与改进 类型参数，Transformer模块的个数。 heads：int 类型参数，多头注意力中“头”的个数。 mlp_dim：int 类型参数，多层感知机中隐藏层的神经 元个数。 channels：int 类型参数，输入图像的通道数，默认为 3。 dropout：float类型参数，Dropout几率，取值范围为 [0, 1]，默认为 0.。 emb_dropout：float类型参数，进行Embedding操作 时Dropout几率，取值范围为[0

表示转换为每行八列的，-1 表示自动计算行数；x.view(1, 1, 4, 4) 表示转换为 1x1x4x4 的四维张量。其中 torch.size 表示 输出数组维度大小。 ● 其它属性操作 通道交换与寻找最大值是 Pytorch 中处理张量数据常用操作 之一，这两个相关函数名称分别是 torch.transpose 与 torch. argmax，支持张量直接操作。代码演示如下： x torch.Size([3, 5, 5]) tensor(3) tensor([3, 2]) 运行结果的第一行对应是声明的张量 x 的维度信息、第二行是 调用 transpose 方法完成通道交换之后 x 输出的维度信息；第 三行是针对 x 调用 argmax 得到最大值对应索引（12 对应索 引值为 3）、第四行是进行维度变换之后针对二维数据（2x4） 的第二个维度调用 argmax

R-CNN，Faster R-CNN 等) 7 目标检测 8 目标检测 9 图像分割 10 目标跟踪 11 计算机视觉 图像的数字表示 一张图片数据量是64×64×3，因为每张图片都有3个颜色通道。 如果计算一下的话，可得知数据量为12288 12 01 计算机视觉概述 02 卷积神经网络概述 03 卷积神经网络计算 04 卷积神经网络案例 本章目录 13

可以证明，关于几乎所有的实数x，上述积分是存在的。这样，随着x的不同取值，这个积分就 定义了一个如下的新函数，称为函数f与g的卷积 卷积层（Convolutional Layer, conv） 卷积层是使用一系列卷积核与多通道输入数据做卷积的线性计算层。卷积层的提出是为了利用 输入数据（如图像）中特征的局域性和位置无关性来降低整个模型的参数量。卷积运算过程与 图像处理算法中常用的空间滤波是类似的。因此，卷积常常被通俗地理解为一种“滤波”过程，