. data import Dataset from torch . u t i l s . data import DataLoader 前面说过，Dataset 可以存储自定义数据，我们可以继承 Dataset 类，在子类中实现一些固定 功能的函数，这样就相当于封装了自己的数据为 Dataset 类型。为了方便起见，我们先描述如何 使用预加载数据，然后第二章就开始构建神经网络模型。等第四章我们再描述如何自定义数据集。 2.1 基本网络结构 11 2.2 使用 cuda 来训练网络 13 本章描述如何构建神经网络模型。 2.1 基本网络结构 我们定义神经网络的结构。在 pytorch 中要想使用神经网络，需要继承 nn.Module： c l a s s NeuralNetwork (nn . Module ) : def __init__( s e l f ) : super ( NeuralNetwork chapter4-3.py。 4.4 自定义 Dataset 数据集 假设我们现在已经产生了 x_data,y_data 以及 x_data2,y_data2，我们要把它们进行封装。 我们只需要继承 Dataset，然后实现三个函数即可，即初始化函数，求长度的函数以及根据索引返 回某一个样本的函数： from torch . u t i l s . data import Dataset

目前已经融入到 PyTorch 库中。 ❑ Torch 是一个非常优秀的科学计算库，基于较冷门的编程语言 Lua 开发。Torch 灵活性 较高，容易实现自定义网络层，这也是 PyTorch 继承获得的优良基因。但是由于 Lua 语言使用人群较少，Torch 一直未能获得主流应用。 ❑ MXNet 由华人陈天奇和李沐等人开发，是亚马逊公司的官方深度学习框架。采用了 命令式编程和符号式编 ensor)从输入流动(Flow)至输出层的过程， 即从输入数据开始，途径各个隐藏层，直至得到模型输出并计算误差，这也是另一个深度 学习框架 TensorFlow 的名字由来。PyTorch 框架是继承了 Torch 框架的设计理念，并采用 Python 语言作为主要支持语言，因而命名为 PyTorch。 前向传播的最后一步就是完成误差的计算： ℒ = ?(??(?), ?) 其中??(∙)代表了利用 +，因此输出层的激活函数可以不加，也可以添加 ReLU 激活函数。 我们将网络实现为一个自定义网络类，只需要在初始化函数中创建各个子网络层，并 在前向计算函数 forward 中实现自定义网络类的计算逻辑即可。自定义网络类继承自 nn.Module 基类，这也是自定义网络类的标准写法，以方便地利用 nn.Module 基类提供的 parameters、load_state_dict、state_dict 等各种便捷功能。网络模型类实现如下：

def __getitem__(self, index): # 返回第index个数据样本 return self.data[index] 自定义一个继承自torch.utils.data.Dataset的类，在该类中实现__len__和 __getitem__方法。 7 过拟合和欠拟合 欠拟合 过拟合 正合适 8 过拟合的处理 1.获得更多的训练数据

来载入那些名字相同的层的权重。 模型 40 注意：另请参阅如何安装 HDF5 或 h5py 以保存 Keras 模型，在常见问题中了解如何安装 h5py 的说明。 Model 子类 除了这两类模型之外，你还可以通过继承 Model 类并在 call 方法中实现你自己的前向传 播，以创建你自己的完全定制化的模型，（Model 子类 API 引入于 Keras 2.2.0）。 这里是一个用 Model 子类写的简单的多层感知器的例子： keras.initializers 模块的一部分: 15.2.1 Initializer [source] keras.initializers.Initializer() 初始化器基类：所有初始化器继承这个类。 15.2.2 Zeros [source] keras.initializers.Zeros() 将张量初始值设为 0 的初始化器。 15.2.3 Ones [source] keras 这应该建立，编译，并返回一个 Keras 模型，将被用来拟合/预测。以下之一三个 值可以传递给 build_fn 1. 函数 2. 实现 __call__ 函数的类的实例 3. 没有。这意味着你实现了一个继承的类 KerasClassifier 或 KerasRegressor。当前类的 __call__ 函数将被视为默认的 build_fn。 sk_params 同时包含模型参数和拟合参数。法律模型参数是

output_dim) def forward(self, x): out = self.linear(x) return out LinearRegressionModel 是一个自定义的类，继承了 torch. nn.Module，其中 torch.nn.Linear 就表示构建了公式 1-1 的 线性模型，重载方法 forward，表示根据模型计算返回预测 结果。 第三步：创建损失功能与优化器

存储和访问前向传播计算所需的参数。 5. 根据需要初始化模型参数。 在下面的代码片段中，我们从零开始编写一个块。它包含一个多层感知机，其具有256个隐藏单元的隐藏层和一 个10维输出层。注意，下面的MLP类继承了表示块的类。我们的实现只需要提供我们自己的构造函数（Python中 的__init__函数）和前向传播函数。 class MLP(nn.Module): # 用模型参数声明层。这里，我们声明两个全连接的层 5.4.1 不带参数的层 首先，我们构造一个没有任何参数的自定义层。回忆一下在 5.1节对块的介绍，这应该看起来很眼熟。下面 的CenteredLayer类要从其输入中减去均值。要构建它，我们只需继承基础层类并实现前向传播功能。 import torch import torch.nn.functional as F from torch import nn class CenteredLayer(nn 2所示，GoogLeNet一共使用9个Inception块和全局平均汇聚层的堆叠来生成其估计值。Inception块 之间的最大汇聚层可降低维度。第一个模块类似于AlexNet和LeNet，Inception块的组合从VGG继承，全局平 均汇聚层避免了在最后使用全连接层。 264 7. 现代卷积神经网络 图7.4.2: GoogLeNet架构。 现在，我们逐一实现GoogLeNet的每个模块。第一个模块使用64个通道、7