13 5.1 配送时长预估模型 • 基于现有状况、订单增速、消 化速度、天气、当前手段等多 维特征，使用XGBoost模型回 归预测未来五分钟进单的平均 配送时长 • 分商圈、分时段、多模型的精 细化预估 • 分布式、多线程、并行计算最 佳分割点，满足海量数据的实 时性要求 • 在供需失衡之前，即实施调控 手段 5 供需平衡 14 5.2 单量调控模型 • 通过价格平衡未来的进单量 通过价格平衡未来的进单量 和系统可承载的单量 • 基于GBRT对未来进入单量的 实时预测 • 贪心算法求解系统最佳承载 单量 • 根据当前系统状态匹配最佳 的溢价手段使之回归至最大 可承载单量的调控模型 • 在供需失衡之时，实施最有 效的调控手段 5 总结—外卖订单智能调度要解决的核心问题 借助机器学习与深度学习实现，骑士到店时 间、等餐时间、骑士到用户时间、交付用户 时间等配送全流程节点时间预估 动态规划最优配送路线，且合理并单，以最

float64，可以在需要的时候通过 float()函数将其转换为 torch.float32 类型。 4.4.2 创建全 0 或全 1 张量 将张量创建为全 0 或者全 1 数据是非常常见的张量初始化手段。考虑线性变换 ? = ?? + ?，将权值矩阵?初始化为全 1 矩阵，偏置 b 初始化为全 0 向量，此时线性变化 层输出? = ?，因此是一种比较好的层初始化状态。通过 torch.zeros()和 4.8 Broadcasting 机制 Broadcasting 称为广播机制(或自动扩展机制)，它是一种轻量级的张量复制手段，在逻 辑上扩展张量数据的形状，但是只会在需要时才会执行实际存储复制操作。对于大部分场 景，Broadcasting 机制都能通过优化手段避免实际复制数据而完成逻辑运算，从而相对于上 一节的 repeat 函数，减少了大量计算代价，但是计算逻辑完全一样。 对于所有长度为 保存复制后的张量数据，而 Broadcasting 机制并不会立即复制数据，它会在逻辑上改变张 量的形状，使得视图上变成了复制后的形状，从而可以继续进行下一步运算。Broadcasting 机制会通过深度学习框架的优化手段避免实际复制数据而完成逻辑运算，至于怎么实现的 用户不必关心。对于用户来说，Broadcasting 机制和 repeat 函数复制的最终效果是一样的， 操作对用户透明，但是 Broadcasting

对每个特定任务 进行区分性微调，可以实现这些任务上的巨大收益。和之前方法不同，GPT在微调期间使用任务感知输入转换，以实现有效的传输， 同时对模型架构的更改最小。 图：GPT-1模型的核心手段是预训练（Pre-training） 无监督预训练 （Unsupervised pre-training） 不需要标注数据集，即大规 模自学阶段，在保证AI算力 充足的条件下，根据 attention机制进行自学 nal Encoder Representations from Transformers,双向编码生成Transformer)， GPT仅采用上文 预测单词（BERT采用了基于上下文双向的预测手段）。 注：ChatGPT的表现更贴近人类意图，部分因为一开始GPT是基于上文的预测，这更贴近人类的话语模式，因为人类言语无法基于将来的话来做分析。 图：GPT-1模型相比于Transformer模型有了显著简化

• FM—低阶特征组合 Logistic loss one-hot encode • End2End框架 Ø 优势 • Deep和FM共享 embedding层 总结展望 Ø 模型算法是手段 • 模型算法殊途同归 • 业务和数据决定模型算法的应用场景 • 计算力和算法架构是保障 总结展望 Ø 未来工作 • 更多的融合网络结构适用于CTR预估场景 • 多模态—更好的对非结构化内容进行表征

Dataset的类，在该类中实现__len__和 __getitem__方法。 7 过拟合和欠拟合 欠拟合 过拟合 正合适 8 过拟合的处理 1.获得更多的训练数据 使用更多的训练数据是解决过拟合问题最有效的手段，因为更多的样本能够让模型学习 到更多更有效的特征，减小噪声的影响。 2.降维 即丢弃一些不能帮助我们正确预测的特征。可以是手工选择保留哪些特征，或者使用一 些模型选择的算法来帮忙（例如PCA）。

朴素贝叶斯，以上这些模型一般不需要做数据归一化/标准化处理。 3.正则化、偏差和方差 19 过拟合和欠拟合 欠拟合 过拟合 正合适 20 过拟合的处理 1.获得更多的训练数据 使用更多的训练数据是解决过拟合问题最有效的手段，因为更多的样本能够让模型学习 到更多更有效的特征，减小噪声的影响。 2.降维 即丢弃一些不能帮助我们正确预测的特征。可以是手工选择保留哪些特征，或者使用一 些模型选择的算法来帮忙（例如PCA）。

03 正则化 04 回归的评价指标 23 过拟合和欠拟合 欠拟合 过拟合 正合适 24 过拟合的处理 1.获得更多的训练数据 使用更多的训练数据是解决过拟合问题最有效的手段，因为更多的样本能够让模型学习 到更多更有效的特征，减小噪声的影响。 2.降维 即丢弃一些不能帮助我们正确预测的特征。可以是手工选择保留哪些特征，或者使用一 些模型选择的算法来帮忙（例如PCA）。

习的门槛，希望读者能从中受益。 1.7. 特点 37 小结 • 机器学习研究计算机系统如何利用经验（通常是数据）来提高特定任务的性能。它结合了统计学、数据 挖掘和优化的思想。通常，它是被用作实现人工智能解决方案的一种手段。 • 表示学习作为机器学习的一类，其研究的重点是如何自动找到合适的数据表示方式。深度学习是通过 学习多层次的转换来进行的多层次的表示学习。 • 深度学习不仅取代了传统机器学习的浅层模型，而且取代了劳动密集型的特征工程。 重向量和偏置能够使得新样本预测标签的误差尽可能小。 虽然我们相信给定x预测y的最佳模型会是线性的，但我们很难找到一个有n个样本的真实数据集，其中对于 所有的1 ≤ i ≤ n，y(i)完全等于w⊤x(i) + b。无论我们使用什么手段来观察特征X和标签y，都可能会出现少量 的观测误差。因此，即使确信特征与标签的潜在关系是线性的，我们也会加入一个噪声项来考虑观测误差带 来的影响。 在开始寻找最好的模型参数（model par 太宽松，我们可能无法收敛到最优解。 11.6.1 基础 本节将探讨更有效的优化算法，尤其是针对实验中常见的某些类型的优化问题。 泄漏平均值 上一节中我们讨论了小批量随机梯度下降作为加速计算的手段。它也有很好的副作用，即平均梯度减小了方 差。小批量随机梯度下降可以通过以下方式计算： gt,t−1 = ∂w 1 |Bt| � i∈Bt f(xi, wt−1) = 1 |Bt| �