取无穷时的极限情况下，可以得到切比雪 夫距离 8 距离度量 汉明距离(Hamming distance) ? ?, ? = 1 ? ෍ ? 1??≠?? 汉明距离是使用在数据传输差错控制编码里 面的，汉明距离是一个概念，它表示两个（ 相同长度）字对应位不同的数量，我们以表 示两个字之间的汉明距离。对两个字符串进 行异或运算，并统计结果为1的个数，那么 这个数就是汉明距离。 9 距离度量 余弦相似度

算 机 博 士 和 杰 出 毕 业 生 • 原 腾 讯 文 学 高 级 总 监 、 盛 大 文 学 首 席 数 据 官 、 百 度 核 心 技 术 工 程 师 • 三 十 项 国 家 技 术 发 明 专 利 ， 十 五 篇 国 际 学 术 论 文 ， 译 著 《 智 能 W e b 算 法 》 专 注 于 企 业 文 本 挖 掘 技 术 和 相 关 应 用 系 统 的 服 务 个人简介——达观数据CEO 输入层采用词向量，提升泛化能力 • 循环神经网络（LSTM,GRU等）能学 到一些较远的的上下文特征以及一些 非线性特征 序列标注 字/词向量 Bi-LSTM 会 数 据 开 观 达 去 明 小 LSTM LSTM LSTM LSTM LSTM LSTM LSTM LSTM LSTM LSTM LSTM LSTM LSTM LSTM LSTM LSTM LSTM LSTM O O O

7 陈天奇,陈天奇是机器学习领域著名的青 年华人学者之一，本科毕业于上海交通 大学ACM班，博士毕业于华盛顿大学计 算机系。 主要贡献：设计了XGBoost算法。 机器学习界的青年才俊 何恺明，本科就读于清华大学，博士毕业于 香港中文大学多媒体实验室。2016年，加入 Facebook AI Research（FAIR）担任研究科 学家。 主要贡献：设计了ResNets 8 国内外知名人工智能企业榜单

7 陈天奇,陈天奇是机器学习领域著名的青 年华人学者之一，本科毕业于上海交通 大学ACM班，博士毕业于华盛顿大学计 算机系。 主要贡献：设计了XGBoost算法。 人工智能界的青年才俊 何恺明，本科就读于清华大学，博士毕业于 香港中文大学多媒体实验室。2016年，加入 Facebook AI Research（FAIR）担任研究科 学家。 主要贡献：设计了ResNets 8 国内外知名人工智能企业榜单

2006)或其他手动调整的流水线来输入数据。 4. 将提取的特征送入最喜欢的分类器中（例如线性模型或其它核方法），以训练分类器。 当人们和机器学习研究人员交谈时，会发现机器学习研究人员相信机器学习既重要又美丽：优雅的理论去证 明各种模型的性质。机器学习是一个正在蓬勃发展、严谨且非常有用的领域。然而，当人们和计算机视觉研 究人员交谈，会听到一个完全不同的故事。计算机视觉研究人员会告诉一个诡异事实————推动领域进步的 是数 果我们能将新添加的层训练成恒等映射（identity function）f(x) = x，新模型和原模型将同样有效。同时， 由于新模型可能得出更优的解来拟合训练数据集，因此添加层似乎更容易降低训练误差。 针对这一问题，何恺明等人提出了残差网络（ResNet）(He et al., 2016)。它在2015年的ImageNet图像识别挑 战赛夺魁，并深刻影响了后来的深度神经网络的设计。残差网络的核心思想是：每个附加层都应该更容易地 在使用程序时，许多用户都有很强的特定习惯。例如，在学生放学后社交媒体应用更受欢迎。在市场开 放时股市交易软件更常用。 • 预测明天的股价要比过去的股价更困难，尽管两者都只是估计一个数字。毕竟，先见之明比事后诸葛 亮难得多。在统计学中，前者（对超出已知观测范围进行预测）称为外推法（extrapolation），而后者 （在现有观测值之间进行估计）称为内插法（interpolation）。 •

的理解。作者自认才疏学浅，略懂皮毛，同时也限于时间和篇幅关系，难免出现理解偏差甚 至错缪之处，若能大方指出，作者将及时修正，不胜感激。 龙良曲 2021 年 10 月 19 日 预览版202112 声 明 得益于简洁优雅的设计理念，基于动态图的 PyTorch 框架在学术圈广受好评，绝大多数 最新算法是基于 PyTorch 实现的，众多的第三方 AI 框架应用，例如 mmdetection、mmaction2、 预览版202112 第6章 神经网络 很难想象哪一个大行业不会被人工智能改变。人工智 能会在这些行业里发挥重大作用，这个走向非常明 显。−吴恩达 机器学习的最终目的是找到一组良好的参数?，使得?表示的数学模型能够很好地从训 练集中学到映射关系??: ? → ?, ?, ? ∈ ?train，从而利用训练好的??( 3x3) Pooling(2x2,2) Conv2d(64, 3x3) 图 10.62 添加了 Skip Connection 的 VGG13 网络结构 2015 年，微软亚洲研究院何凯明等人发表了基于 Skip Connection 的深度残差网络 (Residual Neural Network，简称 ResNet)算法 [10]，并提出了 18 层、34 层、50 层、101 层、152