入门 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 40 2.1.2 运算符 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 42 2.1.3 广播机制 • Ra×b: 包含a行和b列的实数矩阵集合 • A ∪ B: 集合A和B的并集 13 • A ∩ B：集合A和B的交集 • A \ B：集合A与集合B相减，B关于A的相对补集 函数和运算符 • f(·)：函数 • log(·)：自然对数 • exp(·): 指数函数 • 1X : 指示函数 • (·)⊤: 向量或矩阵的转置 • X−1: 矩阵的逆 • ⊙: 按元素相乘 [1, 2, 3, 4], [4, 3, 2, 1]]) 2.1.2 运算符 我们的兴趣不仅限于读取数据和写入数据。我们想在这些数据上执行数学运算，其中最简单且最有用的操作 是按元素（elementwise）运算。它们将标准标量运算符应用于数组的每个元素。对于将两个数组作为输入 的函数，按元素运算将二元运算符应用于两个数组中的每对位置对应的元素。我们可以基于任何从标量到标 量的函数来创建按元素函数。

创建布尔类型向量 Out[11]: tensor([ True, False]) 需要注意的是，PyTorch 的布尔类型和 Python 语言的布尔类型并不等价，不能通用， 在进行==运算符比对时，会自动转换为张量对象，例如： In [11]: a = torch.tensor([True]) # 创建 pytorch 布尔张量 if a: # 测试 if 条件 的张量时，会隐式地自动触发 Broadcasting 机制，如+、-、*、/等运算符等，将参与运算的张量 Broadcasting 成一个公共 shape，再进行相应的计算。如图 4.10 所示，演示了 3 种不同 shape 下的张量?、?相加的 例子： 图 4.10 加法运算时自动 Broadcasting 示意图 简单测试一下基本运算符的自动 Broadcasting 机制，例如： a = torch sub、torch.mul、 torch.div 函数实现，PyTorch 已经重载了+、 − 、 ∗ 、/运算符，通常推荐直接使用运算符 来完成加、减、乘、除运算，简单清晰。 预览版202112 第 4 章 PyTorch 基础 34 整除和余除也是常见的数学运算之一，分别通过//和%运算符实现。现在来演示整除 运算，例如： In [89]: a = torch.arange(5)

other, out=None) 其中 other 乘数可以是标量，也可以是任意维度的矩阵 ， 只要满足最终相乘是可以broadcast的即可。 15 1.Tensors张量乘法 5. 两个运算符 @ 和 * @：矩阵乘法，自动执行适合的矩阵乘法函数 *：element-wise乘法 16 2. Autograd自动求导 01 Tensors张量 02 Autograd自动求导

值得注意的是，对于同等长度的ndarray，np.sin()比math.sin()快 但是对于单个数值，math.sin()的速度则更快。 25 四则运算 NumPy提供了许多ufunc函数，它们和相应的运算符运算结果相同。 > a = np.arange(0, 4) > b = np.arange(1, 5) > np.add(a, b) array([1, 3, 5, 7]) > a+b array([1

作为如何证明这些属性的示例，我们将考虑上面给出的第四个属性。 假设 和 （因 此 是方阵）。 观察到 也是一个方阵，因此对它们进行迹的运算是有意义的。 要证明 ，请注意： 这里，第一个和最后两个等式使用迹运算符和矩阵乘法的定义，重点在第四个等式，使用标量乘法的可 交换性来反转每个乘积中的项的顺序，以及标量加法的可交换性和相关性，以便重新排列求和的顺序。 3.5 范数 向量的范数 是非正式度量的向量的“长度”