内建了常用神经网络运算函 数、常用网络层、网络训练、模型保存与加载、模型部署等一系列深度学习系统的便捷功 能。常用网络层主要放置在 nn 子模块中，优化器主要放置在 optim 子模块中，模型部署主 要通过 ONNX 协议实现。使用 PyTorch 开发，可以方便地利用这些功能完成常用算法业务 流程，高效稳定灵活。 1.6 开发环境安装 在领略完深度学习框架所带来的便利后，现在来着手在本地计算机环境上安装 即可。整个安装流程约持续 5 分钟，具体时间 预览版202112 第 1 章 人工智能绪论 18 需依据计算机性能而定。 图 1.22 Anaconda 安装界面-1 图 1.23Anaconda 安装界面-2 安装完成后，怎么验证 Anaconda 是否安装成功呢？通过键盘上的 Windows 键+R 键， 即可调出运行程序对话框，输入“cmd”并回车即打开 Windows Version”，则需要取消“Display Driver”的勾，如果小于或等于，则 默认勾选即可，如图 1.27 所示。设置完成后即可正常安装。 图 1.25 CUDA 安装界面-1 图 1.26 CUDA 安装界面-2 安装完成后，我们来测试 CUDA 软件是否安装成功。打开 cmd 命令行，输入“nvcc - V”，即可打印当前 CUDA 的版本信息，如图 1.29 所示，如果命令无法识别，则说明安装

Generation Web UI Text Generation Web UI（简称 TGW，通常被称为“oobabooga”）是一款流行的文本生成 Web 界面工具，类似 于 AUTOMATIC1111/stable-diffusion-webui 。它拥有多个交互界面，并支持多种模型后端，包括 Transformers 、 llama.cpp（通过 llama-cpp-python 实现）、ExLlamaV2 cutoff_len ，它代表训练数据的最大长度。通过控制这个参数，可以避免出现 OOM（内存溢出） 错误。 合并 LoRA 如果你使用 LoRA 训练模型，可能需要将 adapter 参数合并到主分支中。请运行以下命令以执行 LoRA adapter 的合并操作。 CUDA_VISIBLE_DEVICES=0 python src/export_model.py \ --model_name_or_path

主要输入将是新闻标题本身，即一系列词语，但是为了增添趣味，我们的模型还添加了其他的 辅助输入来接收额外的数据，例如新闻标题的发布的时间等。该模型也将通过两个损失函数进 行监督学习。较早地在模型中使用主损失函数，是深度学习模型的一个良好正则方法。 模型结构如下图所示： 让我们用函数式 API 来实现它。 主要输入接收新闻标题本身，即一个整数序列（每个整数编码一个词）。这些整数在 1 到 10 input_length=100)(main_input) # LSTM 层把向量序列转换成单个向量，它包含整个序列的上下文信息 lstm_out = LSTM(32)(x) 在这里，我们插入辅助损失，使得即使在模型主损失很高的情况下，LSTM 层和 Embedding 层都能被平稳地训练。 快速开始 19 auxiliary_output = Dense(1, activation='sigmoid', n width_shift_range=0.2, height_shift_range=0.2, horizontal_flip=True) # 计算特征归一化所需的数量 # （如果应用 ZCA 白化，将计算标准差，均值，主成分） datagen.fit(x_train) # 使用实时数据增益的批数据对模型进行拟合： model.fit_generator(datagen.flow(x_train, y_train

地告 诉我们如何调整代码以达到期望的结果。不幸的是，这种优雅的理论目前还没有出现。尽管我们尽了最大努 力，但仍然缺乏对各种技术的正式解释，这既是因为描述这些模型的数学可能非常困难，也是因为对这些主 题的认真研究最近才进入高潮。我们希望随着深度学习理论的发展，这本书的未来版本将能够在当前版本无 法提供的地方提供见解。 有时，为了避免不必要的重复，我们将本书中经常导入和引用的函数、类等封装在d2l包中。对于要保存到包 聚类（clustering）问题：没有标签的情况下，我们是否能给数据分类呢？比如，给定一组照片，我们 能把它们分成风景照片、狗、婴儿、猫和山峰的照片吗？同样，给定一组用户的网页浏览记录，我们能 否将具有相似行为的用户聚类呢？ • 主成分分析（principal component analysis）问题：我们能否找到少量的参数来准确地捕捉数据的线 性相关属性？比如，一个球的运动轨迹可以用球的速度、直径和质量来描述。再比如，裁缝们已经开发 粒子物理学和天文学最近取得的一些突破性进展至少部分归功于机器学习。因此，机器学习正在成为工程师 和科学家必备的工具。 关于人工智能的非技术性文章中，经常提到人工智能奇点的问题：机器学习系统会变得有知觉，并独立于主 人来决定那些直接影响人类生计的事情。在某种程度上，人工智能已经直接影响到人类的生计：信誉度的自 动评估，车辆的自动驾驶，保释决定的自动准予等等。甚至，我们可以让Alexa打开咖啡机。 幸运的是

https://www.python.org/ftp/python/3.6.5/python-3.6.5- amd64.exe 2. 下载之后，双击 exe 文件安装，显示的界面如下： 图 1-1（Python3.6.5 安装界面） 注意：图 1-1 中的矩形框，必须手动选择上“add Python3.6 to PATH”之后再点击【Install Now】默认安装完成即可。 3. 安装好 Python

2022年02月 机器学习-降维 黄海广 副教授 2 本章目录 01 降维概述 02 SVD(奇异值分解) 03 PCA(主成分分析) 3 1.降维概述 01 降维概述 02 SVD(奇异值分解) 03 PCA(主成分分析) 4 1.降维概述 维数灾难(Curse of Dimensionality)：通常是指在涉及到向量的计算的问题 中，随着维数的增加，计算量呈指数倍增长的一种现象。 通过处理多重共线性消除冗余特征。 降维的缺点： • 由于降维可能会丢失一些数据； • 在主成分分析(PCA)降维技术中，有时需要考虑多少主成分是难以确定的，往往使用经验 法则 12 1.降维概述 13 2.SVD(奇异值分解) 01 降维概述 02 SVD(奇异值分解) 03 PCA(主成分分析) 14 2.SVD(奇异值分解) 奇异值分解 (Singular Value 符号定义 ? = ???T = ?1?1?1 T + ⋯ + ??????T 其中?是一个? × ?的矩阵，每个特征向量??叫做? 的左奇异向量。 ?是一个? × ?的矩阵，除了主对角线上的元素以外全为 0，主对角线上的每 个元素都称为奇异值 ?。 ?是一个? × ?的矩阵，每个特征向量??叫做 ? 的右奇异向量。 ?为矩阵?的秩(rank)。 ? 和 ?都是酉矩阵，即满足:?T? =

字母，而是增加一条曲线来使得图像分割 （segmentation）更困难。 另一种增加图像分割难度的方法为将符号彼此拥挤 在一起，但其也使得真人用户比较难以识别 要求用户识别图片的验证方式，本图为模拟12306 网站的验证界面 验证码（CAPTCHA）生成 https://zh.wikipedia.org/wiki/captcha 使用 Pillow（PIL Fork） 和 captcha 库生成验证码图像： PIL

迭代成本； • 支持Online Learning，提供从近线到在线的模型数据通路； • 提供从召回到排序全流程的模型解决方案，为业务提供最佳实践； • 提供系统的平台化工具，为用户提供易用的界面操作； MLX模型能力 MLX平台架构 MLX平台架构 • 基于Worker + PS架构搭建 • Worker  模型计算引擎（Engine）  计算图框架（Graph） • 模型计算引擎Engine

模块包含了一系列无监督降维算法 from sklearn.decomposition import PCA 导入PCA库，设置主成分数量为3，n_components代表主成分数量 pca = PCA(n_components=3) 训练模型 pca.fit(X) 投影后各个特征维度的方差比例(这里是三个主成分) print(pca.explained_variance_ratio_) 投影后的特征维度的方差

吴林颖.中国各地区人口特征和房价波动的动态关系[J].统计研究,2019,36(01) 1.PCA(Principal Component Analysis，主成分分析) PCA 是降维最经典的方法，它旨在是找到数据中的主成分，并利 用这些主成分来表征原始数据，从而达到降维的目的。 PCA 的思想是通过坐标轴转换，寻找数据分布的最优子空间。 对 样本 数据进 行中心化处理 求样本协方差 矩阵