描述问题背景与目标， 由模型规划解决路径 复杂问题、需模型自主 推理 “我需要优化用户登录流程， 请分析当前瓶颈并提出3种方 案。” ✅ 激发模型深层推理 ❌ 需清晰定义需求边界 混合模式 结合需求描述与关键 约束条件 平衡灵活性与可控性 “设计一个杭州三日游计划， 要求包含西湖和灵隐寺，且 预算控制在2000元内。” ✅ 兼顾目标与细节 ❌ 需避免过度约束 启发式提问 AI输出的要求 和预期。 提示语类型 提示语的本质 1. 指令型提示语：直接告诉AI需要执行的任务。 2. 问答型提示语：向AI提出问题，期望得到相应的 答案。 3. 角色扮演型提示语：要求AI扮演特定角色，模拟 特定场景。 4. 创意型提示语：引导AI进行创意写作或内容生成。 5. 分析型提示语：要求AI对给定信息进行分析和推 理。 6. 多模态提示语：结合文本、图像等多种形式的 列出与主题相关的所有关键概念和理论，并进行系统梳理。 3. 使用逻辑框架图展示信息收集、分析和结论的过程。 4. 针对每个关键概念，撰写简要解释并说明其在文章中的作用。 5. 通过案例分析或实例应用，验证思维框架的有效性和适用性。 �实战技巧： 知识激活与联想 1. 列出与[主题]相关的所有关键知识点，逐一进行详细解释。 2. 从不同领域中寻找与[问题]相关的知识点，并进行创造性联想。

描述问题背景与目标， 由模型规划解决路径 复杂问题、需模型自主 推理 “我需要优化用户登录流程， 请分析当前瓶颈并提出3种方 案。” ✅ 激发模型深层推理 ❌ 需清晰定义需求边界 混合模式 结合需求描述与关键 约束条件 平衡灵活性与可控性 “设计一个杭州三日游计划， 要求包含西湖和灵隐寺，且 预算控制在2000元内。” ✅ 兼顾目标与细节 ❌ 需避免过度约束 启发式提问 AI输出的要求 和预期。 提示语类型 提示语的本质 1. 指令型提示语：直接告诉AI需要执行的任务。 2. 问答型提示语：向AI提出问题，期望得到相应的 答案。 3. 角色扮演型提示语：要求AI扮演特定角色，模拟 特定场景。 4. 创意型提示语：引导AI进行创意写作或内容生成。 5. 分析型提示语：要求AI对给定信息进行分析和推 理。 6. 多模态提示语：结合文本、图像等多种形式的 列出与主题相关的所有关键概念和理论，并进行系统梳理。 3. 使用逻辑框架图展示信息收集、分析和结论的过程。 4. 针对每个关键概念，撰写简要解释并说明其在文章中的作用。 5. 通过案例分析或实例应用，验证思维框架的有效性和适用性。 �实战技巧： 知识激活与联想 1. 列出与[主题]相关的所有关键知识点，逐一进行详细解释。 2. 从不同领域中寻找与[问题]相关的知识点，并进行创造性联想。

一 代 推 理 模 型 D e e p S e e k - R 1 ， 性 能 与 O p e n A I 的 o 1 正 式 版 持平，并开源 2 0 2 5 年 1 月 2 0 日 2 0 2 4 年 1 2 月 2 6 日 发 布 总 参 数 达 6 7 1 0 亿 的 D e e p S e e k - V 3 ， 采 用 创 新 MoE架构和FP8混合精度训练， 训练成本大幅降低 推理能力专项提升：在除了利用强化学习模型结合跨领域训练提升模 型综合技能以外，还重点提升了模型在数学、代码、逻辑推理等硬核 任务上的能力。  推理过程 DeepSeek R1 在推理过程中采用“深度思考”模式，通过展示完整的 推理路径来提高模型的可解释性和可信度。 在生成答案前展示其推理过 程，让用户看到模型如何分 解问题并得出结论。包括模 型对问题的理解、问题分解、 以及逐步求解的过程。 通过展示推理路径，使得 基 础 模 型 ， 进 行 大 规 模 强 化 学 习 。 此 阶 段 引 入 语 言 一 致 性 奖 励 ， 优 化 模 型 在 数 学 、 编 程 等 结 构 化 任 务 中 的表现。 第二阶段：拒绝 采样与监督微调 通 过 拒 绝 采 样 从 R L 检 查 点 生 成 新 的 合 成 数 据 ， 并 与 写 作 、 事 实 问 答 等 领 域的监督数据混合。 然 后

所示。其中，基础共性标准是人 工智能的基础性、框架性、总体性标准。基础支撑标准主要 规范数据、算力、算法等技术要求，为人工智能产业发展夯 实技术底座。关键技术标准主要规范人工智能文本、语音、 图像，以及人机混合增强智能、智能体、跨媒体智能、具身 智能等的技术要求，推动人工智能技术创新和应用。智能产 品与服务标准主要规范由人工智能技术形成的智能产品和 服务模式。赋能新型工业化标准主要规范人工智能技术赋能 基础共性标准主要包括人工智能术语、参考架构、测试评估、 管理、可持续等标准。 1. 术语标准。规范人工智能相关技术、应用的概念定义， 为其它标准的制定和人工智能研究提供参考，包括人工智能相关 术语定义、范畴、实例等标准。 2. 参考架构标准。规范人工智能相关技术、应用及系统的 逻辑关系和相互作用，包括人工智能参考架构、人工智能系统生 命周期及利益相关方等标准。 3. 测试评估标准。规范人工智能技术发展的成熟度、人工 口协议和测试方法，及使能软件的访问协议、功能、性能、能效 的测试方法和运行维护要求等标准。 5. 算力中心标准。规范面向人工智能的大规模计算集群、 新型数据中心、智算中心、基础网络通信、算力网络、数据存储 8 等基础设施的技术要求和评估方法，包括基础设施参考架构、计 算能力评估、技术要求、稳定性要求和业务服务接口等标准。 6. 系统软件标准。规范人工智能系统层的软硬件技术要求， 包括软硬件

为大模型提供高效的存储和检索能力 大模型框架及微调 (Fine Tuning) 大模型框架提供基本能力和普适性，而微调 则是实现特定应用和优化性能的关键环节 大模型训练平台&工具 提供了在不同硬件和环境中训练大语言模型 所需的基础设施和支持 编程语言 以 Python 为代表 5 / 32 LLM 基础设施：向量数据库/数据库向量支持 向量数据库是专门用于存储和检索向量数据的数据库，它可以为 数据库，它可以为 LLM 提供高效的存储和检索能力。通过数据向量化，实现了 在向量数据库中进行高效的相似性计算和查询。 根据向量数据库的的实现方式,可以将向量数据库大致分为两类： 原生的向量数据库专门为存储和检索向量而设计， 所管理的数据是基于对象或数据点的向量表示进行 组织和索引。 包括 等均属于原生向量数据库。 除了选择专业的向量数据库，对传统数据库添加 “向量支持”也是主流方案。比如 相比前边的大模型框架和微调，一言以蔽之： 、 11 / 32 LLM 基础设施：大模型训练平台与工具 大模型训练平台与工具根据其性质不同，可分为以下几类： 这些平台提供了从模型开发到部署的综合解决方案，包括计算资源、 数据存储、模型训练和部署服务。它们通常提供易于使用的界面，支 持快速迭代和大规模部署。Amazon SageMaker、Google Cloud AI Platform 和 Microsoft Azure

1. 保护隐私与数据安全。数据不外传：本地运行模型可以完全避免数据上 传至云端，确保敏感信息不被第三方访问。 2. 可定制化与优化。支持微调（Fine-tuning）：可以根据特定业务需求对模 型进行微调，以适应特定任务，如行业术语、企业内部知识库等。 3. 离线运行，适用于无网络环境。可在离线环境下运行：适用于无互联网 连接或网络受限的场景。提高系统稳定性：即使云服务宕机，本地大模型依 ed Reinforcement Learn- ing）得到中间推理模型（Iterim reasoning model）, 图8会详细解释中间模 型的训练过程。 DeepSeek-R1 核心贡献：首次验证了通过纯强化学习也能大幅提升大模 型推理能力，开源纯强化学习推理模型 DeepSeek-R1-Zero R1-Zero 能生成高质量的推理数据，包括大量长链式思维（Chain-of-Thought CoT）示例，用于支持后续的 SFT 阶段，如图7所示。更加详细介绍参考3.2节。 3.1.2 核心创新 2：通用强化学习 第一阶段 R1-Zero 虽然展现出惊人的推理能力提升，但是也出现了回复时 语言混合，非推理任务回复效果差的问题，为了解决这些问题，DeepSeek 提出通用强化学习训练框架。 如图7所示，通用强化学习（General Reinforcement Learning）基于 SFT-

描述问题背景与目标， 由模型规划解决路径 复杂问题 、需模型自主 推理 “我需要优化用户登录流程， 请分析当前瓶颈并提出3种方 案 。 ” 激发模型深层推理 需清晰定义需求边界 混合模式 结合需求描述与关键 约束条件 平衡灵活性与可控性 “设计一个杭州三日游计划， 要求包含西湖和灵隐寺， 且 预算控制在2000元内 。 ” 兼顾目标与细节 需避免过度约束 “使用你的创意写作能力,创作一个关于时 间旅行的短篇故事” 1. 指令型提示语： 直接告诉AI需要执行的任务 。 2. 问答型提示语： 向AI提出问题， 期望得到相应的 答案 。 3. 角色扮演型提示语： 要求AI扮演特定角色 ，模拟 特定场景 。 4. 创意型提示语： 引导AI进行创意写作或内容生成 。 5. 分析型提示语： 要求AI对给定信息进行分析和推 理

RAM: 4GB - GPU: 集成显卡/现代CPU - 存储: 5GB - 内存: 8GB （M1/M2/M3） - 存储: 5GB 简单⽂本⽣成、基础代 码补全 7B - RAM: 8-10GB - GPU: GTX 1680（4-bit量 化） - 存储: 8GB - 内存: 16GB（M2 Pro/M3） - 存储: 8GB 中等复杂度问答、代码 调试 14B - - RAM: 24GB - GPU: RTX 3090（24GB VRAM） - 存储: 20GB - 内存: 32GB（M3 Max） - 存储: 20GB 复杂推理、技术⽂档⽣ 成 32B+ 企业级部署（需多卡并联） 暂不⽀持 科研计算、⼤规模数据 处理 2. 算⼒需求分析 模型 参数规 模 计算精 度 最低显存需 求 最低算⼒需求 DeepSeek-R1 (671B) 性能表现（短⽂本⽣成） 消费级设备 Mac Studio（192GB统⼀内存） 10+ token/秒 ⾼性能服务器 4×RTX 4090（96GB显存+384GB内存） 7-8 token/秒（混合推理） 3. 部署步骤（Linux示例） 1. 安装依赖⼯具： # 安装llama.cpp（⽤于合并分⽚⽂件） /bin/bash -c "$(curl -fsSL https://raw.githubusercontent

（b）在设计、研发、部署、维护过程中建立并实施安全开发规范，尽可 能消除模型算法存在的安全缺陷、歧视性倾向，提高鲁棒性。 4.1.2 数据安全风险应对 （a） 在训练数据和用户交互数据的收集、存储、使用、加工、传输、提 供、公开、删除等各环节，应遵循数据收集使用、个人信息处理的安全规则， 严格落实关于用户控制权、知情权、选择权等法律法规明确的合法权益。 （b） 加强知识产权保护，在训练数据选择、结果输出等环节防止侵犯知 可以回退到以前的商用版本。 （g）研发者应定期开展安全评估测试，测试前明确测试目标、范围和安 全维度，构建多样化的测试数据集，涵盖各种应用场景。 （h）研发者应制定明确的测试规则和方法，包括人工测试、自动测试、 混合测试等，利用沙箱仿真等技术对模型进行充分测试和验证。 （i） 研发者应评估人工智能模型算法对外界干扰的容忍程度，以适用范 围、注意事项或使用禁忌的形式告知服务提供者和使用者。 （j） 研发者应

界面简洁但因表情符出现又不失枯燥 4 零代码搭建本地 AI 前端 到目前，我们使用大模型的界面还是一个终端窗口，黑乎乎的，交互不友好。 这章教你搭建一个美观炫酷的前端网页，如图 20所示，让你使用本地大模 型，更方便！更舒心！关键搭建简单，顺利的话，三五分钟搞定。后面完全免费 畅享使用大模型！ Figure 20: 使用开源 LobeChat 搭建美观的大模型前端界面 19 4.1 LobeChat 镜像（Image）：用于创建容器的只读模板。一个镜像可以包含完整的操作 系统环境。 3. Dockerfile：定义镜像内容的文本文件，包含了构建镜像的所有指令。 4. Docker Hub：公共的 Docker 镜像仓库，用于存储和分发 Docker 镜像。 5. 拉取镜像：docker pull 6. 构建镜像：在包含 Dockerfile 目录中运行：docker build -t 件都传入到这个知识库里面，因为都是在本地构建，放心使用，如图 40所示： Figure 40: MaxKB 界面-知识库配置续 35 这里的知识库系统有两种，一种是通用型，也就是自己的文档本地上传，另 一种是 web 站点，用某些网站作为知识库构建的数据来源。在这里根据我的需 求，应该选择通用型。 然后点击进入选择文件夹这里，上传我的 Python 副业代码文件，说明文档， 数据格式可以是 txt、word、pdf、ppt 等，在确定需要上传的文档后，点击图