《Deepseek R1 本地部署完全⼿册》 版权归：HomeBrew Ai Club 作者wechat：samirtan 版本：V2.0 更新⽇期：2025年2⽉8⽇ ⼀、简介 Deepseek R1 是⽀持复杂推理、多模态处理、技术⽂档⽣成的⾼性能通⽤⼤语⾔模型。本⼿册 为技术团队提供完整的本地部署指南，涵盖硬件配置、国产芯⽚适配、量化⽅案、云端替代⽅ 端替代⽅ 案及完整671B MoE模型的Ollama部署⽅法。 核⼼提示： 个⼈⽤户：不建议部署32B及以上模型，硬件成本极⾼且运维复杂。 企业⽤户：需专业团队⽀持，部署前需评估ROI（投资回报率）。 ⼆、本地部署核⼼配置要求 1. 模型参数与硬件对应表 模型参 数 Windows 配置要求 Mac 配置要求 适⽤场景 1.5B - RAM: 4GB - GPU: 集成显卡/现代CPU 24GB - GPU: RTX 3090（24GB VRAM） - 存储: 20GB - 内存: 32GB（M3 Max） - 存储: 20GB 复杂推理、技术⽂档⽣ 成 32B+ 企业级部署（需多卡并联） 暂不⽀持 科研计算、⼤规模数据 处理 2. 算⼒需求分析 模型 参数规 模 计算精 度 最低显存需 求 最低算⼒需求 DeepSeek-R1 (671B) 671B

100年前vs现在 的平均温度 海平面 上升 每年上升3.3毫米 马尔代夫岛屿被 淹没的风险 海浪拍打着曾经的 陆地，咸涩的海风 50年前vs现在的 海岸线 极端天 气 强飓风发生频率 增加20% 2022年欧洲热浪 狂风呼啸，暴雨如 注，令人窒息的高 温 正常夏天vs热浪 天气 �DES实施步骤： 1. 识别关键概念：确定需要详细阐述的核心想法 2. 设计细节矩阵：为每个关键概念创建多维度的细 、启动、高潮和持续阶段。标注 关键时间节点和相应的传播重点。 （10）效果评估（600字内）： 设定5—7个关键绩效指标（KPI），涵盖曝光、参与、转化和品牌健康度等方面。 说明数据来源和评估频率。 （11）危机预案（500字内）： 列出2—3个可能的传播风险，并为每个风险提供简要的应对策略。 预算分配建议： 按渠道和阶段列出预算分配比例，确保资源的最优化使用。 请基于以上要求，生成一份全面、创新且可执行的传播策略方案。 识别5—7个潜在风险点，评估其发生概率和影响 程度。为每个高风险项目制定具体的预防和应对措施。 10. 利益相关者沟通计划（1800字内）：设计一个定期向各利益相关者（如高管、 合作伙伴、媒体）汇报项目进展的机制。指明沟通频率、方式和关键信息点。 11. 应急预案（1000字内）：为2—3个可能的重大意外情况（如重要环节延期、预 算超支、负面舆情等）制定详细的应急预案。包括触发条件、响应流程和补救措施。 12. 执

100年前vs现在 的平均温度 海平面 上升 每年上升3.3毫米 马尔代夫岛屿被 淹没的风险 海浪拍打着曾经的 陆地，咸涩的海风 50年前vs现在的 海岸线 极端天 气 强飓风发生频率 增加20% 2022年欧洲热浪 狂风呼啸，暴雨如 注，令人窒息的高 温 正常夏天vs热浪 天气 �DES实施步骤： 1. 识别关键概念：确定需要详细阐述的核心想法 2. 设计细节矩阵：为每个关键概念创建多维度的细 、启动、高潮和持续阶段。标注 关键时间节点和相应的传播重点。 （10）效果评估（600字内）： 设定5—7个关键绩效指标（KPI），涵盖曝光、参与、转化和品牌健康度等方面。 说明数据来源和评估频率。 （11）危机预案（500字内）： 列出2—3个可能的传播风险，并为每个风险提供简要的应对策略。 预算分配建议： 按渠道和阶段列出预算分配比例，确保资源的最优化使用。 请基于以上要求，生成一份全面、创新且可执行的传播策略方案。 识别5—7个潜在风险点，评估其发生概率和影响 程度。为每个高风险项目制定具体的预防和应对措施。 10. 利益相关者沟通计划（1800字内）：设计一个定期向各利益相关者（如高管、 合作伙伴、媒体）汇报项目进展的机制。指明沟通频率、方式和关键信息点。 11. 应急预案（1000字内）：为2—3个可能的重大意外情况（如重要环节延期、预 算超支、负面舆情等）制定详细的应急预案。包括触发条件、响应流程和补救措施。 12. 执

率的变化更多受到提示词的影响，而相似度的变化则主要源 于问题类型以外的其他因素。 p 通过调整提示词收敛性和对话轮次，AI从依赖已有知识的固定模式向创新性生成内容逐步转变，显示提示词设计和交 互频率的影响力。 结合自适应反馈和递进式提示链 让AI生成优质内容 知识生成后的检验：研究的闭环 p 为什么要检验？回归知识的定义：有效性和社会指导性 p 如何检验？实验的方式 探讨智能体生成内容在知识准确性、逻辑一致性和内容创新

. . . . . . . 13 2.6.4 Llama3 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13 3 零代码本地部署 AI 后端 13 3.1 大模型 Llama3 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13 3.1.1 步骤 1：安装 Ollama . . . . . 21 4.3 步骤二 docker 部署 lobechat . . . . . . . . . . . . . . . . . . . . . 22 4.4 愉快使用 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23 4.5 部署常见问题 . . . . . . . . . . . . . Figure 6: AI 编程工具 2.4.3 AirOps 用于生成和修改 SQL 语句的工具，旨在简化数据库操作。 2.4.4 ChatDev 面壁智能开发的 AI 智能体开发平台，支持创建和部署智能对话系统。 2.4.5 solo Mozilla 开源项目，提供零代码网站开发功能，易于使用。 2.4.6 Cursor 开源的 AI 代码编辑器，旨在通过 AI 技术助力快速软件开发。

eek-R1 DeepSeek颠覆式创新——开源 33政企、创业者必读 新时代下的集中力量办大事  每个企业都可以直接使用DeepSeek，因为开源透明可信任，企业和 政府可做大量私有化部署  一个开源产品获得突破之后，全世界都能分享成果，结束中国百模大 战，节省大量成本  很多公司参与开源，帮助改进产品，很多人基于DS生态开发应用产 品，增加影响力，人人为我，我为人人  训练成本降低，堆显卡模式受质疑，探索新思路，算法优化空间大  无需训练自己的基座模型，直接部署在DeepSeek上，不用重复发明轮子  公开蒸馏方法，帮助其他模型提升能力，实现了模型制造模型，犹如工业母机  小模型可部署在企业内电脑或一体机上，使用成本降低，形成分布式推理网络  技术门槛降低， 可标准化、SaaS化部署，下载就能用 DeepSeek颠覆式创新——成本暴跌 35政企、创业者必读 惠及全球人民，科技平权，技术平民化 惠及全球人民，科技平权，技术平民化  运营商、云服务可免费用，降低云服务成本  大型企业可使用多个DeepSeek，解决不同场景需求  中小企业免费部署，消除数字鸿沟  个人可以拥有自己的DeepSeek ，可以成为超级个体  对于创业者得到世界最先进大模型，如虎添翼，和巨头站在 同一起跑线上  很多发展中国家都能成为大模型玩家，实现人类命运共同体 DeepSeek颠覆式创新——免费

e-ai-infrastructure- vector-database/） 7 / 32 LLM 基础设施：大模型框架及微调 (Fine Tuning) 大模型框架指专门设计用于构建、训练和部署大型机器 学习模型和深度学习模型的软件框架。这些框架提供了 必要的工具和库，使开发者能够更容易地处理大量的数 据、管理巨大的网络参数量，并有效地利用硬件资源。 微调（Fine Tuning）是在大模型框架基础上进行的一个 数据集，这些数据将用于微调模型； 3.微调训练：在任务特定数据上训练预训练的模型， 调整模型参数以适应特定任务； 4.评估：在验证集上评估模型性能，确保模型对新 数据有良好的泛化能力； 5.部署：将性能经验证的模型部署到实际应用中去。 微调的过程也是分类模型训练的过程 (图源：https://medium.com/mlearning-ai/what-is-a-fine-tuned-llm-67bf0b5df081) 11 / 32 LLM 基础设施：大模型训练平台与工具 大模型训练平台与工具根据其性质不同，可分为以下几类： 这些平台提供了从模型开发到部署的综合解决方案，包括计算资源、 数据存储、模型训练和部署服务。它们通常提供易于使用的界面，支 持快速迭代和大规模部署。Amazon SageMaker、Google Cloud AI Platform 和 Microsoft Azure Machine Learning

 语言支持：支持英文和中文内容 生成。 知网研学平台  界面友好：操作界面简洁明了，用户容易上 手，非技术背景用户也能快速学会使用该工 具进行文献综述的生成。  灵活定制：支持使用本地部署的语言模型， 为有特定需求的用户提供了更多灵活性。  实时演示：提供实时演示demo，方便用户了 解和体验工具的功能。  语言支持：仅支持英文输入和英文内容生成。 斯坦福STORM 生成综述对比：多维度对比 3%。 79.8 97.3 96.396.6 49.2 本地部署：灵活高效，协同优化  端侧部署能力  端云协同优化 DeepSeek的本地部署与云端计算相结合，实现高效的计算和传 输。例如，其蒸馏模型在端侧SoC（系统级芯片）上的表现，显 著降低了硬件门槛，同时提升了用户体验。 DeepSeek的本地部署在性能上表现出色，能够满足不同应用场景的需求，尤其是在端侧和端云协同场景。通过合理的 硬件配置和优化策略，DeepSeek可以在本地环境中高效运行，为用户提供强大的AI支持。 DeepSeek 在端侧部署中展现出较强的适应性和灵活性。 模型轻量化 DeepSeek通过蒸馏技术优化小模 型（1.5B/7B/8B/14B/32B/70B 参数规模），使其在本地部署中表 现出色，适合存储和计算资源有限 的端侧设备。 实时性 在端侧设备上，DeepSeek 能够满足实时性要求，例如

PDF 作者：郭震 2025.2.3 目录 1 本地部署并运行 DeepSeek . . . . . . . . . . . . . . . . . . . . . . 2 1.1 为什么要在本地部署 DeepSeek . . . . . . . . . . . . . . . . . 2 1.2 DeepSeek 本地部署三个步骤 . . . . . . . . . . . . . 11 4 参考文献 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11 1 1 本地部署并运行 DeepSeek 1.1 为什么要在本地部署 DeepSeek 在本地搭建大模型（如 DeepSeek）具有多个重要的优势，比如： 1. 保护隐私与数据安全。数据不外传：本地运行模型可以完全避免数据上 传至云端，确保敏感信息不被第三方访问。 R1，开源免费，性能强劲 • 本教程搭建方法 零成本，不需花一分钱。 • 为了照顾到大部分读者，推荐的搭建方法已将电脑配置要求降 到最低，普通电脑也能飞速运行。 1.2 DeepSeek 本地部署三个步骤 一共只需要三步，就能做到 DeepSeek 在本地运行并与它对话。 第一步，使用的是 ollama 管理各种不同大模型，ollama 比较直接、干净， 一键下载后安装就行，安装过程基本都是下一步。