《Deepseek R1 本地部署完全⼿册》 版权归：HomeBrew Ai Club 作者wechat：samirtan 版本：V2.0 更新⽇期：2025年2⽉8⽇ ⼀、简介 Deepseek R1 是⽀持复杂推理、多模态处理、技术⽂档⽣成的⾼性能通⽤⼤语⾔模型。本⼿册 为技术团队提供完整的本地部署指南，涵盖硬件配置、国产芯⽚适配、量化⽅案、云端替代⽅ 端替代⽅ 案及完整671B MoE模型的Ollama部署⽅法。 核⼼提示： 个⼈⽤户：不建议部署32B及以上模型，硬件成本极⾼且运维复杂。 企业⽤户：需专业团队⽀持，部署前需评估ROI（投资回报率）。 ⼆、本地部署核⼼配置要求 1. 模型参数与硬件对应表 模型参 数 Windows 配置要求 Mac 配置要求 适⽤场景 1.5B - RAM: 4GB - GPU: 集成显卡/现代CPU 24GB - GPU: RTX 3090（24GB VRAM） - 存储: 20GB - 内存: 32GB（M3 Max） - 存储: 20GB 复杂推理、技术⽂档⽣ 成 32B+ 企业级部署（需多卡并联） 暂不⽀持 科研计算、⼤规模数据 处理 2. 算⼒需求分析 模型 参数规 模 计算精 度 最低显存需 求 最低算⼒需求 DeepSeek-R1 (671B) 671B

. . . . . . . . . . . . . . . . . 13 3 零代码本地部署 AI 后端 13 3.1 大模型 Llama3 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13 3.1.1 步骤 1：安装 Ollama . . . . . . . . . . . . . . . . . . . . . 13 3 . . . . . 15 3.2 大模型 phi-3 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 17 3.2.1 Ollama 安装 phi-3 . . . . . . . . . . . . . . . . . . . . . . 17 3.2.2 使用 phi-3 . . . . . . . . . . . . . . . . . 21 4.3 步骤二 docker 部署 lobechat . . . . . . . . . . . . . . . . . . . . . 22 4.4 愉快使用 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23 4.5 部署常见问题 . . . . . . . . . . . . .

PDF 作者：郭震 2025.2.3 目录 1 本地部署并运行 DeepSeek . . . . . . . . . . . . . . . . . . . . . . 2 1.1 为什么要在本地部署 DeepSeek . . . . . . . . . . . . . . . . . 2 1.2 DeepSeek 本地部署三个步骤 . . . . . . . . . . . . . 11 4 参考文献 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11 1 1 本地部署并运行 DeepSeek 1.1 为什么要在本地部署 DeepSeek 在本地搭建大模型（如 DeepSeek）具有多个重要的优势，比如： 1. 保护隐私与数据安全。数据不外传：本地运行模型可以完全避免数据上 传至云端，确保敏感信息不被第三方访问。 到最低，普通电脑也能飞速运行。 1.2 DeepSeek 本地部署三个步骤 一共只需要三步，就能做到 DeepSeek 在本地运行并与它对话。 第一步，使用的是 ollama 管理各种不同大模型，ollama 比较直接、干净， 一键下载后安装就行，安装过程基本都是下一步。 不知道去哪里下载的，可以直接在我的公众号后台回复：ollama，下载这个 软件，然后装上，可以拿着手机扫码下图1直达我的公众号：

 语言支持：支持英文和中文内容 生成。 知网研学平台  界面友好：操作界面简洁明了，用户容易上 手，非技术背景用户也能快速学会使用该工 具进行文献综述的生成。  灵活定制：支持使用本地部署的语言模型， 为有特定需求的用户提供了更多灵活性。  实时演示：提供实时演示demo，方便用户了 解和体验工具的功能。  语言支持：仅支持英文输入和英文内容生成。 斯坦福STORM 生成综述对比：多维度对比 3%。 79.8 97.3 96.396.6 49.2 本地部署：灵活高效，协同优化  端侧部署能力  端云协同优化 DeepSeek的本地部署与云端计算相结合，实现高效的计算和传 输。例如，其蒸馏模型在端侧SoC（系统级芯片）上的表现，显 著降低了硬件门槛，同时提升了用户体验。 DeepSeek的本地部署在性能上表现出色，能够满足不同应用场景的需求，尤其是在端侧和端云协同场景。通过合理的 硬件配置和优化策略，DeepSeek可以在本地环境中高效运行，为用户提供强大的AI支持。 DeepSeek 在端侧部署中展现出较强的适应性和灵活性。 模型轻量化 DeepSeek通过蒸馏技术优化小模 型（1.5B/7B/8B/14B/32B/70B 参数规模），使其在本地部署中表 现出色，适合存储和计算资源有限 的端侧设备。 实时性 在端侧设备上，DeepSeek 能够满足实时性要求，例如

本。开发者免费下载大模型以后，会在自己的计算机资源上进行大模型应用的开发和调试。大模 型厂商提供一些技术支持即可。同时因为大模型运行在本地，开发者在构建大模型应用时，为了 物理部署上的便利，很可能会在应用与模型之间创造出物理部署上的耦合性。 当然这种“开源策略”不是进攻的方法，而是“先为不可胜，以待敌之可胜”。目标是以最 小的代价，尽可能多地消耗闭源对手的资源与心气。 顾钧 资深开发者社区运营专家，目前担任杭州映云科技 大模型（LLM）在编程上的应用及其生成代码的采纳率 在 2024 年，我们还看到了“AI 程序员”Devin 的诞生，Devin 能够独立完成复杂的编码和 调试任务、自主查找和修复代码库中的错误，构建和部署应用程序。在 SWE-bench 编码基准测 试中，Devin 能够解决 GitHub 中 13.86%的真实问题，有了很大提升。 说起 SWE-bench 编码基准测试（https://www 大模型浪潮中扮演重要角色的的 开源算法及其在大模型训练中的角色： TensorFlow 和 PyTorch：这两个深度学习框架是当前最流行的开源工具，提供了强大的计 算能力和灵活的模型构建方式。它们为大模型的训练和部署提供了基础设施支持，使得复杂的 AI 模型得以实现。 Transformer 架构：Transformer 架构是一种用于处理序列数据的开源算法，广泛应用于 NLP 任务，也是作为这一轮 AI

PRODUCT 产品篇 网易数帆旗下云原生技术与服务品牌 PRODUCT 低代码应用开发平台 LCAP 持续交付平台 CICD 流水线 容器部署 主机部署 策略部署 开放 治理 监控 事务 管理 DevOps 多云部署 服务治理 能力扩展 中间件高可用 全链路监控 容器平台NCS 轻舟混合云 多云管理 多集群管理 镜像仓库 容器管理 轻舟低代码 应用管理 可视化开发 规范，可视化 流程开发，可支持如请假、入职、离职等 企业内常用流程场景。 支持软件资产多层次复用 应用、页面、基础组件、扩展组件、接口 等不同粒度软件资产，均支持复用。 零成本部署运维 产出应用支持自动化部署在云原生平台 之上，无运维的代价，集成网易运维实 践。 产品能力 首批通过信通院认定项目：首批低代码无代码开发平台通用能力评测 产品荣誉 低代码开发优势 传统研发 以命令行语句为基础的 多云混合云 统一视图管理多云、混合云集群，应用多 集群部署、运维。 可视化流水线 模块化能力，支持可视化拖拽，快速配 置不同种类流水线。 国产化适配 ARM 生态支持，支持国产芯片及操作 系统。 可观测性 多维度日志、监控视图，自动化故障运 维。 高级部署策略 支持主机和容器部署，滚动部署、灰度 部署、蓝绿部署多种高级部署策略。 产品能力 产品能力 PRODUCT 提供企业已有主机中间件和基于

eek-R1 DeepSeek颠覆式创新——开源 33政企、创业者必读 新时代下的集中力量办大事  每个企业都可以直接使用DeepSeek，因为开源透明可信任，企业和 政府可做大量私有化部署  一个开源产品获得突破之后，全世界都能分享成果，结束中国百模大 战，节省大量成本  很多公司参与开源，帮助改进产品，很多人基于DS生态开发应用产 品，增加影响力，人人为我，我为人人  训练成本降低，堆显卡模式受质疑，探索新思路，算法优化空间大  无需训练自己的基座模型，直接部署在DeepSeek上，不用重复发明轮子  公开蒸馏方法，帮助其他模型提升能力，实现了模型制造模型，犹如工业母机  小模型可部署在企业内电脑或一体机上，使用成本降低，形成分布式推理网络  技术门槛降低， 可标准化、SaaS化部署，下载就能用 DeepSeek颠覆式创新——成本暴跌 35政企、创业者必读 惠及全球人民，科技平权，技术平民化 惠及全球人民，科技平权，技术平民化  运营商、云服务可免费用，降低云服务成本  大型企业可使用多个DeepSeek，解决不同场景需求  中小企业免费部署，消除数字鸿沟  个人可以拥有自己的DeepSeek ，可以成为超级个体  对于创业者得到世界最先进大模型，如虎添翼，和巨头站在 同一起跑线上  很多发展中国家都能成为大模型玩家，实现人类命运共同体 DeepSeek颠覆式创新——免费

多云管理⽀持 超⼤规模 分布式资产⽀持 全⾯的数据库 运维安全审计⽀持 ⽀持审计录像 的云端存储 内置多组织体系 强⼤的 远程应⽤发布能⼒ 灵活的 软件 / 硬件 部署⽅案选择 1 3 6 8 2 4 5 7 体验极佳的 Web Terminal Linux Web Terminal Windows Web Terminal 特⾊功能⼀ SFTP com 离散⼊⼝分布式部署⽅案 区域 A 区域 B 超⼤规模分布式资产⽀持 - ⽀持多分⽀、多区域的集群分布式互联部署 - B.jms.com 负载均衡 JS - 2 JS - N JS - A 负载均衡 JS - B JS - N 访问不同的节点， 访问不同地域资产 数据库 JS - 1 统⼀存储 缓存 A.jms.com 集中⼊⼝分布式部署⽅案 区域 A 区域 内置多组织体系 特⾊功能六 统⼀管理 统⼀审计 特⾊功能七 强⼤的远程应⽤发布能⼒ 灵活的软件 / 硬件部署⽅案选择 软件形态 JumpServer 企业版 硬件形态 JumpServer ⼀体机 （基础、标准、专业、旗舰） （标准、专业） 注：⽀持软硬件混合部署模式。 特⾊功能⼋ 1 2 企业为什么需要堡垒机？ JumpServer 堡垒机的优势 JumpServer

国内基础软件开源界定 基础软件 具备能衍生出并支撑 多个技术簇的一类根 技术软件，拥有技术 门槛高、衍生场景复 杂等特点 中间件：不同系统和应用程序之间交互 与协作的桥梁 AI框架：具备构建和部署人工智能模型 的基础的全套开发工具 操作系统：是软硬件资源的资源管理者， 为用户与应用程序提供交互接口 数据库：通过对数据的访问与管理，支 持各种应用程序和业务的需求 编程语言：人与计算机交互的“语言”， 此， 企业应转变短视思路，认识到开源是一种长期行为，对应制定长期战略。仅以投入产出比衡量开源项目收益将忽视开源对于企业在 提升技术领导力、增进创新力、构建活力生态、树立行业标准方面的贡献，短视的战略部署无法支撑企业持续投入，等到开源项目 的最终开花结果。 来源：根据专家访谈、公开资料，由艾瑞咨询研究院自主研究及绘制。 开源项目长期投入要素及长期收益 开 源 长 期 战 略 （ 顶 层 设 计 注释：指标数据时间截止2023年11月。 来源：根据专家访谈、公开资料，由艾瑞咨询研究院自主研究及绘制。 OpenHarmony社区发展概览 自由流 转智慧 协同 扎实技术功底 架构解 耦弹性 部署 极简开 发一致 体验 2020.09 OpenHarmony 1.0支持无屏设备 2021.05 OpenHarmony 2.0支持小型带屏设备 2021.09 OpenHarmony 3