《Deepseek R1 本地部署完全⼿册》 版权归：HomeBrew Ai Club 作者wechat：samirtan 版本：V2.0 更新⽇期：2025年2⽉8⽇ ⼀、简介 Deepseek R1 是⽀持复杂推理、多模态处理、技术⽂档⽣成的⾼性能通⽤⼤语⾔模型。本⼿册 为技术团队提供完整的本地部署指南，涵盖硬件配置、国产芯⽚适配、量化⽅案、云端替代⽅ 端替代⽅ 案及完整671B MoE模型的Ollama部署⽅法。 核⼼提示： 个⼈⽤户：不建议部署32B及以上模型，硬件成本极⾼且运维复杂。 企业⽤户：需专业团队⽀持，部署前需评估ROI（投资回报率）。 ⼆、本地部署核⼼配置要求 1. 模型参数与硬件对应表 模型参 数 Windows 配置要求 Mac 配置要求 适⽤场景 1.5B - RAM: 4GB - GPU: 集成显卡/现代CPU 24GB - GPU: RTX 3090（24GB VRAM） - 存储: 20GB - 内存: 32GB（M3 Max） - 存储: 20GB 复杂推理、技术⽂档⽣ 成 32B+ 企业级部署（需多卡并联） 暂不⽀持 科研计算、⼤规模数据 处理 2. 算⼒需求分析 模型 参数规 模 计算精 度 最低显存需 求 最低算⼒需求 DeepSeek-R1 (671B) 671B

eek-R1 DeepSeek颠覆式创新——开源 33政企、创业者必读 新时代下的集中力量办大事  每个企业都可以直接使用DeepSeek，因为开源透明可信任，企业和 政府可做大量私有化部署  一个开源产品获得突破之后，全世界都能分享成果，结束中国百模大 战，节省大量成本  很多公司参与开源，帮助改进产品，很多人基于DS生态开发应用产 品，增加影响力，人人为我，我为人人  训练成本降低，堆显卡模式受质疑，探索新思路，算法优化空间大  无需训练自己的基座模型，直接部署在DeepSeek上，不用重复发明轮子  公开蒸馏方法，帮助其他模型提升能力，实现了模型制造模型，犹如工业母机  小模型可部署在企业内电脑或一体机上，使用成本降低，形成分布式推理网络  技术门槛降低， 可标准化、SaaS化部署，下载就能用 DeepSeek颠覆式创新——成本暴跌 35政企、创业者必读 惠及全球人民，科技平权，技术平民化 惠及全球人民，科技平权，技术平民化  运营商、云服务可免费用，降低云服务成本  大型企业可使用多个DeepSeek，解决不同场景需求  中小企业免费部署，消除数字鸿沟  个人可以拥有自己的DeepSeek ，可以成为超级个体  对于创业者得到世界最先进大模型，如虎添翼，和巨头站在 同一起跑线上  很多发展中国家都能成为大模型玩家，实现人类命运共同体 DeepSeek颠覆式创新——免费

工具、API 提速降价、更多的 API 开放。 2023 年 8 月，谷歌宣布推出 AI 代码编辑器 Project IDX，一个基于浏览器的 开发环境：集成 AI、支持全栈编程语言、跨平台真机预览、一键部署，用于 构建全栈网络和多平台应用程序。 2023 年 10 月，百川智能发布 Baichuan2-192K 大模型，上下文窗口长度高 达 192K，号称是当时全球最长的上下文窗口，能够处理约 35 该问题在广大社交平台上引起热议， 受影响的电信用户反馈，首先是信号 关停，然后恢复到 2G 网络，但迟迟未 能恢复到 4G 或 5G 网络。 此后中国电信客服回应表示，电信基 站全省（广东电信）故障，暂时不能 拨打电话，请耐心等待，现在紧急加 急处理中，不便之处，敬请谅解。 历时 4 个小时左右，广东省内电信网 络全面恢复。 中国电信大规模无服务 3 月 29 日，“唯品会崩了” 登上热搜，由 于崩溃时间太长，影响了很多消费者无法 软 首 席 软 件 工 程 经 理 Eric Mattingly 出面针对此次故障事件道 歉，并透露了导致中断的原因： 即，一个简单的拼写错误致使 17 个 生产级数据库被删除。 唯品会崩了 登上热搜 2023 年 3 月 29 日凌晨，腾讯旗下的微信和 QQ 等业务曾出现崩溃状况，包 括微信语音对话、朋友圈、微信支付，以及 QQ 文件传输、QQ 空间和 QQ 邮 箱在内的多个功能无法使用。

多云管理⽀持 超⼤规模 分布式资产⽀持 全⾯的数据库 运维安全审计⽀持 ⽀持审计录像 的云端存储 内置多组织体系 强⼤的 远程应⽤发布能⼒ 灵活的 软件 / 硬件 部署⽅案选择 1 3 6 8 2 4 5 7 体验极佳的 Web Terminal Linux Web Terminal Windows Web Terminal 特⾊功能⼀ SFTP com 离散⼊⼝分布式部署⽅案 区域 A 区域 B 超⼤规模分布式资产⽀持 - ⽀持多分⽀、多区域的集群分布式互联部署 - B.jms.com 负载均衡 JS - 2 JS - N JS - A 负载均衡 JS - B JS - N 访问不同的节点， 访问不同地域资产 数据库 JS - 1 统⼀存储 缓存 A.jms.com 集中⼊⼝分布式部署⽅案 区域 A 区域 内置多组织体系 特⾊功能六 统⼀管理 统⼀审计 特⾊功能七 强⼤的远程应⽤发布能⼒ 灵活的软件 / 硬件部署⽅案选择 软件形态 JumpServer 企业版 硬件形态 JumpServer ⼀体机 （基础、标准、专业、旗舰） （标准、专业） 注：⽀持软硬件混合部署模式。 特⾊功能⼋ 1 2 企业为什么需要堡垒机？ JumpServer 堡垒机的优势 JumpServer

ten trends. So in this preface, let us talk about our feelings. 出圈 / Out of the Circle 开源不仅越来越热，而且已经在圈外的朋友中引发了各种讨论。首先是嗅觉灵敏的投资人开始 关注开源这个“赛道”，然后是基于中美对抗的背景，很多人开始从国际政治、国家实力、国家 安全的角度，来探讨开源（这个原本是纯技术的 students and 29% developers. 【专家点评】/ [Expert Comment] 堵俊平：参加开源项目的开发者有超过四成是学生。这一方面说明高校学生参与开源的热 情高涨，学校里老师们也鼓励和重视开源；另一方面，也说明现有的 IT 从业人员在开源 领域投入的比例偏小。开源领域资深专家的比例偏低，技术人员梯度不够合理，也是国内 各大开源社区在吸引贡献者方面，可以优化的地方。 近二十年间，一级市场的投资布局在投资规模和融资事件都在持续上升。据不完全统计，全球 开源软件 2021 年在资本市场融资金额为 50 多亿美元，融资交易事件为 30 起。资本市场上对 开源行业的大力热捧主要源于二级市场上开源软件公司的良好表现，已上市企业较高的估值倍 数给予一级市场投资者信心。同时，开源软件公司的从成立到上市的周期也在缩短，从早期的 10 到 15 年，缩短到现在的 3 到 8

所有人都在奋力奔跑，奋勇向前。 去年的中国开源年度报告，我们总结了三个趋势，今年的报告，我 们索性新增了《开源大事记》栏目，整整总结了十个趋势。所以在 这个前言里，我们就聊聊感想吧。 出圈 开源不仅越来越热，而且已经在圈外的朋友中引发了各种讨论。首 先是嗅觉灵敏的投资人开始关注开源这个“赛道”，然后是基于中美 对抗的背景，很多人开始从国际政治、国家实力、国家安全的角度， 来探讨开源（这个原本是纯技术的范畴）。直到最近几起开源软件安 十年间， 一级市场的投资布局在投资规模和融资事件都在持续上升。据不完全统计，全球开源软件 2021 年在资 本市场融资金额为 50 多亿美元，融资交易事件为 30 起。资本市场上对开源行业的大力热捧主要源于二 级市场上开源软件公司的良好表现，已上市企业较高的估值倍数给予一级市场投资者信心。同时，开源 软件公司的从成立到上市的周期也在缩短，从早期的 10 到 15 年，缩短到现在的 3 到 8 件的供应商，并且可以以比较小的成本来改变供应商的选择， 因此用户可以放心地选择长期使用软件。相反地，当顾客使用闭源产品时，如果在使用一段时间后想要 转换使用另一个软件，需要重新进行硬件、数据等的部署，造成不小的转移成本，因此当用户选择使用 闭源软件时，可能会由于软件后期开发情况不满足需求或者转移成本过高而放弃对软件的继续使用。 2021 中国开源年度报告 79 图表 7 ：开源项目可以为软件的开发和产品获客提供杠杆

本。开发者免费下载大模型以后，会在自己的计算机资源上进行大模型应用的开发和调试。大模 型厂商提供一些技术支持即可。同时因为大模型运行在本地，开发者在构建大模型应用时，为了 物理部署上的便利，很可能会在应用与模型之间创造出物理部署上的耦合性。 当然这种“开源策略”不是进攻的方法，而是“先为不可胜，以待敌之可胜”。目标是以最 小的代价，尽可能多地消耗闭源对手的资源与心气。 顾钧 资深开发者社区运营专家，目前担任杭州映云科技 大模型（LLM）在编程上的应用及其生成代码的采纳率 在 2024 年，我们还看到了“AI 程序员”Devin 的诞生，Devin 能够独立完成复杂的编码和 调试任务、自主查找和修复代码库中的错误，构建和部署应用程序。在 SWE-bench 编码基准测 试中，Devin 能够解决 GitHub 中 13.86%的真实问题，有了很大提升。 说起 SWE-bench 编码基准测试（https://www 技术对应的市场需求变化也是挺大的。在讲变化之前，我觉得有必要分 享一下为什么 RAG 是目前市场上不可或缺的一种大模型应用的技术实现方式，它的优点是什 么？以及它和主要竞争技术之间的现状是怎么样的？ RAG 最开始被大家热推，更多是因为以下三个原因：可以避开大模型的上下文窗口长度的 限制；可以更好地管理和利用客户专有的本地资料文件；可以更好地控制幻觉。 这三点到现在来看依然还是成立的，但上下文窗口这个优势已经慢慢淡化了，因为各大模型

，这里尽量详细的描述你的数据]  用10张精美的绘图，展示数据变量之间的关系或潜在的分 析思路，包括展示数据分析的直方图和箱线图。  呈现关键变量之间的配对散点矩阵图和小提琴图，以及常 用的相关性热图等，每张图都有详细的解释。 其他常用英文指令 Prompts（指令） 描述 Prompts（指令） 描述 Can you load and preview the data? 加载，预览一下数据  语言支持：支持英文和中文内容 生成。 知网研学平台  界面友好：操作界面简洁明了，用户容易上 手，非技术背景用户也能快速学会使用该工 具进行文献综述的生成。  灵活定制：支持使用本地部署的语言模型， 为有特定需求的用户提供了更多灵活性。  实时演示：提供实时演示demo，方便用户了 解和体验工具的功能。  语言支持：仅支持英文输入和英文内容生成。 斯坦福STORM 生成综述对比：多维度对比 生成综述案例：斯坦福 STORM（英文版） 生成综述案例：斯坦福 STORM（中文译版） ***附加知识*** DeepSeek+DeepResearch 基本知识介绍 DeepSeek：颠覆出圈，霸榜热议 2 0 2 3 年 7 月 D e e p S e e k 成 立 2 0 2 3 年 1 1 月 2 日 首个开源代码大模型 DeepSeek Coder发布 2 0 2 3 年 1

⽀持配置及接收定时报告；（X-Pack） 安装模式 本地模式 ⽀持⼀键 All in one 部署，⾃带 Doris 与 Kettle 组件； 精简模式 ⽀持精简模式部署，⽆需安装 Doris 与 Kettle，可另外配置 MySQL 引擎存放 Excel 与 API 数据集； 集群模式 ⽀持集群模式部署，各组件可单独进⾏⾼可⽤部署，可在 DataEase 引擎设置与 Kettle 设置处配置组件链接信息。 服务。 在线⾃助服务 提供客户⽀持⻔户，⽀持客户在线访问⽹站并下载相关资料, 及时掌握最新的软件特性、维护经验、使⽤技 巧等相关知识。 DataEase 企业级⽀持服务内容 名称 描述 ⽀持的部署⽅式 单位 购买⽅式 DataEase 企业版 （标准） DataEase 企业版（标准）⽀持的最⼤账号数量为 30 个， 包含 X-Pack 增强包和企业级⽀持服务。 单机、冷备 按套 按年 增强包和企业级⽀持服务。 单机、冷备、分布式 集群 按套 按年 DataEase 企业版 （旗舰） DataEase 企业版（旗舰）不限账号数量，包含 X-Pack 增 强包和企业级⽀持服务。 单机、热备、分布式 集群 按套 按年 DataEase 企业版的三种型号 THANK YOU www.fit2cloud.com 400-052-0755 北京 · 上海 · 深圳 · ⼴州