《Deepseek R1 本地部署完全⼿册》 版权归：HomeBrew Ai Club 作者wechat：samirtan 版本：V2.0 更新⽇期：2025年2⽉8⽇ ⼀、简介 Deepseek R1 是⽀持复杂推理、多模态处理、技术⽂档⽣成的⾼性能通⽤⼤语⾔模型。本⼿册 为技术团队提供完整的本地部署指南，涵盖硬件配置、国产芯⽚适配、量化⽅案、云端替代⽅ 端替代⽅ 案及完整671B MoE模型的Ollama部署⽅法。 核⼼提示： 个⼈⽤户：不建议部署32B及以上模型，硬件成本极⾼且运维复杂。 企业⽤户：需专业团队⽀持，部署前需评估ROI（投资回报率）。 ⼆、本地部署核⼼配置要求 1. 模型参数与硬件对应表 模型参 数 Windows 配置要求 Mac 配置要求 适⽤场景 1.5B - RAM: 4GB - GPU: 集成显卡/现代CPU 24GB - GPU: RTX 3090（24GB VRAM） - 存储: 20GB - 内存: 32GB（M3 Max） - 存储: 20GB 复杂推理、技术⽂档⽣ 成 32B+ 企业级部署（需多卡并联） 暂不⽀持 科研计算、⼤规模数据 处理 2. 算⼒需求分析 模型 参数规 模 计算精 度 最低显存需 求 最低算⼒需求 DeepSeek-R1 (671B) 671B

PRODUCT 产品篇 网易数帆旗下云原生技术与服务品牌 PRODUCT 低代码应用开发平台 LCAP 持续交付平台 CICD 流水线 容器部署 主机部署 策略部署 开放 治理 监控 事务 管理 DevOps 多云部署 服务治理 能力扩展 中间件高可用 全链路监控 容器平台NCS 轻舟混合云 多云管理 多集群管理 镜像仓库 容器管理 轻舟低代码 应用管理 可视化开发 规范，可视化 流程开发，可支持如请假、入职、离职等 企业内常用流程场景。 支持软件资产多层次复用 应用、页面、基础组件、扩展组件、接口 等不同粒度软件资产，均支持复用。 零成本部署运维 产出应用支持自动化部署在云原生平台 之上，无运维的代价，集成网易运维实 践。 产品能力 首批通过信通院认定项目：首批低代码无代码开发平台通用能力评测 产品荣誉 低代码开发优势 传统研发 以命令行语句为基础的 多云混合云 统一视图管理多云、混合云集群，应用多 集群部署、运维。 可视化流水线 模块化能力，支持可视化拖拽，快速配 置不同种类流水线。 国产化适配 ARM 生态支持，支持国产芯片及操作 系统。 可观测性 多维度日志、监控视图，自动化故障运 维。 高级部署策略 支持主机和容器部署，滚动部署、灰度 部署、蓝绿部署多种高级部署策略。 产品能力 产品能力 PRODUCT 提供企业已有主机中间件和基于

. . . . . . . 13 2.6.4 Llama3 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13 3 零代码本地部署 AI 后端 13 3.1 大模型 Llama3 . . . . . . . . . . . . . . . . . . . . . . . . . . . . 13 3.1.1 步骤 1：安装 Ollama . . . . . 21 4.3 步骤二 docker 部署 lobechat . . . . . . . . . . . . . . . . . . . . . 22 4.4 愉快使用 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 23 4.5 部署常见问题 . . . . . . . . . . . . . Figure 6: AI 编程工具 2.4.3 AirOps 用于生成和修改 SQL 语句的工具，旨在简化数据库操作。 2.4.4 ChatDev 面壁智能开发的 AI 智能体开发平台，支持创建和部署智能对话系统。 2.4.5 solo Mozilla 开源项目，提供零代码网站开发功能，易于使用。 2.4.6 Cursor 开源的 AI 代码编辑器，旨在通过 AI 技术助力快速软件开发。

eek-R1 DeepSeek颠覆式创新——开源 33政企、创业者必读 新时代下的集中力量办大事  每个企业都可以直接使用DeepSeek，因为开源透明可信任，企业和 政府可做大量私有化部署  一个开源产品获得突破之后，全世界都能分享成果，结束中国百模大 战，节省大量成本  很多公司参与开源，帮助改进产品，很多人基于DS生态开发应用产 品，增加影响力，人人为我，我为人人  训练成本降低，堆显卡模式受质疑，探索新思路，算法优化空间大  无需训练自己的基座模型，直接部署在DeepSeek上，不用重复发明轮子  公开蒸馏方法，帮助其他模型提升能力，实现了模型制造模型，犹如工业母机  小模型可部署在企业内电脑或一体机上，使用成本降低，形成分布式推理网络  技术门槛降低， 可标准化、SaaS化部署，下载就能用 DeepSeek颠覆式创新——成本暴跌 35政企、创业者必读 惠及全球人民，科技平权，技术平民化 惠及全球人民，科技平权，技术平民化  运营商、云服务可免费用，降低云服务成本  大型企业可使用多个DeepSeek，解决不同场景需求  中小企业免费部署，消除数字鸿沟  个人可以拥有自己的DeepSeek ，可以成为超级个体  对于创业者得到世界最先进大模型，如虎添翼，和巨头站在 同一起跑线上  很多发展中国家都能成为大模型玩家，实现人类命运共同体 DeepSeek颠覆式创新——免费

多云管理⽀持 超⼤规模 分布式资产⽀持 全⾯的数据库 运维安全审计⽀持 ⽀持审计录像 的云端存储 内置多组织体系 强⼤的 远程应⽤发布能⼒ 灵活的 软件 / 硬件 部署⽅案选择 1 3 6 8 2 4 5 7 体验极佳的 Web Terminal Linux Web Terminal Windows Web Terminal 特⾊功能⼀ SFTP com 离散⼊⼝分布式部署⽅案 区域 A 区域 B 超⼤规模分布式资产⽀持 - ⽀持多分⽀、多区域的集群分布式互联部署 - B.jms.com 负载均衡 JS - 2 JS - N JS - A 负载均衡 JS - B JS - N 访问不同的节点， 访问不同地域资产 数据库 JS - 1 统⼀存储 缓存 A.jms.com 集中⼊⼝分布式部署⽅案 区域 A 区域 内置多组织体系 特⾊功能六 统⼀管理 统⼀审计 特⾊功能七 强⼤的远程应⽤发布能⼒ 灵活的软件 / 硬件部署⽅案选择 软件形态 JumpServer 企业版 硬件形态 JumpServer ⼀体机 （基础、标准、专业、旗舰） （标准、专业） 注：⽀持软硬件混合部署模式。 特⾊功能⼋ 1 2 企业为什么需要堡垒机？ JumpServer 堡垒机的优势 JumpServer

国内基础软件开源界定 基础软件 具备能衍生出并支撑 多个技术簇的一类根 技术软件，拥有技术 门槛高、衍生场景复 杂等特点 中间件：不同系统和应用程序之间交互 与协作的桥梁 AI框架：具备构建和部署人工智能模型 的基础的全套开发工具 操作系统：是软硬件资源的资源管理者， 为用户与应用程序提供交互接口 数据库：通过对数据的访问与管理，支 持各种应用程序和业务的需求 编程语言：人与计算机交互的“语言”， 此， 企业应转变短视思路，认识到开源是一种长期行为，对应制定长期战略。仅以投入产出比衡量开源项目收益将忽视开源对于企业在 提升技术领导力、增进创新力、构建活力生态、树立行业标准方面的贡献，短视的战略部署无法支撑企业持续投入，等到开源项目 的最终开花结果。 来源：根据专家访谈、公开资料，由艾瑞咨询研究院自主研究及绘制。 开源项目长期投入要素及长期收益 开 源 长 期 战 略 （ 顶 层 设 计 注释：指标数据时间截止2023年11月。 来源：根据专家访谈、公开资料，由艾瑞咨询研究院自主研究及绘制。 OpenHarmony社区发展概览 自由流 转智慧 协同 扎实技术功底 架构解 耦弹性 部署 极简开 发一致 体验 2020.09 OpenHarmony 1.0支持无屏设备 2021.05 OpenHarmony 2.0支持小型带屏设备 2021.09 OpenHarmony 3

e-ai-infrastructure- vector-database/） 7 / 32 LLM 基础设施：大模型框架及微调 (Fine Tuning) 大模型框架指专门设计用于构建、训练和部署大型机器 学习模型和深度学习模型的软件框架。这些框架提供了 必要的工具和库，使开发者能够更容易地处理大量的数 据、管理巨大的网络参数量，并有效地利用硬件资源。 微调（Fine Tuning）是在大模型框架基础上进行的一个 数据集，这些数据将用于微调模型； 3.微调训练：在任务特定数据上训练预训练的模型， 调整模型参数以适应特定任务； 4.评估：在验证集上评估模型性能，确保模型对新 数据有良好的泛化能力； 5.部署：将性能经验证的模型部署到实际应用中去。 微调的过程也是分类模型训练的过程 (图源：https://medium.com/mlearning-ai/what-is-a-fine-tuned-llm-67bf0b5df081) 11 / 32 LLM 基础设施：大模型训练平台与工具 大模型训练平台与工具根据其性质不同，可分为以下几类： 这些平台提供了从模型开发到部署的综合解决方案，包括计算资源、 数据存储、模型训练和部署服务。它们通常提供易于使用的界面，支 持快速迭代和大规模部署。Amazon SageMaker、Google Cloud AI Platform 和 Microsoft Azure Machine Learning

逻辑让作图软件更加简单易用。 模板风格单一，缺乏新意 绘图类型少 符号图形库无法提前预览 不支持跨平台使用 生态封闭，仅支持Windows系统 软件更新升级需要付费 产品价格昂贵 体验不友好 平台单一 部署成本高 Visio的不足之处 项目 Visio 亿图图示 操作系统支持 Windows Windows，Mac，Linux，银河麒麟，统信UOS 芯片支持 Inter X86，AMD Inter 历史数据，可实现平滑切换 一个账号多端同步，支持云端数 据共享协作，提高办公效率 替换成本低 企业数据平滑迁移 SaaS 跨端协作 亿图图替代方案 私有化部署 数据更安全、服务更稳定、协作更高效 01 02 03 私有化部署 免费试用 根据实际情况 沟通方案 培训服务支持 技术支持 信息安全 功能强大 高性价比 专属服务 数据私有化隔离；容灾备份机制； 算法、密钥双重保险，数据安全可靠。 提供一对一专属商务对接、客服 咨询、以及技术支持。 私有云部署 将亿图脑图协作版部署到企业内部 私有云服务器中，企业完全自主掌 控，适用于通信，金融等对数据安 全性要求更高的企业。 共有云部署 将亿图脑图协作版独立部署到企业 专属AWS阿里云/腾讯云服务器中， 享受公有云功能与服务的同时，又 具备资源隔离的优势，适用于大多 数中小型企业。 灵活部署 安全可控 主流芯片和操作系统的兼容适配 深圳市亿图软件有限公司

工具、API 提速降价、更多的 API 开放。 2023 年 8 月，谷歌宣布推出 AI 代码编辑器 Project IDX，一个基于浏览器的 开发环境：集成 AI、支持全栈编程语言、跨平台真机预览、一键部署，用于 构建全栈网络和多平台应用程序。 2023 年 10 月，百川智能发布 Baichuan2-192K 大模型，上下文窗口长度高 达 192K，号称是当时全球最长的上下文窗口，能够处理约 35 osc_78692802：我们两三个人的开发团队开发个并发不到 300 的产品竟然 使用 java+spring+微服务。本机调试个项目开一大堆工具、idea 都得开 3 个。 改个 java 类还得等热部署，写个极其简单的功能实体类、DTO、mapper、接 口等要建 20 多个文件，还要应对经常变化多端的业务，搞毛线啊。 nginx+php+db 不香吗？大规模、高并发 nginx 负债均衡不就完了？简单的 API、ETCD 和 JDBC 注册中心，以及架构优化等。 Fluent Operator v2.0 发布 该版本新增许多重要功能，如 Fluent Bit 新的部署方式: Fluent Bit Collector、支持在 fluent-operator 部署添加注释、支持为 fluent-operator 和 fluent-bit pods 添加标签、新增在 fluent-bit-watcher 中添加外部插件