《Deepseek R1 本地部署完全⼿册》 版权归：HomeBrew Ai Club 作者wechat：samirtan 版本：V2.0 更新⽇期：2025年2⽉8⽇ ⼀、简介 Deepseek R1 是⽀持复杂推理、多模态处理、技术⽂档⽣成的⾼性能通⽤⼤语⾔模型。本⼿册 为技术团队提供完整的本地部署指南，涵盖硬件配置、国产芯⽚适配、量化⽅案、云端替代⽅ DeepSeek-R1 (671B) 671B FP8 ≥890GB 2*XE9680（16*H20 GPU） DeepSeek-R1-Distill- 70B 70B BF16 ≥180GB 4*L20 或 2*H20 GPU 三、国产芯⽚与硬件适配⽅案 1. 国内⽣态合作伙伴动态 企业 适配内容 性能对标（vs NVIDIA） 华为昇 腾 昇腾910B原⽣⽀持R1全系列，提供端到端推理优化 昇腾910B原⽣⽀持R1全系列，提供端到端推理优化 ⽅案 等效A100（FP16） 沐曦 GPU MXN系列⽀持70B模型BF16推理，显存利⽤率提升 30% 等效RTX 3090 海光 DCU 适配V3/R1模型，性能对标NVIDIA A100 等效A100（BF16） 2. 国产硬件推荐配置 模型参数 推荐⽅案 适⽤场景 1.5B 太初T100加速卡 个⼈开发者原型验证 14B 昆仑芯K200集群 企业级复杂任务推理

DeepSeek-R1 网页端 & API 使用指南 DeepSeek-R1 网页端 & API 使用指南 DeepSeek-R1 网页端 & API 使用指南 DeepSeek-R1 网页端 & API 使用指南 DeepSeek-R1 网页端 & API 使用指南 DeepSeek-R1 网页端 & API 使用指南 DeepSeek-R1 网页端 & API 使用指南 DeepSeek-R1 DeepSeek-R1 网页端 & API 使用指南 DeepSeek-R1 网页端 & API 使用指南 DeepSeek-R1 网页端 & API 使用指南 DeepSeek-R1 网页端 & API 使用指南 DeepSeek-R1 网页端 & API 使用指南 DeepSeek-R1 网页端 & API 使用指南 DeepSeek-R1 网页端 & API 使用指南 DeepSeek-R1 DeepSeek-R1 网页端 & API 使用指南 DeepSeek-R1 网页端 & API 使用指南 DeepSeek-R1 网页端 & API 使用指南 DeepSeek-R1 网页端 & API 使用指南 DeepSeek-R1 网页端 & API 使用指南 DeepSeek-R1 网页端 & API 使用指南 DeepSeek-R1 网页端 & API 使用指南 DeepSeek-R1 网页端

RL） . . . . . . . 7 3 DeepSeek-R1 精华图解 . . . . . . . . . . . . . . . . . . . . . . . 7 3.1 DeepSeek-R1 完整训练过程 . . . . . . . . . . . . . . . . . . . 7 3.1.1 核心创新 1：含 R1-Zero 的中间推理模型 . . . . . . . 8 3 . . . . . . . . . . . . 8 3.2 含 R1-Zero 的中间推理模型训练过程 . . . . . . . . . . . . . . 9 3.3 通用强化学习训练过程 . . . . . . . . . . . . . . . . . . . . . . 10 3.4 总结 DeepSeek-R1 . . . . . . . . . . . . . . . . . 宕机，本地大模型依 然可以正常工作，不受外部因素影响。 本教程搭建 DeepSeek 好处 本地搭建 DeepSeek 三个比较实际的好处： • 本教程接入的是 DeepSeek 推理模型 R1，开源免费，性能强劲 • 本教程搭建方法 零成本，不需花一分钱。 • 为了照顾到大部分读者，推荐的搭建方法已将电脑配置要求降 到最低，普通电脑也能飞速运行。 1.2 DeepSeek 本地部署三个步骤

平衡性能：在模型大小和 性能之间取得平衡，适合 中等规模任务。  多模态支持：支持文本和 图像处理，扩展应用场景。  可解释性：注重模型输出 的可解释性和透明性。 DeepSeek R1  高效推理：专注于低延迟和 高吞吐量，适合实时应用。  轻量化设计：模型结构优化， 资源占用少，适合边缘设备 和移动端。  多任务支持：支持多种任务， 如文本生成、分类和问答。 码运行后生成文件，但数 据采集结果为空。 DeepSeek R1 能够提取所有网址并进行 筛选、去重，所撰写代码 运行后完成数据爬虫任务， 所获取数据准确，少量数 据有所遗漏。 提示词 测试结果受到数据样本、测试环境、AI抽卡、提示词模板等因素影响，仅供参考，无法作为决策制定、质量评估或产品验证的最终依据。 爬虫数据采集  目前DeepSeek R1、Open AI o3mini、Kimi k1  四个模型均能根据上传的网页代码，对多个网址链接进行筛选、去重，完全提取出符合指令要求的所有网址链接并形成列表；  在复杂爬虫任务上，DeepSeek R1与Open AI o3min生成的代码均能正常执行数据采集任务，o3响应速度更快，R1数据采集结果更加完 整准确；其他2个模型都存在多次调试但代码仍然运行不成功的问题，如代码中罗列URL不全、输出文本中提取数据为空等。 Kimi k1

ñTU)`ùÈúæGAIdeC…‰API> • AIçèûÞ&Šü5áâ'¶ý%ã)`Šü|þÿGChatGPT!"GAIçèûÞ&> • AI*+uv5´µ#$GManusuv,!"#$%AI*+,)`%&R<º»JK> • ÑÒÓ*5'de() • ManusêëF-*Bz'()+,-,Manus./I6¦Gdeáâ(),012÷345de> !"#$%Bloomberg*&'()7 Manus ÇYZ‰200[G\]¥,^E‰°_[G`a> • 2019 EbcCFW 3.0 µdeG÷øÕf$2°,67ËþæacCFWghXFPŸ R³Œjk Clm<ÑG]nopmqr>st2022E,FPŸ R<100'u#xÆS)÷ø,vw60+3C,ôK40[+cC%ã,xŸcCyz 7700[+FW{ã,|/5nFW}$~•> • L€Monica•‚,9€Œ"ƒ<„…Muv 9€Œ"ƒ<„…Muv,ƒ5†D‡[ˆ%GD‡5†IJÞ--‰Š!ƒD‡5†[ˆGfigma> • 2022Eb,÷‹MonicauŒ>Monica!"#¶‰$•)€GAIŸ ,$ŒÜÝÞLMŽ•áâS),•ÌQŸ%ãR²cA+C•‘W O>Monica !"#. ChatGPT API áâ()G Chrome ßà,’L !"#$%Bloomberg*&'()2 Agent()9

Mixtral 8x7B Mixtral 8x22B Command R Command R+ Grok-1 DBRX Qwen1.5 32B Qwen1.5 72B LLaMA 1 Family LLaMA 2 Family LLaMA 3 Family Mixtral Family Command R Family Qwen1.5 Family (a) 0 50 100 150 dimension per head, and h? ∈ R? be the attention input of the ?-th token at an attention layer. Standard MHA first produces q?, k?, v? ∈ R?ℎ?ℎ through three matrices ??,? ?,?? ∈ R?ℎ?ℎ×?, respectively: q? ?[o?,1; o?,2; ...; o?,?ℎ], (8) where q?,?, k?,?, v?,? ∈ R?ℎ denote the query, key, and value of the ?-th attention head, respectively; ?? ∈ R?×?ℎ?ℎ denotes the output projection matrix. During inference

DeepSeek出现之前的十大预判 之五 知识的质量和密度决定大模型能力  高质量数据、合成数据使模型知识密度的快速增长  大模型能以更少的参数量达到更高的性能  360联合北大研发：5%参数量逼近Deepseek-R1满血性能 18政企、创业者必读 DeepSeek出现之前的十大预判 之六 成本越来越低  过去一年，大模型成本「自由落体」  国外：GPT-4等效智能在过去18个月内价格下降240倍  市场推广创新——让过去很难得到的东西可以得到  商业模式创新——让过去很昂贵的东西变得很便宜甚至免费 DeepSeek正是符合这四种创新模式的完美例子 25 颠覆式创新的四种方式政企、创业者必读 DeepSeek-R1突破了大模型Scaling Law瓶颈 导致大模型悲观论 认为大模型的能力无法进一步得到质的提升 开辟强化学习新范式 从预训练Scaling Law转变为强化学习Scaling Law 大数据+大参数+大算力的 推理大模型 预训练大模型难以通往AGI之路  推理模型如R1——通过逻辑链条推导答案， 分解规划，自我反思  预训练范式像是记忆和模仿，强化学习范 式更像探索实践  记住很多东西只是基础，真正有价值的是 融会贯通 R1找到了人类通往AGI的方向 DeepSeek颠覆式创新——技术创新 27 DeepSeek-R1和GPT-4o不是同一个物种政企、创业者必读 快思考 慢思考

eepseek-ai/deepseek-r1 671B（全量模型） 网页版直接使用，支持API调用，注册送1000点数，免费体验。 微软Azure https://ai.azure.com 671B（全量模型） 需注册微软账户并创建订阅，免费部署，支持参数调节。 亚马逊AWS https://aws.amazon.com/c n/blogs/aws/deepseek-r1- models-now-available-on- com/groqclou d-makes-deepseek-r1- distill-llama-70b-available 70B 邮箱注册，速度快，但感觉比Cerebras弱一些。 …… DeepSeek 三种模式对比 • 基础模型（V3）：通用模型（2024.12），高效便捷，适用于绝大多数任务，“ ”任务 • 深度思考（R1）：推理模型，复杂推理和深度分析任务，如数理逻辑推理和编程代码，“ 联网搜索：RAG（检索增强生成），知识库更新至 DeepSeek 两种模型对比 操作规范清晰 且对结果有明确要求 操作路径多元、开放， 且对结果没有明确要求 DeepSeek 两种模型对比（5R） 维度 V3模型 R1模型 Regulation （规范性） 强规范约束 （操作路径明确） 弱规范约束 （操作路径开放） Result （结果导向） 目标确定性高 （结果可预期） 目标开放性高 （结果多样性）

models, with performance in line with Western competitors 1/25: DeepSeek releases its R1 & R1- Zero open- source reasoning models 2/25: OpenAI releases GPT-4.5, Anthropic releases 18 26 64 80 114 129 160 223 0 125 250 1995 1999 2003 2007 2011 2015 2019 2023 Government R&D funding has been a key part of AI development budgets, especially in healthcare: - FY21-FY25 Federal FY25 Share Requested by National Institutes of Health: 34%79 Research = 30%-80% Reduction in Medical R&D Timelines, per Insilico Medicine & Cradle Note: Pre-Clinical Candidate Status marks the point at

rO++#1) = V0.new } r@ = #0; jumpr r31 vrmpy(v2.ub,v9.ub) vSsptLat(r2) = V1 Vmem( rO++#1) = V3.new )} nop r2 = memw(rl++#4) } :endLoop0 Vv2.uw = vrmpy(v2.ub,vo.ub) v30 = vsptLat(r2) Vvmem( rO++#1) ub,vo.ub) Vmem( rO++#1) = V1.new Vv31.uw = vrmpy(v30.ub,vo.ub) Vmem( rO++#1) = V31.new 上 r0 = #0; jumpr r31 } PART FOUR Alios TVM @ Intel GPU AiOS 1驱动万物智能 Alios TVM @ Intel GPU 。 Implement the