DeepSeek-V2: A Strong, Economical, and Efficient Mixture-of-Experts Language Model DeepSeek-AI research@deepseek.com Abstract We present DeepSeek-V2, a strong Mixture-of-Experts (MoE) language model of which 21B are activated for each token, and supports a context length of 128K tokens. DeepSeek-V2 adopts innovative architectures including Multi-head Latent Attention (MLA) and DeepSeekMoE. MLA guarantees strong models at an economical cost through sparse computation. Compared with DeepSeek 67B, DeepSeek-V2 achieves significantly stronger performance, and meanwhile saves 42.5% of training costs, reduces the

Artificial Intelligence (AI) May 30, 2025 Mary Meeker / Jay Simons / Daegwon Chae / Alexander Krey2 Context We set out to compile foundational trends related to AI. A starting collection of several from Get-Go = Growth We Have Not Seen Likes of Before • AI & Work Evolution = Real + Rapid 3 1 2 3 4 5 6 7 8 9-51 52-128 129-152 153-247 248-298 299-307 308-322 # 323-336 OutlineWeekly Details on Page 56 AI User + Usage + CapEx Growth = Unprecedented Leading USA-Based LLM Users 2 Source: Company disclosures Details on Page 55 6MM 2005 2025 Number of Developers, MM 0% 50%

提示语策略差异 1 2 推理模型 通用模型 • 提示语更简洁，只需明确任务目标和 需求（因其已内化推理逻辑）。 • 无需逐步指导，模型自动生成结构化 推理过程（若强行拆解步骤，反而可 能限制其能力）。 • 需显式引导推理步骤（如通过CoT提 示），否则可能跳过关键逻辑。 • 依赖提示语补偿能力短板（如要求分 步思考、提供示例）。 关键原则 3 2 1 模型选择 • 特点 需求表达公式 推理模型适配策略 通用模型适配策略 1. 决策需求 需权衡选项、评估风险、 选择最优解 目标 + 选项 + 评估标准 要求逻辑推演和量化分析 直接建议，依赖模型经验归纳 2. 分析需求 需深度理解数据/信息、 发现模式或因果关系 问题 + 数据/信息 + 分析 方法 触发因果链推导与假设验 证 表层总结或分类 3. 创造性需求 需生成新颖内容（文本/ 地理 解和执行任务。 ▪ 期望（Expectation)：明确或隐含地表达你对AI输出的要求 和预期。 提示语类型 提示语的本质 1. 指令型提示语：直接告诉AI需要执行的任务。 2. 问答型提示语：向AI提出问题，期望得到相应的 答案。 3. 角色扮演型提示语：要求AI扮演特定角色，模拟 特定场景。 4. 创意型提示语：引导AI进行创意写作或内容生成。 5.

@新媒沈阳团队 、余梦珑博士后 DeepSeek：从入门到精通 2025年2月 清华大学 新闻学院 人工智能学院 • Deepseek是什么？ • Deepseek能够做什么？ • 如何使用Deepseek？ DeepSeek是什么？ AI + 国产 + 免费 + 开源 + 强大 • DeepSeek是一家专注通用人工智能（AGI）的中国科技公司，主攻大模型研发与应 提示语策略差异 1 2 推理模型 通用模型 • 提示语更简洁，只需明确任务目标和 需求（因其已内化推理逻辑）。 • 无需逐步指导，模型自动生成结构化 推理过程（若强行拆解步骤，反而可 能限制其能力）。 • 需显式引导推理步骤（如通过CoT提 示），否则可能跳过关键逻辑。 • 依赖提示语补偿能力短板（如要求分 步思考、提供示例）。 关键原则 3 2 1 模型选择 • 特点 需求表达公式 推理模型适配策略 通用模型适配策略 1. 决策需求 需权衡选项、评估风险、 选择最优解 目标 + 选项 + 评估标准 要求逻辑推演和量化分析 直接建议，依赖模型经验归纳 2. 分析需求 需深度理解数据/信息、 发现模式或因果关系 问题 + 数据/信息 + 分析 方法 触发因果链推导与假设验 证 表层总结或分类 3. 创造性需求 需生成新颖内容（文本/

operators like TF quantized_conv2d • Underlying calculations are different than FP32 conv2d • Sometimes operators are aggressively fused • TFLite fuses quantized_conv2d, bias, relu and requantize 𝑟𝑒𝑎𝑙_𝑣𝑎𝑙𝑢𝑒 Graph Fusion etc require work/operator • No reuse of existing Relay and TVM infrastructure. Option 2 – Lower to a sequence of existing Relay operators • We introduced a new Relay dialect – QNN to encapsulate operators that satisfy many framework operators • qnn.quantize, qnn.dequantize, qnn.requantize • qnn.conv2d, qnn.dense • qnn.concatenate • qnn.add, qnn.mul • QNN operators will be lowered to Relay operators

DEFGHI)*DEFGJKHI567LMN0OITPQRSTUVW5VWXYZ=>O[ \]^_`) • abcde&fghi=>.gjklmno5pqLr?E=PstOuv5w%xyabz {|L}=>~}m•O2€.jk• • ‚ƒc„…†Agent…‡ˆAGIO‰Š‹Œ•1 Manus AI!"#$%&'Agent3 Manus AI%&'() • Manus !"#$%&'()*+,-./012345-6708 AI%*+,- !"#$%Bloomberg*&'()5 Manus AI%./01 • GAIA !"#%‡•ž$% AI Ÿ G¡¢ž£,¤¥-UL6¦§¨©ª«Level 1cLevel 2cLevel 3¬G-•>Manus AI L®‰¯# §¨©ª°±²³{´µG SOTA œ=> • Manus AI ¶·fgG$%JKA+)€,¸¹!Lº»JK«Level 3¬°G-•¼½a‡¹T E:;zFW>GHIJ÷øGKfLMNOPQgROPŸ !zFW>GHIJ÷øGKfLM, ÇYZ‰200[G\]¥,^E‰°_[G`a> • 2019 EbcCFW 3.0 µdeG÷øÕf$2°,67ËþæacCFWghXFPŸ R³Œjk Clm<ÑG]nopmqr>st2022E,FPŸ R<100'u#xÆS)÷ø,vw60+3C,ôK40[+cC%ã

ty=int32 */; %2 = @sum_up(%1) /* ty=int32 */; add(%2, %i1) /* ty=int32 */ } } sum_up: alloc_storage 1 1 64 bool alloc_tensor $2 $1 [] uint1 invoke_packed PackedFunc[0] (in: $0, out: $2) load_consti load_consti $3 1 if $2 $3 1 2 goto 9 alloc_storage 4 4 64 int32 alloc_tensor $5 $4 [] int32 invoke_packed PackedFunc[1] (in: $0, out: $5) invoke $6 VMFunc[0]($5) alloc_storage 7 4 64 int32 alloc_tensor $8 $7 [] int32 int32 invoke_packed PackedFunc[2] (in: $6, $0, out: $8) move $0 $8 ret $0 main: invoke $1 VMFunc[0]($0) ret $1© 2019, Amazon Web Services, Inc. or its Affiliates. All rights reserved. Dynamic codegen:

爬虫数据采集 1、阅读网页源代码，提取特定网页内容； 2、撰写python脚本； 3、提取并合并网址； 4、提取网址内容； 5、写入文件。 任务 你需要完成以下两个任务： 1.阅读网页【网址】源代码【对应网页源代码】。提取所 有包含“春运2025丨X月X日，全社会跨区域人员流动量完 成X万人次”的网址进行去重、筛选，合并成网址列表 2.撰写python脚本，基于步骤1输出的网址列表提取所有网 网 址内容“截至目前 2025 年春运（2025年1月14日到2月8日） 相关数据（如日期、全社会跨区域人员流动量、铁路客运 量、公路人员流动量、水路客运量、民航客运量等）”完 成数据提取并写入文件“2025春运数据.txt” Open AI o3mini 响应速度快，能够高效提 取所有需求链接，输出完 整可运行python脚本，代 码运行后生成文件，但数 据采集结果为空。 DeepSeek 要求的所有网址链接并形成列表；  在复杂爬虫任务上，DeepSeek R1与Open AI o3min生成的代码均能正常执行数据采集任务，o3响应速度更快，R1数据采集结果更加完 整准确；其他2个模型都存在多次调试但代码仍然运行不成功的问题，如代码中罗列URL不全、输出文本中提取数据为空等。 Kimi k1.5 能够提取所有网址，代码运 行后生成本地文件，但提取 数据结果为空。 结论

MobilenetV1 upport 1.12X Mobilenet V1 TFlite AN 2X MobilenetV2 TFLite 1.34X MobilenetV2 QNNPACK AliOs @ Roewe RX5 MAX OpenVINO @ Intel GPU AliDS AR-Nav 区下 。， im2col + pack re 。 Tensorize GEMM Cache 大站 Fe Data FO Data … FOData QNNPACK /NiiOS ! 驱动万物智能 P Cache 浆加 Data FO Data FOData … NHWC L2 da … FL2 da Alios Alios TVM @ ARM CPU INT8 TVM /QNNPACK Speed Up @ Mobilenet V2 @ rasp 3b+ AARCH64 35 2.38 2.00 1.67 1.67 1.64 1.60 1.66 155 157 157 150 143 136是寺39上3143 140 145 147 147

Prompt Engineering Author: Lee Boonstra Prompt Engineering February 2025 2 Acknowledgements Content contributors Michael Sherman Yuan Cao Erick Armbrust Anant Nawalgaria Antonio Gulli Simone Cammel meet the top-P criteria, and none are selected out. As a general starting point, a temperature of .2, top-P of .95, and top-K of 30 will give you relatively coherent results that can be creative but not complex tasks, or you may need to use fewer due to the input length limitation of your model. Table 2 shows a few-shot prompt example, let’s use the same gemini-pro model configuration settings as before