绝赞招聘中 TVM CAFFE 前端 2019·11·16绝赞招聘中 TVM 在平头哥 • 工具链产品 平头哥芯片平台发布的配套软件中， TVM 是工具链产品的重要组成部分： 负责将预训练好的 caffe 或者 tensorflow 的模型，转换到 LLVM IR，最后生成可以在无剑 SoC 平台上 执行的二进制。绝赞招聘中 为何添加 caffe 前端？ 客户需求 评估 评估阶段：客户用于评估芯片的网络，caffe 模型占很大比重。 竞品已支持 caffe 前端 当前各大芯片厂商的部署工具大多数都支持，支持 caffe 前端有利于提高竞争力。 开源社区 存量的开源 caffe 网络模型众多，TVM 直接支持 caffe 让大家更方便尝试 caffe 资源。绝赞招聘中 当前进度 无 caffe 依赖 from_caffe 直接导入 caffe 模型文件，不需要预先安装 flatten / normalize / crop / proposal / roipooling / permute / priorbox绝赞招聘中 未来 命令行工具 将 caffe 模型转换的功能，通过一组命令行工具提供，命令行工具支持 windows / linux 平台。 支持更多 caffe op / net 随着客户需求和社区发展，提供更多的 caffe 分支变种的 op / net

等任务中展现出色的性能。在知识图谱构建、智能助手开发 等方面，LLM 技术也发挥了关键作用。此外，它还在代码 生成、文本摘要、翻译等任务中展现了强大的通用性。 本报告从技术人视角出发，将深入探讨 LLM 技术的背景、 基础设施、应用现状，以及相关的工具和平台。 2 / 32 LLM Tech Map  向量数据库  数据库向量支持  大模型框架、微调 (Fine Tuning)  大模型训练平台与工具 基础设施 基础设施 LLM Agent  备案上线的中国大模型  知名大模型  知名大模型应用 大模型 算力 工具和平台  LLMOps  大模型聚合平台  开发工具 AI 编程  插件、IDE、终端  代码生成工具 编程语言 3 / 32 LLM 技术背景 Transformer 架构和预训练与微调策略是 LLM 技术的核心，随着大规模语言数据集的可用性和计算能 力 向量数据库/数据库向量支持 为大模型提供高效的存储和检索能力 大模型框架及微调 (Fine Tuning) 大模型框架提供基本能力和普适性，而微调 则是实现特定应用和优化性能的关键环节 大模型训练平台&工具 提供了在不同硬件和环境中训练大语言模型 所需的基础设施和支持 编程语言 以 Python 为代表 5 / 32 LLM 基础设施：向量数据库/数据库向量支持 向量数据库是专门用于存储和检索向量数据的数据库，它可以为

. . . . . . . . . . 6 1.4.2 单位 B 和 T . . . . . . . . . . . . . . . . . . . . . . . . . . 6 2 AI 工具梳理 6 2.1 问答 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 2.1.1 ChatGPT . . . . . . . . 8 2.2.6 Midjourney . . . . . . . . . . . . . . . . . . . . . . . . . . 8 2.3 AI 视频工具 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 2.3.1 Sora (OpenAI 公司) . . . . . . . . . . . . . . . 9 2.3.4 腾讯智影 . . . . . . . . . . . . . . . . . . . . . . . . . . . 9 2.3.5 度加创作工具 . . . . . . . . . . . . . . . . . . . . . . . . . 9 1 2.3.6 Spike Studio . . . . . . . . . . . .

按照预设脚本响应，较难理解人类情感和意图 更自然地与人互动，理解复杂情感和意图 问题解决能力 擅长解决结构化和定义明确的问题 能够处理多维度和非结构化问题，提供创造性的解 决方案 伦理问题 作为受控工具，几乎没有伦理问题 引发自主性和控制问题的伦理讨论 CoT链式思维的出现将大模型分为了两类：“概率预测（快速反应）”模型和“链式推理（慢速思考）”模型。 前者适合快速反馈，处理即时任务；后者通过推 通过迭代调整提示语，优化输出质量 设计评估标准，量化提示语效果 跨域整合能力 将专业领域知识转化为有效的提示语 利用提示语桥接不同学科和AI能力 创造跨领域的创新解决方案 系统思维 设计多步骤、多维度的提示语体系 构建提示语模板库，提高效率和一致性 开发提示语策略，应对复杂场景 表1-3-2提示语设计进阶技能子项 核心技能 子项 语境理解 深入分析任务背景和隐含需求 考虑文化、伦理和法律因素 预测可能的误解和边界情况 抽象化能力 识别通用模式，提高提示语可复用性 设计灵活、可扩展的提示语模板 创建适应不同场景的元提示语 批判性思考 客观评估AI输出，识别潜在偏见和错误 设计反事实提示语，测试AI理解深度 构建验证机制，确保AI输出的可靠性 创新思维 探索非常规的提示语方法 结合最新AI研究成果，拓展应用边界 设计实验性提示语，推动AI能力的进化 伦理意识 在提示语中嵌入伦理考量 设计公平、包容的AI交互模式

按照预设脚本响应，较难理解人类情感和意图 更自然地与人互动，理解复杂情感和意图 问题解决能力 擅长解决结构化和定义明确的问题 能够处理多维度和非结构化问题，提供创造性的解 决方案 伦理问题 作为受控工具，几乎没有伦理问题 引发自主性和控制问题的伦理讨论 CoT链式思维的出现将大模型分为了两类：“概率预测（快速反应）”模型和“链式推理（慢速思考）”模型。 前者适合快速反馈，处理即时任务；后者通过推 通过迭代调整提示语，优化输出质量 设计评估标准，量化提示语效果 跨域整合能力 将专业领域知识转化为有效的提示语 利用提示语桥接不同学科和AI能力 创造跨领域的创新解决方案 系统思维 设计多步骤、多维度的提示语体系 构建提示语模板库，提高效率和一致性 开发提示语策略，应对复杂场景 表1-3-2提示语设计进阶技能子项 核心技能 子项 语境理解 深入分析任务背景和隐含需求 考虑文化、伦理和法律因素 预测可能的误解和边界情况 抽象化能力 识别通用模式，提高提示语可复用性 设计灵活、可扩展的提示语模板 创建适应不同场景的元提示语 批判性思考 客观评估AI输出，识别潜在偏见和错误 设计反事实提示语，测试AI理解深度 构建验证机制，确保AI输出的可靠性 创新思维 探索非常规的提示语方法 结合最新AI研究成果，拓展应用边界 设计实验性提示语，推动AI能力的进化 伦理意识 在提示语中嵌入伦理考量 设计公平、包容的AI交互模式

国家人工智能产业综合标准化体系建设指南 （2024版） 为深入贯彻落实党中央、国务院关于加快发展人工智能 的部署要求，贯彻落实《国家标准化发展纲要》《全球人工 智能治理倡议》，进一步加强人工智能标准化工作系统谋划， 加快构建满足人工智能产业高质量发展和“人工智能+”高水 平赋能需求的标准体系，夯实标准对推动技术进步、促进企 业发展、引领产业升级、保障产业安全的支撑作用，更好推 进人工智能赋能新型工业化，特制定本指南。 网络强国 和数字中国发挥重要的支撑作用。人工智能产业链包括基础 层、框架层、模型层、应用层等 4 个部分。其中，基础层主 要包括算力、算法和数据，框架层主要是指用于模型开发的 深度学习框架和工具，模型层主要是指大模型等技术和产 品，应用层主要是指人工智能技术在行业场景的应用。近年 来，我国人工智能产业在技术创新、产品创造和行业应用等 方面实现快速发展，形成庞大市场规模。伴随以大模型为代 坚持创新驱动。优化产业科技创新与标准化联动机制， 加快人工智能领域关键共性技术研究，推动先进适用的科技 创新成果高效转化成标准。 坚持应用牵引。坚持企业主体、市场导向，面向行业应 用需求，强化创新成果迭代和应用场景构建，协同推进人工 3 智能与重点行业融合应用。 坚持产业协同。加强人工智能全产业链标准化工作协 同，加强跨行业、跨领域标准化技术组织的协作，打造大中 小企业融通发展的标准化模式。 坚持开放

R1的中文数据处理能力，快速分 析法律文本，提取关键信息，自动生成合同草 案、法律意见书等，提高律师工作效率。 • 智能医疗数据分析与诊断：构建智能医疗 平台，分析病历、检查报告和基因数据，帮助 医生提供更准确的诊断与治疗方案。 • 金融风险预测与管理：开发金融风险分析 工具，收集并分析市场数据，预测风险并为金 融机构提供管理建议。 • 智能文学创作辅助：为作家提供创作灵感 和文本构思，生成符合中文文学传统的故事情 中小企业AI定制化服务：为中小企业提 供定制化的AI解决方案，如智能客服、营销 和办公工具，提升企业竞争力。 • 开源AI教育平台：借助DeepSeek R1 的低成本特性，创建开源AI教育平台，提供 免费课程和实验资源，促进AI教育普及。 • 智能编程教育助手：为编程学生提供实 时编程指导，自动生成代码示例，帮助解决 编程难题。 • 自动化代码审查工具：自动审查代码， 发现潜在问题并提供优化建议，提升开发效 中-英、英-中互译指令 指令：我想让你充当一名科研类的英汉翻译，我会向你提供一种语言的一些段落，你的任务是将这些段落准确地、学术性 地翻译成另一种语言。翻译后不要重复原文提供的段落。您应使用人工智能工具（如自然语言处理）以及有关有效写作技巧 的修辞知识和经验进行回复。我会给你如下段落，请告诉我是用什么语言写的，然后翻译。我希望你能以标记表的形式给出 输出结果，其中第一列是原文，第二列是翻译后的句子，每行只给出一个句子

制定本 框架。 1. 人工智能安全治理原则 秉持共同、综合、合作、可持续的安全观，坚持发展和安全并重，以促 进人工智能创新发展为第一要务，以有效防范化解人工智能安全风险为出发点 和落脚点，构建各方共同参与、技管结合、分工协作的治理机制，压实相关主 体安全责任，打造全过程全要素治理链条，培育安全、可靠、公平、透明的人 工智能技术研发和应用生态，推动人工智能健康发展和规范应用，切实维护国 理不当、非授 权访问、恶意攻击、诱导交互等问题，可能导致数据和个人信息泄露。 3.1.3 系统安全风险 （a）缺陷、后门被攻击利用风险。人工智能算法模型设计、训练和验证 的标准接口、特性库和工具包，以及开发界面和执行平台可能存在逻辑缺陷、- 5 - 人工智能安全治理框架 漏洞等脆弱点，还可能被恶意植入后门，存在被触发和攻击利用的风险。 （b）算力安全风险。人工智能训练运行所依赖的算力基础设施，涉及多源、 边界传递等风险。 （c）供应链安全风险。人工智能产业链呈现高度全球化分工协作格局。 但个别国家利用技术垄断和出口管制等单边强制措施制造发展壁垒，恶意阻断 全球人工智能供应链，带来突出的芯片、软件、工具断供风险。 3.2 人工智能应用安全风险 3.2.1 网络域安全风险 （a）信息内容安全风险。人工智能生成或合成内容，易引发虚假信息传播、 歧视偏见、隐私泄露、侵权等问题，威胁公民生命财产安全、国家安全、意识

21 DeepSeek出现之前的十大预判 之八 智能体推动大模型快速落地  能够调用各种工具，具有行动能力  调用企业专业知识，更懂企业  将日常重复性业务流程形成Playbook，实现流程自动化  通过目标拆解，多次调用大模型以及专家模型协同，形成 慢思考能力 传统软件是辅助人的工具，Agent是能够自主工作的数字员工，是新的生产力政企、创业者必读 22 DeepSeek出现之前的十大预判 建立强大生态，成为全球人工智能根技术，无推广情况下各国 政府、企业、云厂商纷纷接入，获得全球最大影响力  改变中美竞争格局：美国是闭源封闭垄断思路，中国领导开源 文化，加速中国领先地位  中国人民使用的AI工具先进性已超过美国，普及率超过美国， 使用AI人口超过美国总人口，且直接用上最先进的DeepSeek-R1 DeepSeek颠覆式创新——开源 33政企、创业者必读 新时代下的集中力量办大事 响应：响应速度更快，用户体验更好 部署：可以私有化部署，保障政府企业数据安全 训练：不需要从头训练，只需要专业知识库或者微调就可以 人才：大模型训练复杂程度降低，对人才要求也降低 工具：已经有全套工具 走专业化大模型 之路，大模型落 地门槛大幅降低 从原子弹变成 「茶叶蛋」 52政企、创业者必读 基于DeepSeek是打造专业大模型、 垂直大模型、场景大模型的最佳选择 D

取各类文件及图片中的文字内容。 决策支持 文体转换 个性化推荐 翻译与转换 多语言翻译 异常检测 多源信息融合 知识与推理 知识图谱构建 流程优化 数据可视化 数据分析 趋势分析 多模态交互 任务执行 任务协调 工具调用 格式转换 关系抽取 语言理解 文案写作 代码注释 故事创作 通用问答 专业领域问答 因果推理 知识推理 问答系统 逻辑推理 备PPT，而此刻灶台上烧着的水即将沸腾。 p 第一步先问AI：这些事情我是否可能全部完成 p 第二步再问AI：如果能完成，哪些事情要优先 做，先后顺序是什么？ p 第三步继续问：是否有高效的工具或者办法我 可以使用？ p 第四部最后问：这个过程中有任何风险吗？如 何评估？ 较高难度：工作与生活平衡的决策支持 建议的优先顺序 处理时间冲突： 短期内（今天或近期）：首先确定当日最紧急的冲突。一般来说，孩子的重要 应相关，表明AI在认知和 生成过程中受限于其系统 结构和复杂度边界。 智能体知识生成边界的探索 仅仅评估模拟生成的有效性是不够的，更核心问题在于理解智能 体能否突破既有知识框架，完成创造性知识生成。通过构建测量 体系和分析创新条件，探索智能体如何推动知识生成从常规化迈 向创新化。 智能体知识循环边界的研究 智能体在长时间对话中常表现出“知识循环边界”，即生成内容 重复或局限于特定模式的现象，源于训练数据、算法模型及预设