开发技术栈作为切入点，将深入探讨以下中国 AI 大模型领域的代表性开源项目社区。 这些开源项目社区覆盖了深度学习框架、向量数据库、AI辅 助编程、LLM 应用开发框架、模型微调、推理优化、LLM Agent，以及检索增强生成（RAG）等多个关键技术栈。 为了更全面客观地展示中国大模型 LLM 开发技术栈的开源 社区生态，我们使用了 对开源社区的生态评 估体系，希望通过这些数据洞察中国开源开发者在 AI 技术 领域的活跃度、生产力和创新能力。 组织给予减轻或免承担法律责任；《生成式人工智能服务管理暂行办法》 则明确了人工智能技 术的使用和合规要求，促进了开源模型在合规框架下良性发展。 变革 端上模型的兴起与隐私保护 随着小型模型的性能逐步增强，更多高级 AI 正转向在个人设备上运行。这一趋势不仅显著 降低了云端推理成本，还提升了用户隐私控制。 中国 AI 社区在这一领域也做了重要贡献，推出了如 Qwen2-1.5B、MiniCPM 系列和 典型案例，强化了推理能力的同时，也大大缓解了幻觉问题。 2. 大模型做不到的，“现存工具”强势补位。 无法持续更新的知识库，可以通过 RAG（Retrieval Augmented Generation，检索增强 生成）来解决。 RAG 的出现，让各界越来越深刻地认识到，大模型没必要存储那么多知识，只需要如何使 用搜索引擎这个外部工具即可。大模型可以在搜索结果上做进一步的信息筛选和优化，而搜索引 擎弥补了大模型的知识缺陷，实现了

推理和实时问题解决方面表现突出。 推理大模型： 推理大模型是指能够在传统的大语言模型基础上，强化推理、逻辑分析和决策能力的模型。它 们通常具备额外的技术，比如强化学习、神经符号推理、元学习等，来增强其推理和问题解决能力。 非推理大模型： 适用于大多数任务，非推理大模型一般侧重于语言生成、上下文理解和自然语言处理，而不强 调深度推理能力。此类模型通常通过对大量文本数据的训练，掌握语言规律并能够生成合适的内容，但缺乏像 角色扮演型提示语：要求AI扮演特定角色，模拟 特定场景。 4. 创意型提示语：引导AI进行创意写作或内容生成。 5. 分析型提示语：要求AI对给定信息进行分析和推 理。 6. 多模态提示语：结合文本、图像等多种形式的 输入。 表1-1-1提示语的本质特征 特征 描述 示例 沟通桥梁 连接人类意图和AI理解 “将以下内容翻译为法语：Hello, world” 上下文提供 者 为AI提供必要的背景信息 确保输出 符合预期并能够进行必要的调整，是实现高级提示语 工程的重要工具。 提示语的DNA：解构强大提示语的基本元素 提示语元素组合矩阵 提示语元素协同效应理论的核心观点包括： ▪ 互补增强：某些元素组合可以互相弥补不足，产生1+1>2的效果。 ▪ 级联激活：一个元素的激活可能引发一系列相关元素的连锁反应，形成 一个自我强化的正反馈循环。 ▪ 冲突调和：看似矛盾的元素组合可能产生意想不到的积极效果。

推理和实时问题解决方面表现突出。 推理大模型： 推理大模型是指能够在传统的大语言模型基础上，强化推理、逻辑分析和决策能力的模型。它 们通常具备额外的技术，比如强化学习、神经符号推理、元学习等，来增强其推理和问题解决能力。 非推理大模型： 适用于大多数任务，非推理大模型一般侧重于语言生成、上下文理解和自然语言处理，而不强 调深度推理能力。此类模型通常通过对大量文本数据的训练，掌握语言规律并能够生成合适的内容，但缺乏像 角色扮演型提示语：要求AI扮演特定角色，模拟 特定场景。 4. 创意型提示语：引导AI进行创意写作或内容生成。 5. 分析型提示语：要求AI对给定信息进行分析和推 理。 6. 多模态提示语：结合文本、图像等多种形式的 输入。 表1-1-1提示语的本质特征 特征 描述 示例 沟通桥梁 连接人类意图和AI理解 “将以下内容翻译为法语：Hello, world” 上下文提供 者 为AI提供必要的背景信息 确保输出 符合预期并能够进行必要的调整，是实现高级提示语 工程的重要工具。 提示语的DNA：解构强大提示语的基本元素 提示语元素组合矩阵 提示语元素协同效应理论的核心观点包括： ▪ 互补增强：某些元素组合可以互相弥补不足，产生1+1>2的效果。 ▪ 级联激活：一个元素的激活可能引发一系列相关元素的连锁反应，形成 一个自我强化的正反馈循环。 ▪ 冲突调和：看似矛盾的元素组合可能产生意想不到的积极效果。

本质：以多agent实现从数据采集到可视全流程 模型特点 Claude 3.5 sonnet  平衡性能：在模型大小和 性能之间取得平衡，适合 中等规模任务。  多模态支持：支持文本和 图像处理，扩展应用场景。  可解释性：注重模型输出 的可解释性和透明性。 DeepSeek R1  高效推理：专注于低延迟和 高吞吐量，适合实时应用。  轻量化设计：模型结构优化， • 情感分析与数据解读：利用o3mini结合 情感分析，对数据进行深入解读，帮助市场调 研等领域理解消费者情感，优化产品和策略。 • 故事化数据呈现：借助o3mini将数据以 故事的形式呈现，增强数据的可读性和吸引力， 帮助公众理解复杂的科学和技术知识。 • 复杂数据模式识别：借助o3mini高效分 析复杂数据，帮助科学研究和工程领域发现 模式和规律，如天文学中的星系演化或地质 学中的地震数据分析。 多版本与模块化支持：目前提供三个版本（基础版、增 强版、专业版），能够灵活应对不同用户的综述需求。 工具内包括文献观点梳理、问题提出等功能模块，确保 用户在不同科研需求下得到充分支持。  增强版绘图功能：增强版具备绘图功能，可通过可视化 图示（如文献关键词共现图）直观展示综述内容，帮助 用户更好理解和呈现研究成果。  无数据检索：以现有真实数据库作为支撑，通过关键词 检索，自动搜集相关文献并生成综述报告，目前只支持

. . . . . . . . . . . . 7 2.1.3 通义千问 . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 2.2 图像 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7 2.2.1 物体擦除 IOPaint . . . . . . . . . . . 40 3 1 AI 大模型基础 1.1 AIGC AIGC 是指使用人工智能模型生成内容的技术。这些内容可以包括图像、音频、 文本、视频、3D 模型等。具体来说，AIGC 技术可以生成如下类型的内容： • 图像：如照片、原创艺术作品 • 音频：如视频游戏中的配音、音乐 • 文本：如代码、广告文案、小说 • 3D 模型：如角色、场景 目前，AIGC 技 力的智 能系统。 1.3 大模型 大模型通常指的是大规模的人工智能模型，这类模型通过训练大量的数据来获 得广泛的知识和能力。这些模型通常具有庞大的参数数量，能够处理复杂的任 务，如自然语言理解、图像识别、语音识别等。 闭源大模型包括 OpenAI 的 GPT 系列和 Google 的 BERT。这些模型因其 高效的学习能力和强大的通用性而受到关注。 开源大模型以 Meta 的 Llama 系列，2024

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1996 36.7 imghdr --- 推测图像类型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1996 36.8 mailcap --- 弱引用的一个主要用途是实现一个存储大型对象的缓存或映射，但又不希望该大型对象仅因为它只出现 在这个缓存或映射中而保持存活。 例如，如果你有许多大型二进制图像对象，你可能希望为每个对象关联一个名称。如果你使用 Python 字 典来将名称映射到图像，或将图像映射到名称，那么图像对象将因为它们在字典中作为值或键而保持存 活。weakref 模块提供的WeakKeyDictionary 和WeakValueDictionary 类可以替代 Python 字典，它们 使用弱引用来构造映射，这种映射不会仅因为对象出现在映射中而使对象保持存活。例如，如果一个图 像对象是WeakValueDictionary 中的值，那么当对该图像对象的剩余引用是弱映射对象所持有的弱引 用时，垃圾回收器将回收该对象，并删除弱映射对象中相应的条目。 WeakKeyDictionary 和WeakValueDictionary 在它们的实现中使用了弱引用，并在弱引用上设置当键

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1996 36.7 imghdr --- 推测图像类型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1996 36.8 mailcap --- 弱引用的一个主要用途是实现一个存储大型对象的缓存或映射，但又不希望该大型对象仅因为它只出现 在这个缓存或映射中而保持存活。 例如，如果你有许多大型二进制图像对象，你可能希望为每个对象关联一个名称。如果你使用 Python 字 典来将名称映射到图像，或将图像映射到名称，那么图像对象将因为它们在字典中作为值或键而保持存 活。weakref 模块提供的WeakKeyDictionary 和WeakValueDictionary 类可以替代 Python 字典，它们 使用弱引用来构造映射，这种映射不会仅因为对象出现在映射中而使对象保持存活。例如，如果一个图 像对象是WeakValueDictionary 中的值，那么当对该图像对象的剩余引用是弱映射对象所持有的弱引 用时，垃圾回收器将回收该对象，并删除弱映射对象中相应的条目。 WeakKeyDictionary 和WeakValueDictionary 在它们的实现中使用了弱引用，并在弱引用上设置当键

. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2109 36.9 imghdr --- 推测图像类型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2110 36.10 imp ——由代码内部访问 弱引用的一个主要用途是实现一个存储大型对象的缓存或映射，但又不希望该大型对象仅因为它只出现在这 个缓存或映射中而保持存活。 例如，如果你有许多大型二进制图像对象，你可能希望为每个对象关联一个名称。如果你使用 Python 字典 来将名称映射到图像，或将图像映射到名称，那么图像对象将因为它们在字典中作为值或键而保持存活。 weakref 模块提供的WeakKeyDictionary 和WeakValueDictionary 和WeakValueDictionary 类可以替代 Python 字典，它们使 用弱引用来构造映射，这种映射不会仅因为对象出现在映射中而使对象保持存活。例如，如果一个图像对象 是WeakValueDictionary 中的值，那么当对该图像对象的剩余引用是弱映射对象所持有的弱引用时，垃 圾回收器将回收该对象，并删除弱映射对象中相应的条目。 WeakKeyDictionary 和WeakValueDictionary 在它们