词语矢量作为各种深度学习模型的输入值 • 示例深度学习架构： dual RNN ( dual LSTM) • 利用用户反馈数据来补充训练样本 正在进行的探索 17 聊天机器人(chatbot) • 聊天机器人是一种聊天代理，它通过电脑程序设计与人类通过音频或文本进行 智力对话。 --维基百科 • 未来，聊天应用将被看作是新的浏览器，而机器人程序将成为新的网站。这就 是互联网的新开始。--Ted Livingston

开发您自己的智能体 Qwen-Agent 提供包括语言模型和提示词等原子级组件，及智能体等高级组件在内的多种组件。以下示例选 取助理组件进行展示，阐述了如何整合自定义工具以及如何迅速开发出一个能够应用这些工具的代理程序。 import json import os import json5 import urllib.parse from qwen_agent.agents import Assistant

而不必分心于其他问题。但 缺点是，解决的问题相当有限。这时我们可能会期望人工智能不仅能够做出预测，而且能够与真实环境互动。 与预测不同，“与真实环境互动”实际上会影响环境。这里的人工智能是“智能代理”，而不仅是“预测模型”。 因此，我们必须考虑到它的行为可能会影响未来的观察结果。 考虑“与真实环境互动”将打开一整套新的建模问题。以下只是几个例子。 • 环境还记得我们以前做过什么吗？ • 遗憾的是，我们还面临另一个问题：在深度学习中，我们通常情况甚至无法计算目标函数的二阶导数：对 于x ∈ Rd，即使只在小批量上，二阶导数可能也需要O(d2)空间来计算，导致几乎不可行。AdaGrad算法巧妙 的思路是，使用一个代理来表示黑塞矩阵（Hessian）的对角线，既相对易于计算又高效。 为了了解它是如何生效的，让我们来看看 ¯f(¯x)。我们有 ∂¯x ¯f(¯x) = Λ¯x + ¯c = Λ (¯x − ¯x0) AdaGrad算法利用梯度的大小作为调整进度速率的手段：用较小的学习率来补偿带有较大梯度的坐标。 • 在深度学习问题中，由于内存和计算限制，计算准确的二阶导数通常是不可行的。梯度可以作为一个有 效的代理。 • 如果优化问题的结构相当不均匀，AdaGrad算法可以帮助缓解扭曲。 • AdaGrad算法对于稀疏特征特别有效，在此情况下由于不常出现的问题，学习率需要更慢地降低。 • 在深度学习问题

率当作损失函数去优化时，会发现 ???? ?? 其实是不可导的，无法利用梯度下降算法优化网络 参数?。一般的做法是，设立一个平滑可导的代理目标函数(Proxy Objective)，比如优化模 型的输出 与 One-hot 编码后的真实标签?之间的距离(Distance)，通过优化代理目标函数得 到的模型，往往在其它指标上也能有良好的表现。因此，相对回归问题而言，分类问题的 优化目标函数和评价目标函数是不一