Google AI 发布 Vertex AI 记忆库：实现持久代理对话

开发人员正在积极致力于将人工智能代理（AI Agent）推向市场，但一个重大障碍是缺乏记忆。由于无法回忆过去的互动，代理会将每次对话都视为第一次，导致重复提问、无法记住用户偏好，以及普遍缺乏个性化。这让用户和开发人员都感到沮丧。

过去，开发人员曾尝试通过将整个会话对话直接插入 LLM 的上下文窗口来缓解此问题。然而，这种方法成本高昂且计算效率低下，导致推理成本更高、响应时间更慢。此外，输入过多信息（尤其是无关细节）会降低模型的输出质量，导致“中途丢失”和“上下文衰减”等问题。

Vertex AI 记忆库简介

为了克服这些限制，Google Cloud 宣布推出Memory Bank的公开预览版，这是Vertex AI Agent Engine中的一项新托管服务。Memory Bank 旨在帮助您构建高度个性化的对话代理，以促进更自然、更具情境性和持续性的互动。

例如，这里有一个个性化医疗代理：需要过去会话中提到的有关用户过敏和先前症状的关键信息，以便在当前会话中提供更明智的响应

Memory Bank 通过几个关键方法解决了基本的记忆问题：

Memory Bank 通过智能、多阶段流程运作，利用谷歌的 Gemini 模型和新颖的研究：

理解并提取记忆：记忆库分析用户的对话历史记录（存储在代理引擎会话中），以提取关键事实、偏好和上下文。此过程在后台异步进行，无需开发人员构建复杂的提取流程即可生成新的记忆。
智能存储和更新记忆：关键信息（例如“我喜欢阳光明媚的日子”）会根据用户 ID 等特定范围进行存储和整理。当新信息出现时，记忆银行会利用 Gemini 将其与现有记忆整合，解决矛盾之处，并确保记忆保持最新状态。
回忆相关信息：当新的对话会话开始时，代理可以检索这些存储的记忆。这种检索可以是简单地回忆所有事实，也可以是使用嵌入进行更高级的相似性搜索，以查找与当前主题最相关的记忆。这确保代理始终具备正确的上下文。

整个过程以谷歌研究院的创新研究方法为基础，该方法已被 ACL 2025 采纳。该方法提供了一种基于主题的智能方法，用于研究代理如何学习和回忆信息，从而为代理的记忆性能树立了新的标杆。例如，个人美容伴侣代理可以记住用户不断变化的肤质，从而提供个性化的产品推荐。