AI 术语表 · 基础 · 智能体
智能体记忆
智能体记忆是一种装置,让 AI 智能体把当前对话或任务所需的信息,以及从过去的对话和任务中了解到的内容保存下来,在需要时再取出使用。模型本身在对话结束后什么都不会记住,因此需要在外部单独管理记忆。
通俗解释 这类似于使用工作笔记本的员工。当前正在做的事摊在桌上的便条里(短期记忆),需要长期保留的内容记在笔记本里(长期记忆),下次做类似工作时再翻查。不过,AI 记录什么、查找什么在很大程度上依赖人设计的规则,也可能取出不相干的笔记来用。
工作原理
通常分为两层。短期记忆是放入模型一次读取的上下文窗口内的内容,当前的对话记录和任务的中间结果都在这里。长期记忆是存放在文件或向量数据库等外部存储中的记录,保存用户偏好、以往任务摘要、学到的技巧等。智能体在工作中挑出值得记住的内容,整理后存储;有新任务时,检索相关记忆并重新放入上下文。
为什么重要
没有记忆,智能体每次都会像初次见面一样,需要重新听一遍同样的说明。在较长的任务中,上下文窗口还可能被填满,导致它忘记之前做过的事。设计良好的记忆可以实现针对用户的个性化回应,也能让跨越多天的任务接续进行。因此,在上下文工程中,记住什么、舍弃什么已成为重要的设计课题。
注意事项
记忆并非越多越好。过时或错误的记忆被重新调取时,反而可能破坏回答;无关的记忆占用上下文,则会在性能和成本上造成损失。由于会存储个人信息,用户应能查看哪些内容被记住并可将其删除。此外,如果记忆存储中混入恶意内容,它可能成为提示词注入的通道。
示例
多个 AI 聊天机器人服务提供“记忆”功能,可记住用户告知的职业或偏好的回答语气,并在之后的对话中加以体现。编程智能体会把项目规则或在以往任务中了解到的注意事项写入单独的备忘文件,开始新任务时先读取该文件,以免重复同样的错误。