四个办法,你选哪个?
每种办法都会丢东西;他们选了全记下、用时再查——这本身就是一个 RAG。
这一页为什么在这里
第三站的抉择:经历超过窗口时,有四个办法。用一张表把每个办法落到同一个时刻(2/14 16:50,克劳斯这一次的输入里剩下什么),学生能直接看出前两种会丢掉什么。揭示:小镇选了“全存起来、要用时查”,这就是 RAG,只是外部存储里的东西是 agent 自己写的。
上屏
- 第 1 步:表头:办法|2/14 16:50 克劳斯这一次的输入里剩下什么|会怎样。四行办法:截掉最早的|压成摘要|全存起来、要用时查|让模型自己决定读写;后两列先空着。
- 第 2 步:前两行填上。截掉最早的——“2/14 15:30 在宿舍写论文;16:20 去图书馆……”|邀请在 2/13 晚上,已被截掉。压成摘要——“这两天:做研究、和朋友聊天、参加社交活动”|时间和地点没了。一行原文证据(2023):问伊莎贝拉“你最近热衷什么”,摘要版答“活动合作、店里整洁”,按问题检索版答“让人感到被欢迎、筹备情人节聚会”。
- 第 3 步:第三行:按“现在该做什么”从记忆库取回——“2/13 晚上 答应玛丽亚 2/14 17:00 去 Hobbs 咖啡馆”|记得去。第四行:见 Q25。一行:他们选了第三个:这就是一个 RAG,只是外部存储里的东西是 agent 自己写的。
讲
第 1 步 · 教师可说的话
四种保存办法
四个办法:截掉最早的;把经历压成摘要;全部存起来,要用的时候再查;或者让模型自己决定读什么写什么。你选哪个?
指图与比较
看四行办法名;把同一个问题放在 2/14 16:50 克劳斯即将决定去哪里这个时刻。
第 2 步 · 教师可说的话
截断与摘要丢什么
截掉最早的,克劳斯会丢掉前一晚答应去聚会的邀请。压成摘要呢?你不知道明天会问什么,哪一句都可能被压掉。论文里正好举了个例子:把伊莎贝拉的经历全压成摘要,再问她“你最近热衷什么”,回答很空;改成按问题去查相关的记忆,回答具体得多。
指图与比较
比较前两行的实际输入与红色后果,再看伊莎贝拉回答“你最近热衷什么”的论文对照。
第 3 步 · 教师可说的话
完整保存后按需取回
他们选的是全记下来,用的时候再查。注意,这就是一个 RAG,只不过书架上的东西,是 agent 自己写上去的。这就是“记忆是能写的 RAG”最直接的样子。
指图与比较
指向第三行从记忆库取回的邀请与“记得去”,说明外部存储的内容是 agent 自己写下的。
本页衔接
书架上的东西越来越多,用的时候查哪几条?
连续教师稿原文
四个办法:截掉最早的;把经历压成摘要;全部存起来,要用的时候再查;或者让模型自己决定读什么写什么。你选哪个?
截掉最早的,克劳斯会丢掉前一晚答应去聚会的邀请。压成摘要呢?你不知道明天会问什么,哪一句都可能被压掉。论文里正好举了个例子:把伊莎贝拉的经历全压成摘要,再问她“你最近热衷什么”,回答很空;改成按问题去查相关的记忆,回答具体得多。
他们选的是全记下来,用的时候再查。注意,这就是一个 RAG,只不过书架上的东西,是 agent 自己写上去的。这就是“记忆是能写的 RAG”最直接的样子。
完整推理
四个办法各丢什么。
- 截掉最早的:只留最近几小时的经历。实现最简单;但重要的事常常发生得早,前一晚的邀请最先被截掉。
- 压成摘要:把旧经历压成几句话。省地方;但压缩时不知道以后会被问什么,具体的时间、地点、承诺最容易丢。
- 全存起来、要用时查:每条经历都写进记忆库,需要时按当下的问题检索。保留了细节,代价是要设计“按什么取”(Q20)。
- 让模型自己决定读写:模型自己调用函数把东西存出去、读回来(MemGPT,Q25)。
原文的对照。 Generative Agents 比较了摘要与按问题检索:问伊莎贝拉“你最近热衷什么”,只看摘要的版本回答得空泛(活动合作、保持店里整洁),按问题检索相关记忆的版本答出了具体的事(让人感到被欢迎、筹备情人节聚会)。
他们的选择。 小镇选了第三种:把每条经历写进“记忆流”,用时按当前情境检索。结构上,这就是第一站的 RAG:外部存储 → 检索 → 放进这一次的输入;区别只在于外部存储里的内容是 agent 自己写下的。所以“记忆是能写的 RAG”:读的那一半第一站已经讲过,新问题出在写的那一半(Q26)。
边界。 表里克劳斯那一列的具体内容是课件构造的,用来说明每种办法会丢什么;原文给出的证据是伊莎贝拉那一组对照,是单个例子。选第三种也不保证写下的内容是对的、将来一定取得到。
学生可能的回答与误区
- 第 1 步|多数人选“压成摘要”,觉得既省地方又不丢重点。追问:压的时候,你知道明天会被问什么吗?
- 第 2 步|“截掉最早的也行,最近的才重要。”承诺、计划、约定往往发生得早、在以后才兑现。
- 第 3 步|“记忆和检索是两回事。”在小镇里,记忆就是一个由 agent 自己写入的检索库;读的问题和第一站一样,写的问题是新的。
教学构造与出处
- 教学构造:克劳斯在 2/14 16:50 的输入内容(截断版、摘要版、检索版)是为画面编的,原文没有这张表。
- Generative Agents · §4.1 记忆与检索:arXiv 2304.03442v2;摘要与按问题检索两种做法回答伊莎贝拉“最近热衷什么”的对照。作者报告的单个例子,说明机制,不是统计结果。