2023 年春:25 个 agent 要在小镇里过两天
经历越来越长,窗口只有几页纸:被邀请的人到了那天,还记不记得聚会?
这一页为什么在这里
第三站的置身:agent 不再只回答一个问题,而要连续过几天;经历越积越多,窗口装不下。用 Smallville 的情人节聚会把问题落到一个具体的行动上:前一天晚上收到的邀请,第二天下午还记得去吗?页顶站牌亮在 ③ 2023,右下角出口接第 12 讲。
上屏
- 第 1 步:小站牌亮在 ③ 2023。「已知」:检索已经成熟;GPT-4:8k,限量 32k;小镇:ChatGPT 接口,约 4k。「未知」:几天的经历,怎么塞进几页纸?“记得好”怎么测?底部一行:Smallville:25 个 agent,连续两个游戏日,用 gpt-3.5-turbo(窗口约 4k token)。
- 第 2 步:时间线(2023):2/13 伊莎贝拉(Hobbs 咖啡馆主人)想在 2/14 17:00–19:00 办情人节聚会|2/13 白天 她邀请见到的朋友和顾客,下午布置咖啡馆|2/13 常客玛丽亚来帮忙布置|2/13 晚上 玛丽亚邀请克劳斯|2/14 17:00 聚会开始——被邀请的人还记得去吗?右下角出口:→ 第 12 讲|25 个 agent 之间,一个邀请怎样传开。
讲
第 1 步 · 教师可说的话
经历增长与窗口限制
2023 年春天,斯坦福的一个团队想让 25 个 agent 在一个小镇里连续生活两天:起床、上班、聊天、交朋友。问题马上来了:每个 agent 的经历越来越长,可当时的窗口只有几千 token,几页纸。
指图与比较
对照已知与未知面板,再指出 Smallville 的人数、时间与窗口条件。
第 2 步 · 教师可说的话
跨天的聚会邀请
给一个具体考验:伊莎贝拉 2 月 13 日筹备 Hobbs 咖啡馆的情人节聚会,玛丽亚晚上邀请克劳斯,到 14 日 17:00,被邀请的人还得记得去。
指图与比较
沿 2/13 到 2/14 的邀请时间线读到最后一格:被邀请的人还记得去吗?
本页衔接
如果你是设计者,你怎么办?
连续教师稿原文
2023 年春天,斯坦福的一个团队想让 25 个 agent 在一个小镇里连续生活两天:起床、上班、聊天、交朋友。问题马上来了:每个 agent 的经历越来越长,可当时的窗口只有几千 token,几页纸。
给一个具体考验:伊莎贝拉 2 月 13 日筹备 Hobbs 咖啡馆的情人节聚会,玛丽亚晚上邀请克劳斯,到 14 日 17:00,被邀请的人还得记得去。
讲授出口
→ 第 12 讲|25 个 agent 之间,一个邀请怎样传开。可以展开:小镇本身就是一个多 agent 系统,没有中央调度,信息靠 agent 之间的对话扩散;一个邀请从伊莎贝拉传到玛丽亚、再到克劳斯,靠的是每个 agent 自己记住并转述。第 12 讲讲多智能体的组织与协作。
完整推理
当年的处境。 2023 年春,检索已经成熟(第一、二站);GPT-4 在 3 月发布,窗口 8k token,32k 版本限量开放。Generative Agents 的小镇实验用的是 ChatGPT 的 gpt-3.5-turbo,窗口约 4k token。斯坦福和 Google 的研究者想做“可信的人类行为模拟”:25 个 agent 住在一个叫 Smallville 的小镇里,各有身份和关系,连续过两个游戏日,自己起床、工作、聊天、计划。
新的问题。 第一、二站的检索对象是别人写好的百科;这里要检索的是 agent 自己的经历。经历每分钟都在增加:两天下来,一个 agent 的观察、对话、计划远远超过 4k token。每一次决定“现在做什么”时,窗口里放哪些经历?而且怎样才算“记得好”,本身也还不清楚。
一个具体的考题。 伊莎贝拉 2 月 13 日决定第二天 17:00–19:00 在咖啡馆办情人节聚会,白天邀请见到的人;常客玛丽亚来帮忙布置,晚上又邀请了克劳斯。到 2 月 14 日下午,这个邀请已经是“昨天晚上的一句话”。被邀请的人会不会想起来、按时出现,取决于那条经历能不能在对的时刻回到输入里。
别混。 同一时期不同模型的窗口不同:GPT-4 的 8k/32k 不是小镇的配置。
学生可能的回答与误区
- 第 1 步|“把两天的经历都塞进去就行。”窗口约 4k token,装不下;即使装得下,第四站会看到装进去也不等于用上。
- 第 1 步|“小镇是游戏,和科研无关。”它是一个可控的社会模拟环境:能重放、能关掉部件、能采访每个 agent,这正是后面做消融的前提。
- 第 2 步|“聚会的人到了,就说明记忆有效。”这是端到端的现象,可能有很多原因;Q22 讨论怎样设计才能把功劳归到记忆上。
教学构造与出处
- 教学构造:时间线的画法与“被邀请的人还记得去吗?”的题面是课件做的;聚会的情节、时间、人物来自原文。
- Generative Agents · Interactive Simulacra of Human Behavior:Park 等(斯坦福、Google),arXiv 2304.03442v2,UIST 2023;读 §1、§3:25 个 agent、两个游戏日、情人节聚会的情境;实现用的是 ChatGPT 的 gpt-3.5-turbo。来源支持。
- GPT-4 的 8k 与限量 32k 窗口:OpenAI 2023-03 发布时的说明。