跳到内容
Coding with AI · Lecture 08
Esc
↑↓导航↵打开⌘J预览
本页内容

2023 年春:25 个 agent 要在小镇里过两天

经历越来越长,窗口只有几页纸:被邀请的人到了那天,还记不记得聚会?

这一页为什么在这里

第三站的置身:agent 不再只回答一个问题,而要连续过几天;经历越积越多,窗口装不下。用 Smallville 的情人节聚会把问题落到一个具体的行动上:前一天晚上收到的邀请,第二天下午还记得去吗?页顶站牌亮在 ③ 2023,右下角出口接第 12 讲。

上屏

  • 第 1 步:小站牌亮在 ③ 2023。「已知」:检索已经成熟;GPT-4:8k,限量 32k;小镇:ChatGPT 接口,约 4k。「未知」:几天的经历,怎么塞进几页纸?“记得好”怎么测?底部一行:Smallville:25 个 agent,连续两个游戏日,用 gpt-3.5-turbo(窗口约 4k token)。
  • 第 2 步:时间线(2023):2/13 伊莎贝拉(Hobbs 咖啡馆主人)想在 2/14 17:00–19:00 办情人节聚会|2/13 白天 她邀请见到的朋友和顾客,下午布置咖啡馆|2/13 常客玛丽亚来帮忙布置|2/13 晚上 玛丽亚邀请克劳斯|2/14 17:00 聚会开始——被邀请的人还记得去吗?右下角出口:→ 第 12 讲|25 个 agent 之间,一个邀请怎样传开。

讲

第 1 步 · 教师可说的话

经历增长与窗口限制

2023 年春天,斯坦福的一个团队想让 25 个 agent 在一个小镇里连续生活两天:起床、上班、聊天、交朋友。问题马上来了:每个 agent 的经历越来越长,可当时的窗口只有几千 token,几页纸。

指图与比较

对照已知与未知面板,再指出 Smallville 的人数、时间与窗口条件。

第 2 步 · 教师可说的话

跨天的聚会邀请

给一个具体考验:伊莎贝拉 2 月 13 日筹备 Hobbs 咖啡馆的情人节聚会,玛丽亚晚上邀请克劳斯,到 14 日 17:00,被邀请的人还得记得去。

指图与比较

沿 2/13 到 2/14 的邀请时间线读到最后一格:被邀请的人还记得去吗?

本页衔接

如果你是设计者,你怎么办?

连续教师稿原文

2023 年春天,斯坦福的一个团队想让 25 个 agent 在一个小镇里连续生活两天:起床、上班、聊天、交朋友。问题马上来了:每个 agent 的经历越来越长,可当时的窗口只有几千 token,几页纸。

给一个具体考验:伊莎贝拉 2 月 13 日筹备 Hobbs 咖啡馆的情人节聚会,玛丽亚晚上邀请克劳斯,到 14 日 17:00,被邀请的人还得记得去。

讲授出口

→ 第 12 讲|25 个 agent 之间,一个邀请怎样传开。可以展开:小镇本身就是一个多 agent 系统,没有中央调度,信息靠 agent 之间的对话扩散;一个邀请从伊莎贝拉传到玛丽亚、再到克劳斯,靠的是每个 agent 自己记住并转述。第 12 讲讲多智能体的组织与协作。

完整推理

当年的处境。 2023 年春,检索已经成熟(第一、二站);GPT-4 在 3 月发布,窗口 8k token,32k 版本限量开放。Generative Agents 的小镇实验用的是 ChatGPT 的 gpt-3.5-turbo,窗口约 4k token。斯坦福和 Google 的研究者想做“可信的人类行为模拟”:25 个 agent 住在一个叫 Smallville 的小镇里,各有身份和关系,连续过两个游戏日,自己起床、工作、聊天、计划。

新的问题。 第一、二站的检索对象是别人写好的百科;这里要检索的是 agent 自己的经历。经历每分钟都在增加:两天下来,一个 agent 的观察、对话、计划远远超过 4k token。每一次决定“现在做什么”时,窗口里放哪些经历?而且怎样才算“记得好”,本身也还不清楚。

一个具体的考题。 伊莎贝拉 2 月 13 日决定第二天 17:00–19:00 在咖啡馆办情人节聚会,白天邀请见到的人;常客玛丽亚来帮忙布置,晚上又邀请了克劳斯。到 2 月 14 日下午,这个邀请已经是“昨天晚上的一句话”。被邀请的人会不会想起来、按时出现,取决于那条经历能不能在对的时刻回到输入里。

别混。 同一时期不同模型的窗口不同:GPT-4 的 8k/32k 不是小镇的配置。

学生可能的回答与误区

  • 第 1 步|“把两天的经历都塞进去就行。”窗口约 4k token,装不下;即使装得下,第四站会看到装进去也不等于用上。
  • 第 1 步|“小镇是游戏,和科研无关。”它是一个可控的社会模拟环境:能重放、能关掉部件、能采访每个 agent,这正是后面做消融的前提。
  • 第 2 步|“聚会的人到了,就说明记忆有效。”这是端到端的现象,可能有很多原因;Q22 讨论怎样设计才能把功劳归到记忆上。

教学构造与出处

  • 教学构造:时间线的画法与“被邀请的人还记得去吗?”的题面是课件做的;聚会的情节、时间、人物来自原文。
  • Generative Agents · Interactive Simulacra of Human Behavior:Park 等(斯坦福、Google),arXiv 2304.03442v2,UIST 2023;读 §1、§3:25 个 agent、两个游戏日、情人节聚会的情境;实现用的是 ChatGPT 的 gpt-3.5-turbo。来源支持。
  • GPT-4 的 8k 与限量 32k 窗口:OpenAI 2023-03 发布时的说明。

在课堂中打开

这个页面有帮助吗?