跳到内容
Coding with AI · Lecture 08
Esc
↑↓导航↵打开⌘J预览
本页内容

它说“记得你”:记在哪里?怎么验?

“记得你”可以对应三种不同的事实,用每次只改一样东西的干预区分。

这一页为什么在这里

这一讲的第一个动作不是介绍产品,而是把一句产品宣传变成可以检验的科学问题。2026 年秋几家公司都说自己的 agent “记得你”,可“记得”可以对应三种完全不同的事实:信息在参数里、在这一次的输入里、在外面的记忆库里。三种假设对同一个干预给出不同的预言,所以能用实验分开。这一页立起全讲反复使用的那一招:每次只改一样东西,看回答变不变。后面每一段,都在用它回答“信息从哪来”。

上屏

  • 第 1 步:页顶一行小字引子:2026 年秋,几家 personal agent 都说“记得你”(Meta Muse:记得对你重要的事,也能按你的要求忘掉;Anthropic Duet:记得你之前说过的话)。舞台中央一句问题:它说记得你——信息到底在哪里?
  • 第 2 步:三栏三个假设,每栏三行(名字|怎样做到|如果是这样,你会看到)。记在参数里|训练时学进去|开一个全新对话、什么历史都不给,它仍然知道;改不掉,也说不出是哪一次告诉它的。记在这一次的输入里|系统把之前的对话一起送进去|同一段对话里记得,开新对话就忘。记在外面|写进记忆库,用时取回|开新对话也记得;删掉那一条就忘;改掉那一条,回答跟着改。
  • 第 3 步:底部问题“你会做哪个实验分清这三种?”和三个标签:开一个新对话|删掉一条|改掉一条;一行:每次只改一样东西,看回答变不变。右下角出口标签:→ 第 11 讲|人能让它忘掉:谁来管它记得什么。

讲

第 1 步 · 教师可说的话

把“记得”变成科学问题

过去两个月,好几家公司推出了 personal agent,都说“记得你”。作为研究者,先别急着信,也别急着不信:“记得”这个词,可以对应完全不同的事实。

指图与比较

把“记得”变成科学问题

第 2 步 · 教师可说的话

比较三个假设的预言

至少三种。一是训练时就学进了参数;二是系统每次把之前的对话一起塞进这一次的输入;三是写进了外面的记忆库,用的时候再取回来。三种假设,预言不一样。

指图与比较

比较三个假设的预言

第 3 步 · 教师可说的话

设计三种单变量干预

你会做什么实验把它们分开?(停一下)最省事的三招:开一个全新对话,删掉一条记忆,改掉一条记忆。每次只改一样东西,看回答变不变。这一讲每一段,都在用这一招回答“信息从哪来”。

指图与比较

设计三种单变量干预

本页衔接

下一页把这三处信息的位置与读写关系画出来。

连续教师稿原文

过去两个月,好几家公司推出了 personal agent,都说“记得你”。作为研究者,先别急着信,也别急着不信:“记得”这个词,可以对应完全不同的事实。

至少三种。一是训练时就学进了参数;二是系统每次把之前的对话一起塞进这一次的输入;三是写进了外面的记忆库,用的时候再取回来。三种假设,预言不一样。

你会做什么实验把它们分开?(停一下)最省事的三招:开一个全新对话,删掉一条记忆,改掉一条记忆。每次只改一样东西,看回答变不变。这一讲每一段,都在用这一招回答“信息从哪来”。

讲授出口

→ 第 11 讲|人能让它忘掉:谁来管它记得什么。可以展开:记忆是人和 agent 共享的东西。谁有权写、改、删?写进去之前要不要先问你?Muse 把“能按你的要求忘掉”当成卖点,说明删改权本身就是设计问题。第 11 讲讲人机协作与共享控制。

完整推理

“记得你”是对行为的描述,不是机制。至少有三种机制都能产生它:

  1. 参数:训练时把信息学进了权重(第六讲)。这种“记忆”跨对话都在,但改不掉、删不掉,也说不出来自哪一次对话。
  2. 这一次的输入:系统每次调用时把之前的对话(或它的摘要)一起放进输入(第五讲)。模型每一步只看得见这一次的输入,所以只要历史还在输入里,它就“记得”;开新对话、历史不再放进来,它就忘。
  3. 外部存储:系统把某些信息写进模型之外的记忆库,需要时检索回来、放进输入。开新对话也记得;删掉那条记录就忘;改掉那条记录,回答跟着改。

三种假设的预言不同,所以用干预分得开。开一个新对话,把“输入”和另两种分开;删掉一条记录,把“外面”和“参数”分开;改掉一条、看回答是否跟着改,是最强的一招。删除只说明“少了它就不行”,改写说明“回答的内容由它决定”,把原因落到了那一条记录上。每次只改一样:如果同时开新对话又删记录,回答变了也分不清是哪一步造成的。

这一招在本讲反复出现:2020 年 RAG 只换文档库、参数不动(Q07);2023 年小镇 agent 拿掉记忆的一块看行为变化(Q23);位置实验只挪含答案的那一段(Q28)。

真实产品常常三种机制并用,比如把记忆库里取回的条目和最近几轮对话一起放进输入。所以实际检验可能看到混合的结果:开新对话后记得一部分、忘了一部分。这本身就是信息:哪些信息被写到了外面,哪些只活在一次对话里。

学生可能的回答与误区

  • 第 2 步|“它记得我,是模型在对话中学会了我。”这是把输入里的对话历史当成了参数在变。一次对话里模型的参数不变(第六讲讲训练,第五讲讲输入);它记得,是因为历史被放进了输入。
  • 第 2 步|“三种只能选一种。”实际系统常常混用。实验的目的不是给系统贴一个标签,而是弄清每一类信息存在哪里。
  • 第 3 步|“删掉一条就够了。”删除只说明少了它回答会变;改写一条、回答跟着改,才把回答的内容落到那条记录上。
  • 第 3 步|“开了新对话它还记得,所以一定是外部记忆。”也可能是训练数据里本来就有(比如公众人物的信息)。用只有你自己告诉过它的私人信息来测,才分得清。

教学构造与出处

  • 教学构造:三栏里的“如果是这样,你会看到”是本课概括的预言,不出自某篇论文;三种干预(开新对话、删一条、改一条)是为本讲设计的检验思路。
  • Meta · Introducing Muse 公告:2026-09-08 发布、同月 30 日更新;读其中“记住对一个人重要的事”与“可以随时让它忘掉学到的具体事情”两处。只是产品自述,没有实现细节。
  • Anthropic · Claude Duet 产品页:页面无发布日期,标为研究预览;读其 FAQ 里“记得你之前说过的话”,以及使用 Claude 账号已有记忆的说法。页面没有说记忆怎样实现。
  • 第五讲(输入与窗口)、第六讲(训练与参数)的结论在这里当作已知。

动手

  • 课后拿自己在用、带记忆功能的助手试这三招(不提交):先问一件你只在旧对话里说过的私事;开一个新对话再问;在设置里删掉或改掉一条记忆再问。
  • 每次只改一样,先写下你预期哪种假设会怎样,再记下实际的回答。

在课堂中打开

这个页面有帮助吗?