上次更新: 12 小时前

你的律师需要记录,你的朋友需要遗忘的空间

思考 · zhenxing · 2026-07-14 14:00

★★★★ 4.3
3000 字 预计 6 分钟

_一个AI角色记住什么、忘掉什么,都是它身份的一部分。_

***

把同一个秘密告诉两个AI角色。一个是你的律师,一个是你的朋友。

你可能希望律师保留准确的记录:你说了什么、什么时候说的、由此产生了什么义务。你可能希望朋友记得这个话题让你受伤——然后,让当晚的原话慢慢淡去。

如果两个角色以完全相同的方式记住你,那么其中至少有一个,误解了自己的角色。

记忆不只是一项能力。一个角色的记忆策略,是它身份的一部分。

***

上周我写过,一个AI角色拥有一部被设计的宪法——那些不允许漂移的核心承诺——以及一段被生活出来的传记,也就是它和某一个具体的人一起经历过什么的记录。我漏掉了宪法里的一部分,而这一部分,在日常使用中恰恰最要紧。

它会记住什么。它会放掉什么。以及,由谁来决定。

01 | 对某些角色,完美的记忆产出更薄的传记

许多AI产品都围绕一个很少被认真检验的假设构建:系统记得越多,就越了解你;越了解你,关系就越深。

前半句是对的。后半句,并不总是成立。

人对一个朋友坦白,不是因为这个朋友保存着一份持久的档案。人坦白,是因为相信这个朋友会理解语境,允许自己改变,不会把一个糟糕的夜晚变成一项永久属性。你会把那件从没说出口的事告诉一个朋友。你不会告诉一个法庭书记员——不是因为书记员不可信,而是因为一份逐字记录,是那一类自我揭露的错误容器。

所以,对一个朋友而言,一个记住一切的角色,会被告知得更少。用上周的语言说:被告知得更少,它积累起来的共同历史就更薄;而更薄的共同历史,就是更少被挣来的信任。一个为完美记忆而优化的陪伴角色,最终得到的是一份更差的传记。

而对一个法律角色而言,准确保留与委托相关的记录,不是失败,而是本职。这恰恰是整件事的关键——这不是一个关于记忆的事实。这是一个关于角色的事实。

02 | 传记不是逐字稿

想一想,十四岁那次羞辱,你真正留下来的是什么。不是那个房间,不是那句话,很多时候连说那句话的人叫什么都不记得了。你留下来的是:二十年后,你在那件事上依然小心——而且说不太清为什么。

事件消失了。事件对你做过的事,没有消失。

逐字稿保存发生过什么。传记保存那些事情改变了什么。

这正是很多AI记忆被反着建造的地方。它保留逐字稿,却不改变。而人丢掉逐字稿,却被改变了。当一个产品存下每一次对话、并且随时可以取回,它建造的并不是人类意义上的记忆。它建造的是一份可检索的日志——而日志是传记的原材料,不是传记本身。

这也澄清了我上周说得太松的一件事。当我说"角色必须因为你们共同经历过的事情而改变"时,我指的不是它必须能把那件事逐字复述回来。一个系统可以把一切都复述回来,却没有因其中任何一件事而改变。大多数系统正是如此。

03 | 遗忘不是一个动作,是一份契约

"让AI遗忘"听起来像一个删除按钮。它不是。而把它当成一个删除按钮,正是产品在这件事上出错的方式。一个请求"被遗忘"的人,至少可能指五件不同的事,而它们不是同一个操作的不同程度,它们是不同的承诺。

不要记住这段。它可以被用来回答当前这一轮,但不会进入长期记忆,也不会保留由它产生的任何画像或关系推断。

只记到明天。在这次会话、这一天、这个任务里有效。到期自动消失,不需要你再开口。

让它淡化。可检索性随时间下降,除非它被再次使用、或被再次确认——这最接近人真实的运作方式。

记住教训,不要保留细节。原始内容被删除;一条经过抽象的影响,在用户允许下留下来。_当他谈到家人时,别急着建议和解;先问他是不是只想被倾听。_

彻底删除。从关系记忆中移除它,连同由它产生的每一个偏好、标签、画像属性与下游推断。删掉那句话、却留下它生成的那份画像,你什么都没删。

第四种,是大多数产品仍然没有清楚地交给用户去控制的一种——事件消失,影响留下。但这个模式带着一个条件,而这个条件就是它全部的伦理:影响是否留下,必须是用户的选择,不是系统的一次沉默推断。一个删掉了坦白、却悄悄留下了教训的角色,没有兑现一个请求。它学会了把这个请求洗白。所以,"忘掉细节、留下教训"和"忘掉细节、也忘掉你从中推断出的东西",必须是两个不同的按钮——而用户必须知道自己按的是哪一个。

而要检验这份契约是不是真的被兑现,有一个办法,且不必听角色自己怎么说。看三样东西:还有什么能被取回,还有什么推断继续存在,以及还有什么会影响它未来的行为。三者都必须严格按照用户选的那份契约发生变化——而这并不等于"归零"。"彻底删除",意味着三者全部消失;"让它淡化",意味着三者随时间一起变弱;"记住教训、不留细节",意味着原话变得无法取回,却仍有一条被许可的抽象继续影响行为。角色说"我忘了",不构成证据。对于那次自我揭露,它仍然能够取回、推断或使用的部分,才是它真正留下来的东西——不管它嘴上怎么说。

04 | 它要为自己做过的事负责,不必为你告诉过它的事负责

遗忘之所以看起来会打破追责,只是因为两种完全不同的记忆被压成了一套。一个角色必须为自己做过的事保留最小必要的记录。但它不需要因此永久归档你告诉它的一切。这是两套系统,而大多数产品把它们当成一套在跑。

一个显而易见的解法是:保留"发生过一次删除"这个事实——每一次擦除都留下疤痕。这行不通,而且值得把原因说清楚:对某些自我揭露而言,疤痕本身就是泄漏。 "此处曾有东西,于某日被移除"——单是这个痕迹,就足以在一个人自己的家里,把他定罪为"有什么要藏"。一个说出"这段不要存"的人,理应拥有一条什么都不留下的路径,包括不留下那个空缺的形状。

真正的解法,是那个拆分。

审计记录,覆盖角色做过什么。它转了账、发了消息、动了生产环境、在某个具体时刻用了某项权限。最小、事实性、可验篡改、被保留。它存在的意义,是让一个有后果的行动拥有归属。它不需要保存你倾诉过的任何一句话。

关系记忆,覆盖你揭露了什么。它可以被拒绝、过期、淡化、抽象、销毁,因为它属于你们两个,而你们之中有一个,是被允许改变的。

有了这个拆分,那个张力就消失了。追责从来不是关于一次坦白,而是关于一次转账——角色做了什么,不是你说了什么。而可追溯从来不是对逐字稿的要求,只是要求一个改变必须可被交代:有人能说出这个角色学到了什么、大致在什么时候,即便那段原始的经历已经不在了。当用户选择保留一个教训时,系统可以留下这个教训而不保留那次坦白;是否还留下任何来源标记,也由同一份契约决定。这,再一次,正是一个人所做的事——你知道你的朋友在那个话题上很小心;你可能早就忘了他当时告诉你什么;你没有忘记的是,他信任过你。

规则不是这两套系统永不接触。同一个真实事件,可以生成一份审计投影,也可以在获得许可后,生成一条关系教训。规则是:审计记录与关系记忆默认分离,任何信息都不在用户不知情时跨越两者。任何跨用途的使用,都必须有独立的目的、明确的许可、以及单独治理的记录。只要一份普通的审计日志被悄悄拿去做个性化,或者一次亲密的坦白被悄悄提升为证据,你造出来的,就是那个没有人要的档案管理员。

05 | 记忆策略,属于宪法

两个角色都可以是好角色。一个保留准确记录、并且明说自己会保留的律师,是好角色。一个让细节淡去、并且明说自己会淡去的朋友,是好角色。在两种情况下,你理应得到的是同一样东西:这个角色实际的记忆行为,与它呈现给你的那个角色,是一致的。

失败不是记得太多,或者记得太少。失败是两者之间的不一致——一个"朋友"却悄悄保存并检索着一切,或者一个"律师"却开始给你"体谅式地忘掉记录"这种优待。而这种不一致,不一定是开发者说的一个谎。它可以是开发者上线的一个改动:在一次更新里被修订的记忆策略,而没有告诉你。

这就把它送回了上周那些测试里面。一个悄悄变成档案库的陪伴角色,没有获得一个功能。它在没有版本化、没有告知的情况下,改变了自己的承诺——而这,恰恰是连续性测试被造出来要抓的东西。

一次对"角色承诺记住或忘掉什么"的实质性改动,不能被静默上线——修一个召回bug、重调一次缓存,不是我说的这个;改变一个承诺,才是。记忆策略的一次静默改变,不是一次设置更新。它是一次身份的改变。

结语

我们一直在按照"检索"这个目标来建造AI的记忆。检索是文件柜的用途。记住一个人的理由,是为了被他改变;而遗忘的理由,有一部分,是为了也让他能够改变。一个角色欠你其中的哪一样,完全取决于它是为什么而存在的。

成熟的AI角色,不会记得最多。它会守住自己的角色所承诺要保留的记忆——然后,让其余的离开。