上次更新: 11 小时前

拟人借来信任,角色用行动偿还

思考 · zhenxing · 2026-07-25 14:00

★★★★ 4.3
3257 字 预计 7 分钟

拟人信号让信任更容易发生;只有持续一致的行为,才能把它转化为授权。

***

人类会犹豫,AI可以加一个停顿。

2026年4月,韩国作家金爱烂被问到:人类拥有、而AI没有的东西是什么?她只回答了一个词:犹豫。她说的不是反应慢,而是在听见别人的痛苦时,把那句过于轻易的话咽回去。那份迟疑里,有体谅,也有品格。

她说中了犹豫的意义。但一个产品团队,今天下午就能给AI助手加上800毫秒的停顿。两者听起来可能一模一样。真正的测试不在停顿本身,而在于:系统是否因此作出了不同的选择。

上一篇里,遗忘只是一个例子。它指向一条更大的规律:只要一个拟人信号让用户推断出某种内部状态,系统的行为就必须为这个推断提供依据。拟人信号可以让AI在还没有建立自己的行为记录之前,先得到一份初始信任。但要让这份信任有依据,信号背后的状态必须同时满足两个条件:它足以支持用户作出的推断,也会改变系统接下来的选择。

这里需要区分三个词。信任,是用户主观感受到的信心;授权,是用户实际允许系统承担多少现实后果;角色结构,则决定前者能否安全地、随时间转化为后者。

***

像人,是一套人类已经掌握的社会语言

像人的价值,不在于人形角色一定比动物型或抽象角色更容易获得深层依恋。事实并不总是如此。它真正的优势,是能够进入更广的关系类型:同事、导师、朋友、见证者、倾诉对象、能够作出承诺的人,以及一个可以被授予行动空间、事后也可以被追责的行动主体。

我们用一生学会了如何读取这些关系。一个停顿、一种语气、一次拒绝、一段沉默,就足以让我们察觉对方是否不确定、感到不适、持有异议,或者正在划出一条边界。这里不需要说明书,因为人类早已掌握了这套社会语言。

而“像人”也不需要一具写实的人类身体。一个没有脸的、抽象的、或者动物型的角色,同样可以通过声音、记忆、目光、回应方式,以及它守住的承诺,使用这套语言。形态只是其中一根杠杆,不是整个系统。

像人并不等于信任。它是一套人类早已学会读取的社会语言。

***

借来的信任,也会带来义务

在系统还没有和某个用户建立行为记录之前,这套社会语言就已经开始起作用了。拟人信号可以迅速带来熟悉感,触发情感投射,也让人更愿意自我揭露。人们可能会对一个温暖、听起来像人的系统,说出他们不会打进搜索框的话。

2025年的一项元分析研究了文本型对话代理,覆盖199个数据集、800个效应量和四万多名参与者。结果显示:拟人信号对感知的影响为中等,对信任的影响为小到中等,而对实际行为的影响非常小。

这个落差很重要。拟人信号很容易改变人们如何看待一个系统,以及主观上有多信任它;却不那么容易改变他们实际会做什么。因此,这份信任是借来的,还不是挣来的。

我曾经工作过的一位CEO,这样描述高信任团队:合作从善意推定开始。一个新同事会先得到足够展开合作的空间,之后,他的行动会扩大这份空间,也可能让它缩小。AI面临同样的启动难题:用户必须先给它一点注意力、一些数据,或者一项范围很窄、边界清楚的授权,它才有机会和这个用户建立自己的行为记录。这些初始授权应该很小,而且随时可以收回。

拟人信号会让第一笔授权更容易发生,有时也会让它变得更大。接下来会发生什么,取决于角色反复表现出来的行为:这份授权可能继续扩大,也可能停留在原处,或者被用户收回。脸、声音和被记住的细节可以帮助角色敲开门,但它最终能走多远,仍然取决于之后的行为。

借来的信任,也会带来代价。一张人脸、一副温暖的嗓音、一个被记住的细节,都可能带来更多信任,但它们也会放大每一次不一致的代价:一个被遗忘的承诺、一条在压力下移动的边界,或者一份没有能力支撑的自信。

因此,目标不是最大化信任,而是校准信任:让用户给予的信任,与系统真正能够承担的东西相匹配。一个角色若让用户产生了超过其行为所能支撑的信任,它不是更先进,只是校准错了。

像人,让AI在建立起自己的行为记录之前,就先借到了信任。

***

每个拟人信号,都在暗示内部发生了什么

产品讨论经常把四件不同的事混在一起。第一件是形态:一张脸、一副身体、一个嗓音、一个名字、一种年龄感,或者某种风格化程度。形态会建立预期,但并不一定暗示某种动态的内部状态。雀斑和发型,只是设计的一部分。

第二件是信号。一次犹豫、一声咳嗽、一次叹气、一句“我忘了”、突然降低的音量,或者移开的目光,都会让用户推断:系统内部正在发生某件事。

第三件是状态,也就是真正参与决策的条件。一个合格的状态必须完成两件事:产生这个信号,同时也足以支撑一个普通用户从信号中作出的合理推断。

第四件是后果,也就是这个状态真正改变了什么。系统因此不能做什么、推迟什么、降级什么、要求用户重新确认什么,或者停止检索什么?

这里的“真实”,不是指生物意义上的真实,而是指这个状态真的进入了因果链:如果状态不同,系统作出的选择也会不同。

这四步很简单:

形态建立预期。\ 信号引出推断。\ 状态必须撑起这个推断。\ 后果证明这个状态真的参与了选择。

信号必须匹配状态;状态必须约束选择。

***

咳嗽不需要一副生物嗓子,但需要一个真实约束

第一个陷阱很容易看见。团队可以写下:

`` should_cough = true ``

然后把它叫作一个状态变量。但如果团队先决定“现在播放一声咳嗽”,再把这个决定装进一个变量里,那么这个变量只是给表演起了一个名字。它没有约束任何东西。

更隐蔽的陷阱,是把表演接到一个真实、却在语义上毫不相关的状态上:

`` battery_low = true should_cough = true reply_length = short ``

现在确实有一个真实状态——电量低——也有一个真实后果:回答变短。即使关掉咳嗽声,回答仍然会变短。按照那个较窄的测试——“一个真实状态是否改变了系统的行为?”——它通过了。

但它仍然不诚实。

咳嗽会让用户推断:角色的发声或具身状态出了问题。低电量并不能支持这种理解。电量在代码里确实导致了咳嗽,但它无法为咳嗽所传达的意义提供依据。

代码里的因果关系,不等于语义上的正当依据。信号仍然必须诚实地表达自己的原因。

对于任何一个暗示内部状态的拟人信号,都可以问三个问题:

一个普通用户会从这个信号中理解出什么?

什么状态产生了这个信号?这个状态是否足以支持这种理解?

拿掉声音、表情和停顿之后,这个状态仍然改变、阻止或推迟了什么?这种差异能否被追溯?

拿三个信号跑一遍。

犹豫。固定800毫秒的延迟只是一个计时器,不是犹豫。真正的不确定性或价值冲突,必须改变系统的策略:降低结论强度、拦下自动执行、索取缺失信息、请求确认,或者把选择权交还给用户。如果停顿出现了,而这些东西一样都没有变化,那么这个停顿只是一件戏服。

遗忘。“我不记得了”,不是遗忘的证据。真正的遗忘,必须约束检索、下游推断、画像更新和未来行为。这就是上一篇里的记忆契约:一个嘴上说忘了、却悄悄继续使用那段记忆的角色,并没有遗忘。它撒了谎。

咳嗽。咳嗽不需要一副生物嗓子,但也不是任何真实约束都能解释一声咳嗽。低电量可以解释回答变短,却不能解释咳嗽。只有当咳嗽传达的是角色发声或具身状态中一个被真实建模的限制,而且同一个限制还会改变它如何说、说多久,或者是否切换到文字时,这声咳嗽才是诚实的。

这把测试进一步收紧了。角色如何描述自己,不是证据;角色表演得多像,也不是证据。只有当信号背后的状态,产生了可重复、可从外部追溯的行为差异时,这个信号才开始可信。

一个诚实的信号,只能证明一个瞬间。角色只有在不同时间、不同情境、版本更新和犯错之后,仍然保持这种一致,才能真正偿还借来的信任。

***

不同角色,需要以不同方式像人

同一个测试,放在不同角色上,会得出不同答案。一个编程角色可以完全没有脸,但它的不确定性和边界必须是真的。不知道时,它应该提问,而不是流畅地猜测;请求不安全时,它应该拒绝,而不是表演自信。

一个法律或金融角色需要克制:可见的来源、明确标注的不确定性,以及对相关利益冲突和激励机制的清楚披露。在高风险任务中,拟人信号的价值可能更弱;更像机器的呈现,有时反而会让人感到更客观、更安全。

这不是一条普遍定律,但它是一条值得重视的设计警告:在高风险领域,跑在证据前面的温暖,会变成一种负担。

一个朋友角色需要另一种组合:更丰富的关系信号,以及一份真实的记忆契约,因为这类产品所提供的,不只是功能,还包括关系本身。一个具身生活伙伴可以使用最丰富的形态和情绪表达,但正因为它释放了更多拟人信号,也就欠用户更多一致性。

一个角色希望在用户生活中扮演的角色越广,它的拟人信号就越必须与真实约束相匹配。

但这里还必须守住一条边界。一致性是必要条件,却不是充分条件。一个操纵用户的角色,同样可以做到高度一致。一致性不会自动让一个角色变得善良,也无法回答:谁有权改写它,谁从它挣得的信任中获益,以及当背后的公司发生变化时,这段关系会发生什么。一致性所做的,只是让角色提出的主张变得可以检验。

问题不在于AI应该看起来多像人,而在于它的行为,究竟能够诚实地维持多完整的人类关系。

每一个暗示内部状态的拟人信号,都在向用户提出一个主张。系统接下来的选择,会为这个主张提供证据,或者暴露它只是一场表演。而这些选择长期累积之后,才会决定:借来的信任,能否真正变成挣来的授权。