Skip to content

事实判断与最终责任

多 agent 团队里最容易混在一起的,是两种权力:事实判断权和最终放行权。

事实判断权回答“这件事到底是不是这样”。最终放行权回答“在这些事实下,这个动作能不能落到现实里”。前者应该流向最接近事实的岗位,后者必须落在能承担后果的主体身上。

求真的团队必须把这两种权力分开。混在一起,事实会被责任压扁,责任也会被事实话术遮住。

谁接近事实,谁主导事实判断

事实判断不随层级发放。

一个刚完成检索的事实校验 agent,可能比主编更知道某个引用靠不靠得住。一个刚跑完测试的执行 agent,可能比规划 agent 更知道方案哪里会坏。一个专门审查安全边界的 agent,可能比负责交付的 agent 更清楚哪个动作不能放行。

如果最终负责岗位无视这些局部判断,只因为自己在上游或更高层就强行裁决事实,它就犯了人类组织里的老错:用位置替代判断。

健康的 agent 团队应该让事实判断沿着证据流动。谁掌握证据,谁对那个局部有更高发言权。工作记录、trace、eval、原始材料,才是事实判断的依据。

这条规则也适用于人和 agent 混合系统。人可以问责,可以否决,可以要求重做,但不能因为“我是最终负责人”就把 agent 按证据得出的事实判断改掉。负责人可以说这个动作不能放行,不该说证据不存在。

谁承担后果,谁保留最终放行

但事实判断不是全部。还有后果。

一个 agent 可以判断某个动作大概率正确,但如果这个动作会发给真实客户、动真实账务、删除真实数据、承诺真实交付,最终决定不能交给一个不承担后果的东西。

很多局部事实上,agent 可能更准、更快、更稳定。最终放行仍要留给人或组织,因为后果要落在一个能被追究的主体上。AI 不能坐牢,不能破产,不能拿信誉抵押,也不会为后果痛。

最终担责点可以说:“在这个风险下,我不授权继续执行。”它不该说:“因为我负责,所以你的事实判断是错的。”前者是在承担后果,后者是在冒充懂行。

这里的“不接受”,不是不接受事实,而是不接受某个动作在这些事实下继续发生。电车已经失控、测试已经失败、客户已经误解、数据已经被污染,这些事实不能靠负责人一句话抹掉。负责人能否决的是发布、承诺、支付、删除、继续自动执行这些会把风险变成现实后果的动作。

这就是混合系统里人的位置。人承担后果,不天然高于事实裁判。人要保留急停、撤销、发布、承诺、支付、删除这类最终动作的放行权。至于局部事实,应该交给证据更近的岗位说话。

工作拆得开,时间和责任拆不开

多 agent 最诱人的地方,是工作可以 fan-out:一个任务拆成许多子任务,并行处理,再收回来。但能这样拆的,只有彼此独立的那部分。

有些工作天生是串行的,前一步不出来,后一步就动不了。这种活拆不开——十个孕妇凑在一起,也不能一个月生出孩子。给它加再多并行的 agent,省不下它必须花的时间,多出来的协调和交接反而可能让它更慢。fan-out 买到的是并行度,不是对串行依赖的豁免。把“能并行”当成“什么都能加速”,是用 agent 时最容易上头的错觉。

影响也拆不开。一个系统发出的错误结论、造成的损失、对外许下的承诺,不会因为工作拆成十份,就跟着摊成十份。用户看到的是一个系统,后果也合成一个整体。

所以好的多 agent 设计必须有单一的最终担责点。这个点可以是人,也可以是一个有法律和组织责任的实体,但不能是“这几个 agent 都参与了,所以大家各担一点”。那等于谁都没有承担到底。

推到极限:没有人的时候

再往远问一步:如果生产体系里运营环节只剩 agent,没有人坐在回路里,责任还在不在。

先分清两件被“没有人”混在一起的事:没有人操作,和没有人承受后果。运营可以全交给 agent,但系统动的账、删的数据、许的承诺,后果仍然落在系统外面某些人头上。利害关系仍然落在人身上,只是人退出了操作回路。

这时,“追究”会裂成两半。

一半是惩罚:羞愧、坐牢、破产、拿信誉抵押。这一半在 agent 身上蒸发,没有谁会为后果痛。

另一半是纠偏:定位失效点,收回哪条权限,重写哪个岗位定义,清除哪段记忆,补上哪个漏掉关键风险的 eval。这一半不但不消失,对 agent 反而比对人更顺手。你确实能读它的 trace、撤它的权限、删它的记忆;对一个人,很多时候做不到。

到了 agent 系统里,责任的一部分会从惩罚人,变成找出系统哪里失效,再改掉它。

最终担责点也会变。它未必是一个能受罚的人,但必须能被找到、叫停、改写、回滚。

但有一条不能松:最终担责点必须待在它所管的优化回路之外。一个系统如果自己设目标、自己判定目标还能不能达成、自己决定何时停,就等于把外部那道检查拆了。它会替自己找理由,说“目标其实还够得着”。最不能信的,就是它自评的停止条件。握着目标和急停开关的位置,可以是另一个 agent,但不能是正在优化的那一个。

纯 agent 系统尤其要守住这条线。没有人在操作回路里,不代表没有外部边界。目标、预算、权限、急停、回滚、审计,都要放在被优化对象之外。否则系统会把求真改写成求过关。

再往下问一层:这条责任链最终落在哪里。它只能落在一个有利害、能被追责、也能为后果答话的主体上。

这个主体不必是真人。法人早就证明了这一点。我们能起诉一家公司、罚它、解散它,正因为它有利害(资产、存续),能被追责,也能答话。承重的是利害关系,不是人这个形态。

哪个实体有利害、能答话,哪个就能当终点;一个分配完就蒸发、谁都追不到的 agent 就不行。它能作决策,当不了终点。否则你得到的只是一个对谁都不负责的过程。把它叫责任,只是又一次责任表演。

今天的设计也一样:别把人类组织里的责任仪式错当成责任本身。签字、审批、汇报、互相确认,都可能只是表演。责任要靠这些东西撑住:能追溯、能归因、能撤权、能修正,还要有一个有利害、追得到、能答话的主体。

事实判断与最终责任分开,整套团队才站得住:事实流向最懂的岗位,最终放行权留给能担责的人或组织。