成长大多不在权重里
一个 agent 怎么变得更好?
直觉的答案是:训练一个更强的模型。让它在权重里成长,推理更深、知识更多。这条路存在,但它重、慢、贵,而且多数时候用不上——因为绝大多数日常成长,发生在权重之外。
权重外的成长
履历改变判断,已经是一种权重外的成长。把它铺开,权重外能长的东西有一大片:
整理出一个新的 skill,让它会做以前不会的事;改进一个模板,让它产出更稳;记下某个偏好,让它不再问第二遍;积累一次失败的经验,让它绕开同一个坑;总结出一套更顺手的做法,让它下次更快上手。这些都让 agent 干得更好,而模型一动没动,用的还是那个候选人。
人变成熟练工,也多半是这样——不是脑子换了,是攒下了可调用的经验、形成了趁手的方法。agent 的成长大头同理。
先在权重外想办法
于是有一条很实用的次序:想让 agent 进步,先问能不能在权重外解决。
多半能。缺能力,先看是不是缺一个 skill;不稳定,先看是不是缺一个模板或一条记忆;老犯同样的错,先看是不是没把那次教训记下来。这些都比微调轻得多、快得多,也不需要动模型。把“换更强的模型”或“微调”当成第一反应,常常是在用最重的手段解一个本来可以轻装解决的问题。
权重里的成长不是不能做,是它该留给那些权重外确实补不上的缺口。把两种成长分清楚,资源才花在刀刃上。