研究揭示外部信息过度校正会增大 LLM 推理误差
作者从推理误差(预测答案向量与真实答案向量之差)的角度分析 Transformer,发现外部信息不仅可能校正不足,也可能过度校正,过强的校正反而增大推理误差。校正向量由注意力机制以及外部信息与查询的互补性共同决定,论文据此推导出信息在方向和幅度上都恰当校正的条件,并在 4 个主流 LLM 和 7 个推理基准上通过 ICL、RAG 和 Mem 实验验证理论,同时提出一种理论引导的信息选择方法。
推荐理由:论文挑战“外部信息越能弥补差距越好”的假设,从推理误差角度给出过度校正反而有害的条件。