跳到正文
arXiv · cs.CL 计算与语言· Rotem Elimelech, Michael Shalyt, Ido Kaminer·· 2 天前精选AI 评分60

研究提出 LLM 推理实时纠错方法,在 ASyMoB 上准确率提升 1.4-5.6 个百分点

Catch It Where It Happens: Real Time Error Correction During LLM Reasoning

AI 导读

研究提出在线确定性验证方法,在 LLM 写出推理步骤时用代码实时校验,检查失败即指出错误并让模型从原处继续,无需模型调用或 GPU。在 ASyMoB 基准上用三个开放权重模型测试,准确率提升 1.4-5.6 个百分点,错误答案净减少 1.8-14.9%,token 用量仅增加 6-7%。该方法以符号数学为例,利用推导中的显式表达式交由计算机代数系统在毫秒级完成检查。

推荐理由

提出用代码检查器在推理过程中实时校验每一步,无需额外模型调用,并在 ASyMoB 上给出准确率与 token 开销的量化结果。

来源:arXiv · cs.CL 计算与语言 · arxiv.org