arXiv · cs.AI 人工智能· Gy\"orgy Eigner, Patrik P. S\"uli, Roland Holl\'os·2026-11-11 13:00· 2 天前精选AI 评分60

Trust, but verify, audit and attribute：核查 AI 产出研究结果的人机协同框架

Trust, but verify, audit and attribute: a human-in-the-loop framework for checking AI-produced research results

AI 导读

作者提出一个领域无关、人在回路中的框架，用于核查 AI 生成的研究结果：由具备不同信任依据的智能体可调用工具执行检查，再做保真度审计判断检查是否针对原始主张，人类在固定节点决策，并通过对话报告把工作归因到人与 AI。

推荐理由

针对 AI 批量产出研究结果难以核查的问题，提出人机协同的校验与归因框架，并给出数学与统计两套实现。