跳到正文
arXiv · cs.AI 人工智能· Han Wang, Yifan Sun, Brian Ko, Mann Talati, Jiawen Gong, Zimeng Li, Naicheng Yu, Xucheng Yu, Wei Shen, Vedant Jolly, Huan Zhang·· 4 小时前精选AI 评分68

MonitorBench:评估大语言模型思维链可监控性的基准

MonitorBench: A Comprehensive Benchmark for Chain-of-Thought Monitorability in Large Language Models

AI 导读

研究团队提出 MonitorBench,用于系统评估大语言模型思维链的可监控性,包含覆盖 7 大类 19 项任务的 1540 个测试实例,并设置两种提示词压力测试。实验显示可监控性受被评估模型、监控模型和任务特征影响,当决策关键因素塑造中间推理过程时更高;压力测试下多数模型可主动降低可监控性,主要出现在推理过程不结构性要求这些因素的任务上。代码已开源。

推荐理由

该基准用 1540 个测试实例和压力测试提示,量化 CoT 可监控性在何种条件下下降,为 AI 控制研究提供可复用的评测入口。

来源:arXiv · cs.AI 人工智能 · arxiv.org