arXiv · cs.AI 人工智能· Natalie Collina, Surbhi Goel, Aaron Roth, Sikata Bela Sengupta·2026-11-13 13:00· 4 小时前AI 评分58

论文提出 k-robust coalitional alignment，用未对齐评审智能体保障长程 Agent 安全

Delegating Authorization to Misaligned Agents: Coalitional Alignment and Safe Control

AI 导读

论文研究长程 AI 智能体把动作审批委托给多个评审智能体时的控制问题，提出 k-robust coalitional alignment 条件：在任意移除 k 个评审者后，主方的效用可写成剩余评审者效用的非负组合加上一个在可行提案上非负的项，该条件弱于个体对齐，却是阈值规则安全的充要条件。