arXiv · cs.AI 人工智能· Samidha Verma, Ankit Anand, Sayan Ranu·· 5 小时前AI 评分58
Ballad:用 bandit 算法为自动启发式发现调度 LLM
Ballad: Bandit-Based LLM Routing for Automated Heuristic Discovery
AI 导读
作者提出 Ballad,一种基于 bandit 的在线算法,在自动启发式发现过程中动态选择调用哪个 LLM。实验覆盖五个 NP-hard 组合优化问题和四个能力与成本不同的模型,Ballad 不仅追平事后最优的单个模型,在部分问题上还超过所有单个模型,同时相比始终使用最强模型最多降低 65.6% 的 API 成本。
来源:arXiv · cs.AI 人工智能 · arxiv.org