跳到正文
arXiv · cs.AI 人工智能· Samidha Verma, Ankit Anand, Sayan Ranu·· 5 小时前AI 评分58

Ballad:用 bandit 算法为自动启发式发现调度 LLM

Ballad: Bandit-Based LLM Routing for Automated Heuristic Discovery

AI 导读

作者提出 Ballad,一种基于 bandit 的在线算法,在自动启发式发现过程中动态选择调用哪个 LLM。实验覆盖五个 NP-hard 组合优化问题和四个能力与成本不同的模型,Ballad 不仅追平事后最优的单个模型,在部分问题上还超过所有单个模型,同时相比始终使用最强模型最多降低 65.6% 的 API 成本。

来源:arXiv · cs.AI 人工智能 · arxiv.org