Ballad:用Bandit在线路由多个LLM
热点事件持续更新
Ballad:用Bandit在线路由多个LLM
2 篇报道2 个报道来源首报4 小时前更新
先了解这件事
AI 综述
Samidha Verma 等作者提出 Ballad,一种基于 Bandit 的在线算法,在自动启发式发现过程中动态选择调用哪个 LLM,把多个模型编排成集成。 在五个 NP-hard 组合优化问题和四个能力与成本不同的模型上,作者报告 Ballad 追平事后最优的单个模型,部分情况下超过所有单模型,同时相比始终使用最强模型最多降低 65.6% 的 API 成本。
AI 根据报道生成 · 31 分钟前更新
最新进展11月13日 13:00
Ballad:用 bandit 算法为自动启发式发现调度 LLM报道时间线
沿着报道,了解事件的不同侧面。
11月13日
- arXiv · cs.AI 人工智能Ballad:用 bandit 算法为自动启发式发现调度 LLM
作者提出 Ballad,一种基于 bandit 的在线算法,在自动启发式发现过程中动态选择调用哪个 LLM。实验覆盖五个 NP-hard 组合优化问题和四个能力与成本不同的模型,Ballad 不仅追平事后最优的单个模型,在部分问题上还超过所有单个模型,同时相比始终使用最强模型最多降低 65.6% 的 API 成本。
- Papers with Code · arXiv cs.AIBallad:基于 Bandit 的 LLM 路由用于自动启发式发现
作者提出 Ballad,一种基于 Bandit 的在线算法,在自动启发式发现过程中动态选择调用哪个 LLM,把多个模型编排成集成。在五个 NP-hard 组合优化问题和四个能力与成本不同的模型上,Ballad 不仅追平事后最优的单个模型,部分情况下还超过所有单模型,同时相比始终使用最强模型最多降低 65.6% 的 API 成本。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。