跳到正文
热点事件持续更新

Ballad:用Bandit在线路由多个LLM

2 篇报道2 个报道来源首报4 小时前更新

先了解这件事

AI 综述

Samidha Verma 等作者提出 Ballad,一种基于 Bandit 的在线算法,在自动启发式发现过程中动态选择调用哪个 LLM,把多个模型编排成集成。 在五个 NP-hard 组合优化问题和四个能力与成本不同的模型上,作者报告 Ballad 追平事后最优的单个模型,部分情况下超过所有单模型,同时相比始终使用最强模型最多降低 65.6% 的 API 成本。

AI 根据报道生成 · 31 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月13日
  1. arXiv · cs.AI 人工智能
    Ballad:用 bandit 算法为自动启发式发现调度 LLM

    作者提出 Ballad,一种基于 bandit 的在线算法,在自动启发式发现过程中动态选择调用哪个 LLM。实验覆盖五个 NP-hard 组合优化问题和四个能力与成本不同的模型,Ballad 不仅追平事后最优的单个模型,在部分问题上还超过所有单个模型,同时相比始终使用最强模型最多降低 65.6% 的 API 成本。

  2. Papers with Code · arXiv cs.AI
    Ballad:基于 Bandit 的 LLM 路由用于自动启发式发现

    作者提出 Ballad,一种基于 Bandit 的在线算法,在自动启发式发现过程中动态选择调用哪个 LLM,把多个模型编排成集成。在五个 NP-hard 组合优化问题和四个能力与成本不同的模型上,Ballad 不仅追平事后最优的单个模型,部分情况下还超过所有单模型,同时相比始终使用最强模型最多降低 65.6% 的 API 成本。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。