Berkeley 团队评述近零推理成本下的数据系统:面向智能体、由智能体运行、由智能体构建
UC Berkeley EPIC Data Lab 的 Aditya G. Parameswaran 等人发表观点文章,讨论推理成本快速下降后数据系统面临的三个方向:为智能体设计的数据系统、支撑智能体集群运行的数据系统、以及由智能体合成的数据系统。
推荐理由:作者结合自身在结构化记忆与系统合成上的工作,梳理近零推理成本下数据系统的三个研究方向。
UC Berkeley EPIC Data Lab 的 Aditya G. Parameswaran 等人发表观点文章,讨论推理成本快速下降后数据系统面临的三个方向:为智能体设计的数据系统、支撑智能体集群运行的数据系统、以及由智能体合成的数据系统。
推荐理由:作者结合自身在结构化记忆与系统合成上的工作,梳理近零推理成本下数据系统的三个研究方向。
Berkeley AI Research 发布综述兼观点文章,梳理并行推理从固定并行(self-consistency、Best-of-N、Tree of Thoughts、MCTS)到自适应并行推理(APR)的演进,即让模型自行决定何时分解任务、开多少线程以及如何协调。
推荐理由:文章把并行推理从固定结构到自适应控制的演进梳理成一条线,并对比了不同推理引擎实现与奖励设计的取舍。