arXiv · cs.LG 机器学习· Muhammad Asad Ali, Umar Khan, Nadia Robertini, Didier Stricker·· 4 小时前AI 评分42
MoTE：面向多任务视频理解的任务专家混合架构
MoTE: Mixture of Task Experts for Multi-Task Video Understanding
AI 导读
研究提出 MoTE（Mixture of Task Experts）解码器架构，将大语言模型的前馈网络转为任务专属专家，同时保持多模态主干共享。基于该设计构建的 VideoLLM-MoTE 在五个 COIN 基准上评测，五专家模型每样本激活约 2B LLM 参数，平均 top-1 准确率高于近期 VideoLLM 基线，并优于稠密全专家激活与学习式稀疏路由对照组。
来源：arXiv · cs.LG 机器学习 · arxiv.org