arXiv · cs.CV· Jingyuan Zhang, Nihao Niu, Xinyang Lv, Beibei Han, Xiaoyun Wang, Yanning Hou, Ke Xu·· 5 小时前AI 评分40
DiFiT：面向多模态大模型的分布保真度引导视觉 token 剪枝
DiFiT: Distribution-Fidelity-guided Visual Token Pruning for Multimodal Large Language Models
AI 导读
DiFiT 提出用分布保真度引导视觉 token 剪枝，通过双视角蒸馏对齐完整 token 与剪枝后的词表概率分布，并用可学习打分器与可微 Top-K 选择保留的视觉证据。在 Qwen2.5-VL-7B 上，10% 保留率下其采样导致的负翻转比 FastV 减少 30.3%，30% 保留率下在 MME 上保留基线性能的 98.74%。
来源：arXiv · cs.CV · arxiv.org