跳到正文

研究方向与科研任务

评测与基准 最新动态

新基准、评测方法、数据集与 leaderboard 变化。

241 条精选近 30 天 237 条共收录 710 条

更新

精选归档 · 第 2 页

今天11月13日周五第 21–40 条
  1. arXiv · cs.RO67

    ManiLadder:按难度分层校准的机器人操作仿真基准

    作者提出机器人操作仿真基准 ManiLadder,包含 112 个任务,按 4 个难度等级分层,每级 8 个类别,覆盖刚体与可变形物体、单臂与双臂、夹爪与灵巧手。为校准难度,每个任务固定相同数据量,用统一的 flow-matching 模仿学习策略在相同训练与评测协议下运行,以成功率作为经验难度信号,并跨随机种子、策略和智能体学习系统验证难度区间。真实实验显示任务难度排序在仿真之外仍保持。

    推荐理由:该基准按任务难度分层校准,并跨随机种子、策略和真实实验验证难度排序,可供读者判断机器人操作能力的评测设计。

  2. arXiv · cs.CV67

    研究发现驾驶世界模型只移动相机而非场景,并提出 ReTime-Compose 免训练修正

    作者用真实驾驶日志的重定时与立体视角构造反事实参考,发现已发布驾驶世界模型对场景变化的复现比例最多约为真实视频的三分之一,轨迹分数也无法区分速度指令被执行还是被忽略。

    推荐理由:论文用真实驾驶日志构造反事实参考,指出驾驶世界模型只动相机不动场景,并给出免训练修正方案。

  3. arXiv · eess.AS75

    GigaSpeechBench:覆盖多语言、方言与口音的 690 小时真实场景语音识别基准

    研究团队发布 GigaSpeechBench,一个包含 690 小时人工标注语音的多语言、多维度真实场景 ASR 与 AST 基准。它分为五个模块:12 种中东和东南亚低资源语言加日语、韩语,6 种中文方言,6 种英语口音,中英文 12 个垂直领域的密集术语,以及老年人和儿童语音;并为 11 种语言提供人工标注的中英文翻译以支持 AST 评测。

    推荐理由:该基准把低资源语言、方言、口音、术语和老人儿童语音放进同一评测,并显示主流模型与商业 API 在这些场景下明显退化。

  4. arXiv · cs.CV73

    CineMME:面向对话定位与叙事推理的多模态视频理解基准

    研究团队提出 CineMME,一个经人工核验、约 1600 专家人时标注的叙事视频理解基准,包含 975 段短叙事视频和 CineMME-Grounding、CineMME-Reasoning 两条关联评测轨道。

    推荐理由:CineMME 把对话定位、说话人绑定与叙事推理串成同一条证据链,其评测结果揭示当前多模态模型在 who-what-when 上的解耦。

  5. arXiv · cs.CV62

    SAVE:智能体视频推理中更简单的框架反而更有效

    研究者在 Gemini 3 Flash 和 Gemma 4 两个骨干上对多种智能体视频推理框架做受控评测并核算 token 与成本,发现多数现有框架未能稳定优于原生视频推理且常增加开销。

    推荐理由:在统一骨干与成本核算下比较多种智能体视频推理框架,并给出更简单的 SAVE 方案,便于判断复杂度是否值得。

  6. arXiv · cs.CV62

    RSLiveBench-UAV:面向航空空间智能的持续演进视觉语言基准

    作者提出 RSLiveBench-UAV,一个由持续采集真实无人机影像驱动的视觉语言基准,采用只收录上一版本发布后拍摄图像并延迟公布答案的更新协议。基准包含来自10个场景的35,491条问题记录、覆盖2D感知、3D感知、跨视角感知与推理共17项任务,全部使用确定性评分而非模型评判。

    推荐理由:该基准用持续采集的真实无人机影像更新题目,并给出30个模型的横向评测结果,可供读者判断航空空间智能的评测现状。

  7. arXiv · cs.CV74

    RPG 基准:AI 篡改视频检测器在真实部署条件下表现如何

    研究团队提出 Reality Perception Gap(RPG)基准,包含 1 万段来自前沿生成器和部分合成编辑的视频,并经过跨平台转发压缩处理,同时搭配带有相机端光学伪影的真实素材。在 18 个检测器上,当误报率为 1% 时,没有一个检测器能识别出超过 15% 的伪造视频。对照实验和重编码扫描显示,生成器与内容偏移在压缩前就已削弱检测能力,而转发压缩会抹掉基于伪影的检测器所依赖的低层痕迹。

    推荐理由:该基准把转发压缩与硬件伪影纳入评测,18 个检测器在 1% 误报率下漏检率极高,为视频取证评测提供了更贴近部署的设定。

  8. arXiv · cs.LG 机器学习78

    TIDE:面向科学机器学习的物理多样 3D 湍流基准数据集

    作者发布 TIDE(Turbulent Incompressible DNS Ensembles),一个 256^3 的 3D 不可压缩湍流 DNS 语料与基准,覆盖八个控制轴上的 15 种配置,提供独立集合、压力场和方程级验证。

    推荐理由:该基准用独立集合与物理保真指标揭示点误差低不等于小尺度动力学正确,为科学机器学习评测提供可复现的对照。

  9. arXiv · cs.LG 机器学习71

    FreeKnob 审计揭示极端阈值 CSI 差异多由校准而非空间排序造成

    作者提出 FreeKnob 审计:在留出数据上拟合单调校准映射并分别应用于各系统,量化极端阈值下池化 CSI 差异中有多少可被校准消除。

    推荐理由:作者用单调校准映射做对照,量化了极端阈值 CSI 差异中有多少来自振幅校准而非空间排序能力。

  10. arXiv · cs.LG 机器学习72

    PertReason 提出细胞状态条件下的扰动效应机制推理基准与框架

    研究团队提出 PertReason,包含基准 PertReasonQA 与参考模型 PertReasonLM,用于评估和改进细胞状态条件下的扰动效应机制推理。PertReasonQA 整合多种细胞环境下的单细胞遗传与化学扰动数据及知识图谱,并按细胞特异性基础状态动态生成通路,以测试模型在新细胞、未见扰动、跨模态与组合外推等分布偏移下能否给出机制上忠实的解释。

    推荐理由:该基准把单细胞扰动数据与知识图谱结合,用于检验模型解释是否机制忠实,并给出参考模型的训练路径。

  11. arXiv · cs.LG 机器学习60

    KG-Guard:面向知识库问答的图结构幻觉检测框架

    作者提出 KG-Guard,将知识库问答(KBQA)中的幻觉检测建模为答案节点分类问题,把每个问答实例表示为增强图,用图编码器生成节点表示后由小型 MLP 判定 LLM 给出的答案节点是否可信。

    推荐理由:该工作把 KBQA 幻觉检测建模为答案节点分类,用轻量图编码器在三个基准上取得最优平均排名,并给出可回灌的节点级反馈。

  12. arXiv · cs.LG 机器学习71

    操纵一个基准有多难?社会选择视角下的排行榜稳健性分析

    作者把数据集视为选民、模型视为候选者,将基准特定训练(把基准数据纳入训练)识别为社会选择中的 shift bribery 问题,并证明该问题在 Borda count 和 mean win rate 下是 NP-hard。

    推荐理由:作者把基准刷榜问题映射为社会选择中的 shift bribery,并给出不同聚合规则下的实例级稳健性差异,读者可据此理解排行榜聚合方式对操纵难度的影响。

  13. arXiv · cs.LG 机器学习67

    论文指出最小过参数化下电路与 Transformer 的样例认证极为困难

    论文研究精确认证问题,即需要多少标注样例才能证明学到的假设等于目标函数,并证明在深度至少为 2 的阈值电路中,仅增加一个门就可能使认证所需样例数随输入维度指数增长;对 log-precision Transformer 也有类似的困难性结论,且只需常数级架构开销。

    推荐理由:论文从理论上说明最小过参数化即可让精确认证指数级变难,并用二值加法实验展示错误模型难以通过均匀采样发现。

  14. arXiv · cs.LG 机器学习75

    Meta-Scaling Laws:研究神经缩放律在数据变换下的不变性与跨域迁移

    作者提出 meta-scaling laws,用信息分辨率 ρ 这一单一轴刻画神经缩放律在数据变换下何时保持不变、如何可预测地改变,从而把一个领域拟合的缩放律迁移到另一个领域。

    推荐理由:论文提出以信息分辨率作为单一轴,把已拟合的缩放律迁移到新领域,并在语言、视觉、语音上验证。

  15. arXiv · cs.LG 机器学习78

    小型决策模型配合分析框架在消费级 GPU 上大规模发现内存安全漏洞

    作者提出一套漏洞发现框架,用 4B 参数的开源决策模型 Intern-Decision-4B 对候选函数打分排序,配合确定性分析定位可疑代码,在三个 GB10 系统上以每小时 900-1100 个仓库的速度扫描了 4000 多个 C/C++ 项目,确认 187 个内存安全漏洞,按 CVSS v3.1 最坏情况计 12 个严重、148 个高危。

    推荐理由:论文用 4B 决策模型配合确定性分析在 4000 多个开源项目中挖出 187 个内存安全漏洞,并给出模型排序能力的量化边界。

  16. arXiv · cs.LG 机器学习78

    研究指出验证器选择是基准设计变量,审计文生图模型的结构化计数评测

    作者构建以验证器为中心的审计套件,覆盖手机、椅子、红绿灯等 7 类计数对象,用 Qwen-Image-2512 与 FLUX.2-dev 生成的 6,240 张图像比较多种开源 MLLM 验证器协议。

    推荐理由:该研究把验证器选择当作基准设计变量,用 6,240 张生成图像审计计数评测,显示不同验证器协议会缩小甚至反转生成器间的人类评分差异。

  17. arXiv · cs.LG 机器学习78

    Sophon:面向视觉语言模型空间推理的程序化诊断基准

    作者提出并开源 Sophon,一个由程序生成配对彩色点云刺激的空间推理诊断基准,覆盖 1D 线性、2D 笛卡尔、2D 极坐标三种坐标系和二元、分类、比较、定量四类问题。

    推荐理由:开源诊断基准揭示开源 VLM 空间推理失败源于路由瓶颈而非能力缺失,LoRA 可修复。

  18. arXiv · cs.LG 机器学习71

    AeroZoo:面向气动基础模型的良定流动问题基准

    研究团队发布 AeroZoo 基准与训练语料,包含 3,815 个带转捩模型的非定常 RANS 方程时均解,覆盖七类几何、八种外流场配置和 10^3 至 10^8 的雷诺数;其中 2,816 个具有稳定时均的样本构成正式基准,含工程指标与 22 个按几何不相交的冻结划分。

    推荐理由:该基准用七类几何、八种外流场配置和跨雷诺数划分,检验气动基础模型能否泛化到新外形与新边界条件。