跳到正文
#大语言模型
今天11月13日周五244 条
  1. arXiv · cs.CY40

    研究：习惯与组织学习能力比好奇心更能预测员工使用影子 AI

    一项基于 510 名生成式 AI 用户的调查研究发现，习惯是影子 AI 使用的最强预测因子，解释方差达 28.3%，并在全部 512 个预测变量子集中完全压过好奇心维度"愉悦探索"（后者仅贡献 3.4%，纳入使用行为和习惯后不再显著）。支持学习的组织条件额外解释 24.1%，且以叠加方式起作用。研究据此将影子 AI 重新定义为习惯与环境现象，而非个人探索行为；该预印本尚未经同行评审。

  4. arXiv · cs.SE66

    Oracle-to-PostgreSQL 迁移智能体是否真在学习？一项带审计的评测

    研究团队对 Oracle-to-PostgreSQL 迁移智能体的经验记忆做了审计式评测：在 1,833 对文档来源参考上，持久记忆把参考一致性（RC）比无记忆基线提高 0.015 [0.004。

    推荐理由：通过审计式评测拆解记忆增益中的参考泄漏与复制效应，并给出六条区分跨任务学习与指标假象的评测规则。

  5. arXiv · cs.SE58

    研究观察 Claude Code 调试生产数据库故障：访问受限比推理失误更普遍

    作者用 Claude Code 诊断生产消息派发引擎中的八次数据库故障，发现访问生产状态受限是最普遍的瓶颈。五次依赖并发的故障都出现访问缺口，其中一次仅因访问不足，四次还叠加了推理错误，如锚定早期原因、配置探索不完整或误读代码事务语义；三次不依赖并发的故障则无需额外能力。作者据此提出为生产调试 Agent 增加取证层，包含安全查询 API、锁与死锁飞行记录器和生产回放装置。

  8. arXiv · cs.CV40

    DiFiT：面向多模态大模型的分布保真度引导视觉 token 剪枝

    DiFiT 提出用分布保真度引导视觉 token 剪枝，通过双视角蒸馏对齐完整 token 与剪枝后的词表概率分布，并用可学习打分器与可微 Top-K 选择保留的视觉证据。在 Qwen2.5-VL-7B 上，10% 保留率下其采样导致的负翻转比 FastV 减少 30.3%，30% 保留率下在 MME 上保留基线性能的 98.74%。

  9. arXiv · cs.RO60

    BiPOP：用 LLM 结合时序偏序规划实现长程双臂机器人操作

    作者提出 BiPOP 框架，将 LLM 与时序偏序规划结合用于长程双臂机器人操作：LLM 把自然语言指令转成 PDDL 规格，时序规划器按双臂可达性划分工作空间并处理臂间依赖、任务分配与同步约束，从而调度可并行动作。

    推荐理由：论文把双臂长程操作的时空协调交给符号规划器，并用失败分析说明纯 LLM 规划器的约束违反问题。

  11. arXiv · cs.LG 机器学习70

    研究提出 Platonic brain bridge 假设，用脑网络结构作为多模态大模型架构先验

    研究提出 Platonic brain bridge 假设，认为同时处理视频、音频和文本的全能模型与大脑共享可双向利用的类脑表征。

    推荐理由：论文把大脑皮层网络结构作为多模态大模型的架构先验，并给出双向验证与配套基准，可供关注脑启发建模的读者参考。

  12. arXiv · cs.LG 机器学习70

    研究提出 Chain-of-Thought 在上下文学习中的渐近理论，解析推理深度与泛化误差的关系

    作者在线性回归的上下文权重预测任务上构建可解析求解的 CoT 模型，用高维渐近下的随机矩阵理论推导出泛化误差关于推理深度、预训练数据量和上下文长度的精确公式。分析显示误差随深度变化存在区分指数改进、多项式改进、饱和与过思考的相变，并给出最优推理深度的缩放规律；预训练或上下文信息不足时，更长的推理反而会放大误差。

    推荐理由：该工作给出 CoT 推理深度与泛化误差的精确解析式，并刻画指数与多项式改进之间的相变，为理解过思考现象提供可检验的理论框架。

  13. arXiv · cs.LG 机器学习58

    Hippasus：面向关系表的 LLM 引导低成本特征增强框架

    作者提出 Hippasus，一个面向关系模式、成本感知且由 LLM 引导的特征增强框架，先对候选连接路径排序再执行连接，仅在必要时调用 LLM。在 13 个真实数据集上，其预测性能平均比 SOTA 方法最高提升 15.7%，运行速度与其中最快的方法相当，同时保持较低的 LLM token 成本。框架还引入多路连接执行与跨路径特征合并，以及结合统计相关性与语义精炼的混合特征选择策略。

  14. arXiv · cs.LG 机器学习42

    Omni-JEV：文本与双流语音的交互动作决策

    Omni-JEV 将文本或按角色索引的用户与助手参考语音映射为五种交互动作的概率，用于判断全双工语音助手何时应答、保持说话、打断或恢复被打断的回复。其对齐语音到语音理解骨干分别编码声学角色，并与文本输入共享候选读出。Gaussian Omni-JEV 在测试集上语音准确率 84.08%、文本准确率 96.55%。

  16. arXiv · cs.LG 机器学习72

    PertReason 提出细胞状态条件下的扰动效应机制推理基准与框架

    研究团队提出 PertReason，包含基准 PertReasonQA 与参考模型 PertReasonLM，用于评估和改进细胞状态条件下的扰动效应机制推理。PertReasonQA 整合多种细胞环境下的单细胞遗传与化学扰动数据及知识图谱，并按细胞特异性基础状态动态生成通路，以测试模型在新细胞、未见扰动、跨模态与组合外推等分布偏移下能否给出机制上忠实的解释。

    推荐理由：该基准把单细胞扰动数据与知识图谱结合，用于检验模型解释是否机制忠实，并给出参考模型的训练路径。

  17. arXiv · cs.LG 机器学习70

    论文分析 KV cache 压缩的极小极大风险，并给出因果掩码下的设计原则

    作者从理论上刻画了 KV cache 压缩的极小极大风险，用 cache 的内在可压缩性说明何时能实现准确压缩。结论指出，一旦注意力能精确检索单个 token，压缩只有在利用未来 query 信息时才能稳定优于随机采样，无论 cache 本身多冗余。基于此，作者提出因果掩码下的压缩设计原则，并实现为兼顾 prefill 与自回归解码的实用算法，该工作已被 NeurIPS 2026 接收。

    推荐理由：论文用极小极大风险刻画 KV cache 的可压缩性，并给出因果掩码下的设计原则与可落地算法，为压缩方法提供理论依据。

  18. arXiv · cs.LG 机器学习60

    KG-Guard：面向知识库问答的图结构幻觉检测框架

    作者提出 KG-Guard，将知识库问答（KBQA）中的幻觉检测建模为答案节点分类问题，把每个问答实例表示为增强图，用图编码器生成节点表示后由小型 MLP 判定 LLM 给出的答案节点是否可信。

    推荐理由：该工作把 KBQA 幻觉检测建模为答案节点分类，用轻量图编码器在三个基准上取得最优平均排名，并给出可回灌的节点级反馈。

  20. arXiv · cs.LG 机器学习47

    LOFT：通过任务感知支持选择实现低秩正交微调

    论文提出 LOFT 低秩正交微调框架，将正交 PEFT 中的适配子空间与子空间内变换显式分离，并统一了坐标、butterfly、Householder 及主子空间等正交 PEFT 方法的乘性核心。一阶分析表明适配支持应由下游训练信号决定，据此设计的任务感知支持选择在语言理解、视觉迁移、数学推理和多语言分布外适配中，于相同可训练参数与变换设置下提升性能。该工作已被 NeurIPS 2026 接收。

  21. arXiv · cs.LG 机器学习60

    可验证 AI 基础设施研究：证明成本分布与硬件加速路径

    作者提出一个四层框架，把可验证 AI 工作负载、证明系统、密码学内核与硬件平台串联起来，并补充六个证明系统、七类内核的实测，指出主导成本随证明系统和输入长度变化。

    推荐理由：文章用四层框架梳理可验证 AI 的证明成本，并给出六个证明系统与七类内核的实测，帮助读者判断瓶颈落在哪一层。

  24. arXiv · cs.LG 机器学习60

    研究指出自回归语言模型的序列级监督损失存在无下界缺陷

    作者分析了将贪心解码或自回归采样纳入损失函数的两种序列级监督方案，证明这两种损失函数都无下界，即存在根本缺陷。进一步借助自回归 Gumbel 技巧，作者说明基于采样的损失等价于 Gumbel 扰动下的期望贪心损失；对采样过程施加 stop gradient 后得到的矩匹配方向虽不是任何损失函数的梯度，但被证明是自回归负对数似然在函数空间中的有效下降方向。

    推荐理由：论文从理论上说明两种序列级损失函数无下界，并分析停梯度后的矩匹配方向，为 teacher forcing 的继续使用提供依据。

  27. arXiv · cs.LG 机器学习42

    SAME：面向开源大模型的语义水印嵌入方法

    针对开源大模型易被未授权复制修改的问题，研究者提出语义水印嵌入方法 SAME，通过构建语义上有意义的私有词表，让私有 token 可灵活组合成自适应水印触发器。该方法将私有词表与模型原生语义对齐，使水印在后续良性微调中仍能保持。实验显示 SAME 在不同规模和架构的开源大模型上均能提供可靠且鲁棒的水印，支持所有权验证。

  28. arXiv · cs.LG 机器学习58

    VEPO 提出有效熵指标，在六个数学推理基准上稳定优于 GRPO

    作者提出有效熵（Effective Entropy）概念，只在有效子空间内度量多样性并过滤错误轨迹的噪声，据此实现 VEPO 方法并直接接入 RLVR 训练。在 1.5B 和 7B 的 DeepSeek-R1-Distill-Qwen 模型上，VEPO 在六个数学推理基准上相对 GRPO 取得一致的总体准确率提升，重复采样成功率也具竞争力。

  29. arXiv · cs.LG 机器学习71

    DETER：在预训练阶段抑制知识以提升抗篡改能力

    作者提出 DETER，在过滤后的预训练语料中穿插梯度上升来主动抑制医学知识，使模型更难通过对抗微调重新获得这些知识。在 1B 参数模型上，要达到未过滤模型的 held-out PubMed loss，所需 PubMed 微调 token 超过仅做过滤时的 20 倍；保留知识则用 held-out 数据和下游任务评估。

    推荐理由：论文比较了预训练阶段抑制与事后遗忘两条路径，给出对抗微调所需 token 倍数的量化差异，可供关注开放权重模型安全训练的读者参考。

  31. arXiv · cs.AI 人工智能58

    研究显示模型合并不必统一LoRA秩，按损失选分量可保持精度

    研究者在数学、指令跟随、多语言三个领域以四种秩和三种模型规模训练36个专家，用六种方法在统一秩与各领域最优秩下合并。给专家不同秩不损害averaging与utility-based selection，多领域准确率最高提升1.8个百分点，而冲突消解类方法表现不稳定、最多损失4个百分点。

  34. arXiv · cs.AI 人工智能40

    生成式 AI 时代的版权治理：arXiv 论文分析 40 份法律文件提出六项治理工具设计

    一项 arXiv 论文对 2019 至 2026 年间 40 份立法、司法与软法文件进行编码分析，共产生 1,337 条类别标注，发现欧盟与美国均以程序性而非权利性方式界定作者保护，且没有任何文件为 AI 训练中的作品使用设立普遍的作者署名义务。研究基于负责任研究与创新理论框架，据此提出六项治理工具设计，并按能力在开发者、出版商、集体管理组织、资助方、机构、监管者与作者之间分配责任。

  36. arXiv · cs.AI 人工智能70

    通过迭代去对齐估计稀有事件概率：面向智能体轨迹风险的重要性采样方法

    研究团队提出一种重要性采样方法，通过扰动原模型权重构造可微参数化的语言模型提案，用梯度搜索放大稀有事件，并配合自适应正则平衡放大与估计稳定性。在约 120M 和约 2.6B 模型、三类事件共 300+ 个低至 10^-9 的稀有事件上评测，在概率低于 10^-7 的事件上，其估计器相对朴素蒙特卡洛平均获得超过 800 倍的计算加权效率提升，代码已开源。

    推荐理由：针对智能体轨迹中的极低概率风险事件，提出通过扰动模型权重构造重要性采样提案的估计方法，并给出与朴素蒙特卡洛的计算效率对比。

  38. arXiv · cs.AI 人工智能62

    LLM4SCREENLIT 提出用成本敏感 WMCC 评估大语言模型文献筛选性能

    作者提出 LLM4SCREENLIT 建议，用于评估大语言模型在系统综述文献筛选中的表现，并给出加权 Matthews 相关系数（WMCC），把 MCC 的机会校正与非对称误分类成本结合起来。

    推荐理由：针对系统综述文献筛选中混淆矩阵指标易误导的问题，提出成本敏感的 WMCC 指标并给出可操作的评估建议。

  39. arXiv · cs.AI 人工智能58

    DAISY：面向 Dafny 的故障引导断言推断工具

    作者提出 DAISY，一个面向 Dafny 的故障引导断言推断工具：它借助验证器诊断、基于 LLM 的定位或两者结合来定位可能的断言位置，再用 LLM 生成候选断言并由 Dafny 验证器筛选。作者将 DafnyBench 扩展出缺失断言的失败变体，DAISY 在缺失一个断言的程序上验证通过率 86%，缺失两个断言时为 36%，且成功修复的断言常与原断言不同。