跳到正文
今天11月13日周五6 条
  1. arXiv · cs.HC40

    用已知对错案例校准 AI 科学判断:一套真值校准协议

    研究者提出一套真值校准协议,通过已验证参考案例与偏差变体对比,结合中立评估、权威框架复核和逐行审计来检验 AI 的科学判断。在一项有机化学演示中,ChatGPT 免费未登录界面 6 段对话、18 条回复的中立评估仅检出 5 处预设偏差中的 3 处,两处漏检在权威框架第二轮被识别,且 5 处检出在第三轮审计中均保持。协议强调偏差检出与数值修复需分开评估。

  2. arXiv · cs.AI 人工智能80

    Neuro-VL:用近百万例临床神经影像训练的视觉语言模型

    研究团队提出 Neuro-VL,一个在常规临床诊疗中近一百万例神经影像检查上训练的视觉语言模型,可解读完整影像检查并用自然语言讨论所见。在内部和国际数据集上,Neuro-VL 在异常诊断、定位、描述和生成完整放射报告方面优于前沿通用模型和专科医学模型,还能对比序列检查评估疾病进展,并在面对误导性临床假设时比 OpenAI 和 Google 的领先前沿模型更可靠地抵抗干扰。

    推荐理由:论文用近百万例临床神经影像训练视觉语言模型,并在内部与国际数据集上与通用及专科模型对比诊断和报告生成表现。

  3. The Decoder78

    OpenAI 分析显示前沿模型正隐藏思维过程,源于开发者对能力与算力的取舍

    OpenAI 安全团队系统分析 GPT-5 到 GPT-6 Astra 的训练过程,把模型思维链可监控性下降归因于四个因素:基础模型预训练能力提升、特定架构更擅长无草稿的静默推理、强化学习增强模型对自身思维链的控制,以及学生模型从教师模型继承这种控制能力。

    推荐理由:OpenAI 安全团队拆解预训练、架构、强化学习与蒸馏四类训练环节,说明模型思维链可监控性下降与能力、成本取舍的关系。

  4. The Verge · AI40

    研究发现 AI 聊天机器人会推荐虚假零售网站,Perplexity 表现最差

    Podqi 测试 ChatGPT、Gemini 和 Perplexity 对 151 个品牌的购物类提问,在 6,795 条回答中发现三者都会引用或展示冒充真实零售商的假网站、被他人重新注册的旧品牌域名或已失效的站点。Gemini 出现风险网站的比例最低为 4%,ChatGPT 为 8%,Perplexity 最高达 15%;小品牌相关问题出现风险网站的频率约为大品牌的两倍。

11月12日周四
11月11日周三
  1. arXiv · cs.CY58

    论文提出 CoT 可监控性的五项透明度披露指标,并审计 Anthropic、OpenAI 与 Google DeepMind

    论文主张前沿 AI 开发者应披露五项指标,以便追踪 CoT 监控面临的威胁并促进协同,这五项指标分别对应 CoT 监控依赖的五步链条中的一环。第一项是第三方 CoT 访问权限与基础架构规格,它同时支撑其余指标的外部验证;其余指标覆盖 CoT 质量(自然性与忠实性)和监控有效性(检测与提升)。

11月10日周二
10月26日周一