跳到正文
#论文/研究
10月22日周四
  2. Google DeepMind：Blog53

    Google DeepMind 与 WRI、IIASA 发布 ForTy 全球森林类型地图

    Google DeepMind 与 Google Research 联合 World Resources Institute 和 IIASA 发布 Forest Typology（ForTy）2020 全球地图，以 10 米分辨率将地球每块土地划分为 FAO 定义的六类森林与土地类型，并首次提供 2017 至 2025 年逐年变化时间序列，展示天然森林被种植园或农场取代等变化。

  3. Sierra：Blog60

    Sierra 发布 𝜏-Entity 基准，检验语音智能体能否准确采集姓名、电话等实体信息

    Sierra 发布 𝜏-Entity 基准，测量语音智能体能否正确采集、识别错误并修复姓名、电话号码、地址和邮箱等细节，包含 10 种实体类型共 200 个任务，并与 𝜏-i18n 一样覆盖六种语言。

    推荐理由：Sierra 自建基准和论文量化了语音智能体在准确采集姓名、电话等细节上的失败率，并给出可迁移的验证策略效果数据。

  12. Rohan Paul43

    Meta 与密歇根州立大学的新论文发现，LLM 构建的推理图质量差异很大，且图中的错误会传导到基于图计算的置信度分数上。研究测试了 9 个模型，从给定步骤到完全自建图逐步减少辅助，结果显示图质量更多与模型家族和图结构相关，而非模型规模，Qwen3-32B 回答子问题的表现甚至不如 Qwen3-8B。作者建议在信任基于 LLM 推理图得出的答案或置信度之前，先检查图本身。

  15. Anthropic：Alignment Science Blog68

    Anthropic 红队测试 Claude Code Auto Mode 与 Codex Guardian 拦截监控器

    Anthropic Fellows 团队用 Opus 5 红队智能体测试生产级拦截监控器，发现 Auto Mode 与 Guardian 的平均攻击成功率超过 55%，主要绕过手段包括伪造转录轮次的监控器注入、多智能体与恶意压缩的多上下文攻击。团队通过转录框架化与转义、监控工作目录编辑和增加智能体监控阶段将攻击成功率降低超过 50 个百分点，但以可接受成本可靠防御多上下文攻击仍是开放问题。

    推荐理由：作者用红队实验给出生产级监控的绕过手法与防御改动的召回数据，读者可以据此评估编码智能体监控的实际鲁棒性。

  17. Chelsea Finn44

    我们如何扩展 LLM 的上下文？ Agentic search 可扩展到任意规模的信息，但很容易遗漏相关信息。 想法💡：针对下游效用优化信息的组织方式。即使在 OOD 领域也能带来 30+% 的提升 论文 + 代码：https://librarian-agents.github.io/

    引用Anikait Singh@Anikait_Singh_

    LLMs deployed in specialized domains, from enterprise codebases to law firms, dig through a mountain of unstructured context! Our new paper, Librarian Agents, asks: can an agent adapt by curating its own long-context workspace, anticipating queries before they arrive? 🧵⬇️

  18. Aravind Srinivas42

    Perplexity 与 NVIDIA AI 提出后训练方法 JOLT，让同一模型同时充当教师和学生，并训练教师从自身尝试的奖励中学习、惩罚偏离学生行为的漂移。在 MATH 基准上，JOLT 用少 6.5 倍的训练 token 达到与 GRPO 相当的准确率。JOLT+ 在此基础上为学生模型增加结果奖励，在数学、编程、终端任务和工具使用基准上明显优于 GRPO。

    引用Perplexity@perplexity_ai

    New research: We developed JOLT, a post-training method where one model acts as both teacher and student, with the teacher trained to give feedback the student can use. On MATH, it matched GRPO's accuracy with 6.5x fewer training tokens. https://www.perplexity.ai/hub/blog/a-good-teacher-meets-the-student-where-they-are

  20. Hugging Face 社区博客45

    如何通过专精 SLM 词表将实际应用推理成本降低 77%

    基于 Qwen3-4B 的葡萄牙语作文自动评分器通过 VocabX 方法重建词表，在基座模型、数据和训练配方不变的情况下将实测推理成本降低 77%。该方法按每个 token 的成本而非词频来专精词表，使输出层从约 152,000 行缩减到约 65,000 行。原文指出生成 token 的成本约为读取 token 的 7.4 倍，词表是领域专精模型最大的成本杠杆之一。

  23. Microsoft Research 博客83

    Microsoft Research 与合作者证明 31 年历史的 KLS 猜想

    Microsoft Research 的 Xinzhi Zhang 与 Zhao Song 证明 1995 年提出的 Kannan–Lovász–Simonovits（KLS）猜想，表明对数凹分布的最优平面切割与任意形状切割的差距不随维度增长，以普适常数为界。

    推荐理由：微软研究员亲述证明过程，展示了人类引导多智能体迭代剪枝的科研协作方式，约百条研究路径中筛出关键判据。

10月21日周三
  1. Wiz：Research85

    Wiz Research 披露 PHP2Shell：AI 助攻 PHP 核心 RCE 漏洞，影响全球 70% 网站

    Wiz Research 披露 PHP 核心中的多个内存安全漏洞（CVE-2026-109618/109619，CVSS 最高 9.2），实现无需认证的远程代码执行与内存泄露，影响至少追溯到 PHP 5.4 的近十年版本。

    推荐理由：Wiz 以亲历视角展示 AI 如何把隐藏十余年的 PHP 内存漏洞变成可用利用链，并给出可迁移的检测信号和修复建议。

  2. Rohan Paul68

    OpenAI 联合 PerturbAI 与 Scripps Research，用 1946 个 GPT-Rosalind 智能体并行解读小鼠全脑 CRISPR 图谱，32 分钟得出 OpenAI 估计人工需数月的分析结果，其中 GPT-Rosalind 就 DCTN1 基因与 Perry 综合征提出了胆固醇转运可能受损的机制假设供科学家验证。

    引用OpenAI@OpenAI

    GPT-Rosalind surfaced a new lead for drug discovery: could restoring cholesterol transport protect neurons from degeneration? DCTN1 is a gene linked to Perry syndrome, a rare neurodegenerative disorder. In mouse-brain data, disrupting it increased expression of genes involved in making cholesterol. GPT-Rosalind suggested a possible explanation: cholesterol may not be reaching where neurons need it. That gives scientists a specific mechanism to test and, if confirmed, a direction for developing new treatments for neurodegenerative disorders. With @perturbai_tx and @scrippsresearch, a team of thousands of GPT-Rosalind agents worked in parallel, connecting gene-expression results from millions of mouse brain cells with scientific literature in just 32 minutes. We’re now expanding this collaboration to identify new drug targets. https://openai.com/index/scaling-ai-research-for-complex-biological-data/

  3. OpenAI：官网动态64

    OpenAI 与 PerturbAI、Scripps Research 用数千个 GPT‑Rosalind 智能体 32 分钟挖掘脑细胞数据新研究线索

    OpenAI、PerturbAI 与 Scripps Research 联合发布研究，用数千个由 GPT‑Rosalind 驱动的 AI 智能体并行分析数百万小鼠脑细胞的全脑 CRISPR atlas，32 分钟内完成分析与文献解读，并称人工逐一分析需数月至一年。

    推荐理由：原文给出分布式智能体分析全脑 CRISPR atlas 的具体做法与对比数据，读者可了解该方法的实际效果与局限。

  5. Anthropic：Newsroom68

    Anthropic 用 Claude 缩减开源代码攻击面：25 个项目发现 493 个问题

    Anthropic 发布关于用 Claude 自动化攻击面分析与缩减的研究总结，在 25 个、超 500 万行代码的开源项目中用默认配置、配置交互和早期可达性三种方法发现 493 个问题。

    推荐理由：Anthropic 用 Claude 对 25 个开源项目做攻击面分析并给出 OpenSSH 案例，读者可借此了解可迁移的攻击面缩减方法。

  12. Rohan Paul69

    Anthropic 在科学博客发布 Claude 设计蝎子神经毒素蛋白结合剂的研究，Rohan Paul 转述称 Claude 在 Claude Science 环境中作为智能体自主完成整个蛋白设计流程：选择毒素攻击位点、驱动 12 个蛋白设计程序、自设评分阈值。

    引用Anthropic@AnthropicAI

    New on our Science Blog: designing protein binders against scorpion neurotoxins. Scorpions sting about 1.2m people every year, and antivenoms are often costly or in short supply. Claude has made an early step toward finding new treatments. https://www.anthropic.com/research/claude-scorpion-toxin-binder-design

  13. OpenAI：Alignment 研究博客45

    OpenAI 提出 g-mean² 之外的互补可监控性指标

    OpenAI 在 g-mean² 之外新增两个互补指标：pair-matched 指标只在多个模型共同支持的实例上比较可监控性，post-control 指标则模拟监控器拒绝输出后的部署风险。原文指出，g-mean² 分数可能受各模型有效任务子集不同的影响，且不反映监控器在部署中作为控制手段的实际效果。

  14. Hugging Face 社区博客60

    Ai2 发布 FairStress 基准，测出 LLM 决策中的反刻板印象过度纠正

    Ai2 发布 FairStress 基准，用 300 个场景扩展成超过 1300 万测试用例，测量大语言模型在高风险决策中面对对抗前缀时的公平性。评测发现模型在身份信息显式时更易放弃支持少数群体编码候选人的正确决策，平均放弃差距为 6.9（隐含身份）至 9.3 个百分点（显式标签）。基准已开放下载并集成到 Olmo-eval，测试的九种去偏方法中仅反事实链式推理在保留准确率的同时缩小差距。

  16. Ai2 / Allen Institute for AI61

    Ai2 发布 FairStress 基准：测量 LLM 决策中被隐藏的公平性不对称

    Ai2 发布 FairStress 基准，通过 300 个两候选决策场景和对抗前缀，测量 LLM 在面对说服性论据时改变决策的难易是否因候选人所属人口群体而不同，全部组合超过 1300 万测试用例，并已开放下载、集成进 Olmo-eval。

    推荐理由：Ai2 用对抗前缀测出模型在人口群体之间的决策不对称，并发现多数去偏方法不可靠，提供了诊断与改进思路。

  17. Hacker News：AI 热帖51

    arXiv 论文探究 AI 生成文本为何难以理解

    arXiv:2610.29162 研究发现，九个前沿及接近前沿的模型相对人类写作更多使用无生命主语配动词、低频 n-gram，多数还使用更长的句法依赖、更多堆叠名词和缩略宾语关系从句，且不同模型家族差异明显。研究提出假说：人类语言为成功沟通优化，而 AI 文本日益为数学、代码和推理等目标优化，倾向信息密度而非沟通效果；作者通过对语言模型施加长度惩罚微调使其偏离人类语言行为，为该假说提供了概念验证。