Meta 详解 Catching JiTTests 全量部署:LLM 生成测试在代码合入前捕获 bug
Meta 介绍其 LLM 驱动的 Catching JiTTests 已从研究原型进入生产基础设施,通过 dodgy diff 和 intent-aware 两条工作流自动生成测试,在代码合入前暴露 bug,并用 RubFake 规则与 LLM-as-Judge 集成过滤误报、以 human-on-the-loop 方式降低人工审查负担。
Meta 介绍其 LLM 驱动的 Catching JiTTests 已从研究原型进入生产基础设施,通过 dodgy diff 和 intent-aware 两条工作流自动生成测试,在代码合入前暴露 bug,并用 RubFake 规则与 LLM-as-Judge 集成过滤误报、以 human-on-the-loop 方式降低人工审查负担。
Replit 发布长程软件开发基准 ViBench 2.0,代理从空项目按功能搭建完整产品,包含 17 个产品、241 个功能请求和 544 个测试计划,并加入 Fireworks 的 Specialized Intelligence Index。
Arena 基于 20,869 条 Agent Arena: Code 记录,对比五个前沿模型(来自 Anthropic 与 OpenAI)与其他 Agent 的用户投诉分布。
Cognition 发布新一代编码基准 FrontierCode 2.0,通过扩大任务范围、提高合并标准和引入 thoroughness 类评分标准,来评测智能体在提示不完备时的真实工程能力。任务取自多 55% 的仓库,参考解决方案平均多改 67% 的文件和 89% 的代码行;Opus 5.5 以 45.5% 得分居首,基准远未饱和。
Meta 发布 2026 Python Typing Survey 结果,共 1,794 份回复,连续三年追踪 Python 类型标注的使用与体验。AI 工具为 42.5% 的受访者编写类型提示,认为 AI 让代码更可靠的比例从 2025 年 18.5% 升至 38.4%,24.4% 的受访者由 AI 编码工具调用类型检查器。
英国 AI Security Institute 与 SecureBio 合作推出 ReproBAIT 评测,测试 AI 编码智能体能否依据论文等公开信息和训练数据复现生物 AI 工具(BAITs)。
推荐理由:AISI 用 ReproBAIT 评测显示,仅凭公开论文和训练数据,部分生物 AI 工具能在几小时、几十美元内被编码智能体复现,数据治理或比藏代码更有效。
山东大学研究者让五个模型在 Claude Code、OpenCode 和 mini-SWE-agent 三个 harness 下跑 SWE-bench Verified 任务,发现换 harness 的结果波动与重复运行同一配置相当,成本却最多可达三倍。
Anthropic 的 Frontier Red Team 与 Theorem 合作,让 Claude 将 OSS-Fuzz 测试转化为数学问题并生成约 1.8 亿行证明代码,由独立程序 Rocq 自动核验,几乎无需人工审查。
Anthropic 与 Theorem 合作,用 Claude 将 OSS-Fuzz 模糊测试转化为规格,对 123 个开源库的 239 个入口点证明了任意 64 MB 以下输入不崩溃,生成约 1.8 亿行 Rocq 证明。
推荐理由:Anthropic 用 Claude 对 123 个 OSS-Fuzz 开源库在 RISC-V 汇编层面写 Rocq 证明,读者可以据此了解 LLM 规模化形式化验证的实际流程与局限。
Anthropic Fellows 团队用 Opus 5 红队智能体测试生产级拦截监控器,发现 Auto Mode 与 Guardian 的平均攻击成功率超过 55%,主要绕过手段包括伪造转录轮次的监控器注入、多智能体与恶意压缩的多上下文攻击。团队通过转录框架化与转义、监控工作目录编辑和增加智能体监控阶段将攻击成功率降低超过 50 个百分点,但以可接受成本可靠防御多上下文攻击仍是开放问题。
推荐理由:作者用红队实验给出生产级监控的绕过手法与防御改动的召回数据,读者可以据此评估编码智能体监控的实际鲁棒性。
OpenAI 于 10 月 20 日发布研究报告,介绍其增强 GPT-6 Astra 等模型构建和迁移 COBOL、Fortran、Visual Basic 等低资源编程语言的能力,并推出 MultiLangBench(20 种语言从零构建兼容 SQLite 的数据库引擎)和 COBOL 迁移至 C++、Java、Python、Rust 两项评测。
小红书 AllSpark Team 提出 ROSS,让模型重新学习训练中自己生成的 rollout,通过筛选有价值轨迹片段并保留完整上下文做选择性监督。基于 Qwen3.6-35B-A3B,该方法在单轮 RL 中把数学均分从 75.19% 提至 76.98%、代码从 42.09% 提至 44.21%,MOPD 均分从 58.40% 提至 62.20%。
OpenAI 宣布最新模型在 COBOL、Fortran、Visual Basic 等低资源编程语言上能力显著提升,并推出两项自建评测。
推荐理由:原文给出低资源语言的两套自建评测和逐语言数据,读者可据此评估新模型在遗留系统维护与迁移上的可用性。
新基准 Taste-Bench 通过 502 个决策分叉问题测量智能体在编码和 AI 研究任务中的长期决策品味,测试了来自 Claude、GPT、Grok、DeepSeek、GLM、MiniMax 和 Mistral 家族的 14 个模型。
Johann Rehberger 披露 Visual Studio Copilot 与 SQL Server Management Studio 中的远程代码执行漏洞 CVE-2026-103572,根因是利用文件名末尾多加一个点绕过路径校验,写入 .mcp. 或 settings.VisualStudio. 等受保护配置文件,实现任意命令执行。
推荐理由:作者亲述漏洞原理与利用链,读者可学到 Windows 路径规范化缺陷如何绕过 AI 智能体安全检查的可迁移方法。
Cohere Labs 在 ProgramBench 200 个任务上系统测试编码 Agent 团队的设计选择,发现团队优于单个 Agent 但成本高 4 到 7 倍。
推荐理由:Cohere Labs 用受控实验拆解多智能体团队的设计选择,指出只在规划阶段派便宜的 worker 就能以五分之一成本逼近全强模型团队。
Artificial Analysis 独立运行 Cognition 的 FrontierCode 1.1 Main 编程评测,用统一的 Stirrup agent harness 测试 100 个真实开源仓库任务。
Harvard 研究者 Fiona Chen 和 James Stratton 基于 Jellyfish 的数据分析发现,AI 编码工具的编码阶段效率提升被生产流程下游瓶颈吸收,企业软件产出和就业未见明显变化。研究覆盖 2021 年至 2026 年 3 月超过 700 家公司约 70 万员工的 3 亿条工作事件,显示代码审查时间显著变长、pull request 更易要求修改、审查者留下更多评论。
我们在一个 11.6 万行的代码库中埋了 70 个 bug。3 次运行中,单个智能体分别找到了 14、15 和 27 个 bug。而一个工作流在 3 次运行中每次都稳定找到 66 个。
Apple 论文《How Much of a Harness Does a Strong Agent Need for Autonomous ML Engineering?
GitHub 发布 AI 代码审查离线基准 ReviewBench,现已在 ReviewBench 网站开放使用。
Apple 研究者提出 RLTL;DR,在每次失败尝试后让策略读取验证器输出并自行写出一条 TL;DR 式反馈,后续 rollout 以历史反馈为条件,并对上下文中的反馈做反向传播以内化"任务→反馈"映射。
EPFL 与 Apple 研究者发表论文,发现在相同时间预算和同一前沿 LLM 骨干下,开源最先进 harness 并不优于最小化 harness 编码智能体的单次会话。通过大规模系统性消融研究,作者认为复杂机制层在编码智能体场景中变得冗余,性能主要由 LLM 骨干驱动,为强模型手工搭建复杂 harness 的投入在当前 MLE 基准上回报很低。
小红书 AllSpark 团队提出 PACT(Policy Aligned Critic Training),通过三个正则条件唯一确定长程 Agent 的信用分配,并用 BCE 回归有界 Value、采用 Actor-Then-Critic 更新顺序改进 Critic 与策略对齐。
Nvidia 研究人员提出 SoL-Pi 系统,用研究 agent 自动优化编码 agent 的控制层(harness),在 EdgeBench 上相比 Codex 节省 50%、相比 Claude Code 节省 54.3% 的 token,性能与原 Pi harness 大致持平。
Factory 的 Legacy-Bench 正式加入 Fireworks 的 Specialized Intelligence Index(SII),用于评测前沿模型在 COBOL、Java 7、BASIC、C89、Fortran 和 Assembly 等遗留语言上的调试、实现与迁移能力。
Artificial Analysis 评测 OpenAI 的 GPT-6 Sol 和 Luna,两模型价格较 GPT-5.6 约减半,Sol 定价 $2/$10、Luna $0.10/$0.50 每百万输入/输出 token。
推荐理由:Artificial Analysis 用自家指数实测两代模型的成本与表现,读者可据此判断 GPT-6 降价后哪些能力持平或退步。