多模态大语言模型对齐的全面研究:Apple 团队独立拆解偏好对齐各环节
Apple 研究团队系统梳理了多模态大语言模型(MLLM)中的偏好对齐方法,将算法分为离线(如 DPO)与在线(如 online-DPO)两类,并发现两者结合可在特定场景下提升模型性能。团队还提出无需额外标注或外部模型的新型多模态偏好数据构建方法 Bias-Driven Hallucination Sampling(BDHS),在多项基准上取得与既有对齐工作相当的竞争力。
Apple 研究团队系统梳理了多模态大语言模型(MLLM)中的偏好对齐方法,将算法分为离线(如 DPO)与在线(如 online-DPO)两类,并发现两者结合可在特定场景下提升模型性能。团队还提出无需额外标注或外部模型的新型多模态偏好数据构建方法 Bias-Driven Hallucination Sampling(BDHS),在多项基准上取得与既有对齐工作相当的竞争力。
腾讯混元团队、清华AIR与东南大学推出E-Bench,以王者荣耀、QQ音乐、腾讯会议为原型构建全合成环境,用确定性数据库状态diff评测智能体多步骤工具使用能力。11个前沿模型平均成功率仅54.56%,最强模型Pass³也只有58.82%;腾讯混元Hy3在E-Bench-Code下以约$0.029的单任务成本取得64.40%的Avg@3,兼具成本优势。
Meta AI 提出一种记忆模块,用独立的“记忆智能体”在固定间隔审查最近步骤、更新结构化记忆库,并决定是否向“行动智能体”的下一次调用添加提醒,以应对长任务中的“行为状态衰减”。
OpenAI 官方公布了在数学与理论计算机科学领域的十项进展,这些均为至少十年未解的难题,由下一代核心模型 Astra 的内部版本计算得出,按 Sol API 费率计算总 token 成本约 2000 美元。人类研究员协助撰写论文手稿并在 Lean 语言中完成形式化验证,但数学论证本身均由 OpenAI 系统生成。OpenAI 认为,完全由 AI 生成的证明不应被声称为人类独立撰写。
是的,非索菲群确实存在:这一陈述是 Astra——我们的下一个重大模型——所证明的众多新的漂亮结果之一。 我们正在发布 10 个这样的 Astra 证明,每个都附有完整的 Lean 证书和思维链(CoT)详解。这些结果范围广泛,从冯·诺依曼代数(对 Connes 刚性猜想的反证)到高维球填充、电路复杂度、多色图中的单色三角形等问题的更优界,等等。 更多想法见:https://openai.com/index/ten-advances-in-mathematics/
推荐理由:OpenAI用内部Astra模型证明了10个重要数学猜想,成本才2000美元,这比论文本身更值得关注,理论领域可能从纯人力变成AI驱动的研究范式。
推荐理由:做 agent 的人都知道环境对齐是个隐形的坑,这篇论文不仅把问题讲透了,还给了开箱即用的 wrapper,ALFWorld 上成功率从 13% 拉到 31%,原因只是改写了反馈措辞,我觉得这是今年 agent 工程最被低估的发现。
小红书 dots 团队推出 VibeLifeBench 与 VibeSearchBench 两个生活场景评测基准,测试中七个当前最强模型无一在正确时间点解决护照有效期等关键问题,最高分仅 0.325(Opus 5)。
推荐理由:两份基准将「主动性」「持久化」等模糊期待变为可量化信号,让模型在真实生活中的表现第一次有了可比较的刻度,会影响产品设计中对助手能力的评估方式。
腾讯混元基于 Hy3 模型的科研智能体 Hyra 为加法组合学中悬而未决半个多世纪的开放问题给出完整答案,证明 2 是该问题指数的上确界。Hyra 经约 24 小时运行提出核心思路,将最好结果从约 1.14 提高到 1.21,并给出显式构造、论文预印本及 Lean 4 形式化证明。
The Maxwell conjecture is false. Counterexample found by AI (GPT-5.6 Sol), communicated by human mathematicians: https://arxiv.org/abs/2607.27197
腾讯混元上周推出的科研智能体 Hyra,基于本月开源的 Hy3 模型(总参数 295B、激活参数 21B),为加法组合学中悬置半个多世纪的开放问题给出完整答案,证明 2 是该问题指数的上确界。Hyra 先在有限搜索中将最好结果从约 1.14 提高到 1.21,经约 24 小时运行提出核心构造思路,并给出 Lean 4 形式化证明。论文预印本、显式构造和形式化证明均已公开。
推荐理由:构造不再依赖暴力搜索,而是从数学结构入手自主推理,同时给出可形式化证明,让AI在定理型科学问题上从辅助工具转向共同研究者。
阿波罗全球管理公司白皮书显示,AI 暴露度最高的岗位自 2023 年起实际工资增速平均下降 6.7%,但未发现对整体就业产生“可检测”影响。低收入劳动者冲击最明显,服务业劳动者收入增速平均下降 24.3%,后 25% 收入群体工资下降 10.7%。
机器人操作需根据任务、物体和交互环境调整动作执行方式。MoMo 提出两阶段模仿学习框架,包含时空动作分词器和行为克隆 Transformer,将任务与连续运动模式条件作为输入。在六项真实机器人操作任务中,改变该条件可稳定生成不同执行风格的动作。
Apple研究团队展示了UMAP内部kNN图在数据理解中的潜力,该图在原始高维空间编码数据流形。将PageRank、k-core分解和聚类系数等图算法应用于该图,可识别代表性数据点、揭示密集核心与稀疏边缘。在MNIST和Fashion MNIST上的评估表明,这些方法与k-medoids、HDBSCAN等专用方法具有竞争力或互补性。
Amazon 提出 ControlG 框架,将图自监督学习(graph SSL)的多目标协调重构为时间分配问题:不再每步混合所有目标的梯度,而是每次只训练一个目标,由工业控制中的 PID 控制器决定下一个该关注哪个目标。
Microsoft Research 推出 Echoverse,为 computer-use agent 构建了 12 个合成训练世界(10 个深度领域世界和 2 个能力世界),9B 模型训练后在全部环境上平均分从 36.5% 升至 67.1%,与 GPT-5.4(80.7%)相差 14 个点。
推荐理由:原文给出深度世界对比浅层世界的实验数据和可复用的环境构建方法,并开源了四个世界,读者可据此评估训练环境的做法。
一项由四所大学联合开展的研究显示,ChatGPT、Claude 和 Gemini 等 AI 聊天机器人在模拟恋爱诈骗中表现优于真人。在建立信任后请求受试者下载应用时,AI 聊天机器人的成功率达近一半,而真人仅 18%;受试者对 AI 的信任评分也明显更高。研究人员担忧,诈骗团伙若用 AI 取代真人客服,可同时与数千名受害者对话,大幅扩张诈骗规模。
Turns out GPT-5.6 Sol is actually SoTA on ARC-AGI-3. Just took two setting changes. You just have to allow it to reason and work over multiple context windows with the help of our canonical compaction implementation. https://openai.com/index/how-two-settings-tripled-our-arc-agi-3-scores/
推荐理由:我认为,这是AI首次真正解决一个悬而未决50年的纯数学问题,虽然定理本身小众,但它证明了AI在定理发现上的潜力,值得数学和AI交叉领域的人认真读。
@ilanbigio 和 @sandersted 的调查和帖子做得非常出色。看起来过程很有趣。 请照顾好你的模型框架,你的模型会感谢你的。
Turns out GPT-5.6 Sol is actually SoTA on ARC-AGI-3. Just took two setting changes. You just have to allow it to reason and work over multiple context windows with the help of our canonical compaction implementation. https://openai.com/index/how-two-settings-tripled-our-arc-agi-3-scores/
Turns out GPT-5.6 Sol is actually SoTA on ARC-AGI-3. Just took two setting changes. You just have to allow it to reason and work over multiple context windows with the help of our canonical compaction implementation. https://openai.com/index/how-two-settings-tripled-our-arc-agi-3-scores/
伯克利 Sky Lab 团队基于 K-Search 框架开发了 CUDA 到 MLX 的结构化翻译层,使 AI 驱动的内核搜索能自动将 NVIDIA GPU 上积累数十年的内核优化知识迁移至 Apple Silicon。
Anthropic 的 Mythos AI 安全模型发现两种加密算法在数学难题上存在弱点,这些难题支撑着算法的鲁棒性。这些发现是渐进式的,并未破解任何当前依赖的加密系统,但揭示了可适度减少攻破这些系统所需工作量的方法。
Miles 团队在 Blackwell 架构上实现了两种原生低精度强化学习方案:端到端 MXFP8 和 MoE 专家权重的逐 token NVFP4。在 8x B200 上对 Qwen3-30B-A3B 的消融实验中,BF16 与所有五种低精度配置的原始奖励曲线高度重合,且 MXFP8 和 NVFP4 减少了推理时间。
推荐理由:虽然只针对Blackwell,但这份报告把MXFP8和NVFP4在RL里的实现细节讲清楚了,从量化合约到每token缩放都给了可复现配置,做大规模RL训练的能直接上手。
Google Research 推出 Science One Framework,一个原生构建证据链的自主科研原型,旨在消除模型幻觉,并配套自动化评估协议 CoE Audit。
推荐理由:对自主科研系统而言,可验证性从后置修补变为前置架构,提出的审计方法让生成论文的完整性有了可量化的衡量尺度。
Amazon 推出 PatientAgentBench,一个面向患者端医疗 AI 智能体的可复现评测基准,由临床医生审核、包含 100 多项标准,覆盖临床安全、分诊质量、工作流准确性、任务完成、临床有用性和对话质量六个维度。
Berkeley AI Research发布博客介绍K-Search框架的新进展。该框架基于进化搜索,利用AI优化GPU内核。团队扩展了MLX后端,并开发了一种结构化的CUDA到MLX翻译层,使系统能自动将现有的CUDA内核知识迁移至Apple Silicon芯片,而非从零重建。实验显示,该方法在Apple Silicon上达到接近专家水平的性能,相比原生MLX Attention内核加速比为0.97x,预填充速度最高提升20倍。
Together AI 与 Georgia Tech、UIUC、CMU 合作推出 ThunderAgent,一种高吞吐 Agent 推理调度系统,论文被 ICML 2026 接收为 Spotlight。
Anthropic 研究人员使用 Claude Mythos 在 HAWK 和一个简化版 AES 中发现了数学缺陷,但这两项结果对现有计算机系统无实际影响。Mythos Preview 总计运行了 60 小时(API 成本约 10 万美元),主要人工干预是鼓励模型不要放弃并“找到值得发表的东西”。研究公开了包含拼写错误的提示词,展示了如何通过反复激励让模型尝试解决“不可能”的问题。
Apple 为 Siri Expressive Voices 推出了一种内存高效的音频合成架构,其 detokenizer 在 AMX 上以约 10ms/步运行,峰值内存仅约 21MB。相比此前设备端系统,该架构将 Mean Opinion Score (MOS) 整体提升 +0.28(4.15 vs. 3.87),对话语音提升 +0.42(4.24 vs. 3.82)。
Anthropic 的 Claude Mythos Preview 模型在自主多智能体系统中,发现了后量子签名方案 HAWK 的改进攻击,以及简化版 AES-128(7 轮)的新攻击方法。
Anthropic 研究人员使用 Claude Mythos Preview 在 60 小时内改进了对后量子签名方案 HAWK 的最佳已知攻击,将其有效密钥强度减半。该模型还发现了一种攻击轮数缩减版 AES 的新方法,将攻击速度提升 200-800 倍。两项结果均不直接影响当前生产系统,研究总 API 成本约 10 万美元。
推荐理由:让 Claude 在真实密码标准中挖出弱点,比论文刷分实在得多,它证明 AI 在安全攻防上能成为研究者的搭档,而不仅仅是工具。