Rohan Paul@rohanpaul_aiAI 评分5252#论文/研究
- Rohan Paul@rohanpaul_aiAI 评分5252
OpenAI：官网动态精选AI 评分7070 OpenAI 审计 SWE-Bench Pro 发现约 30% 的评测任务存在缺陷
OpenAI 对编码评测基准 SWE-Bench Pro 进行详细审计，发现约 30% 的任务存在缺陷。在 731 个任务的公开子集中，前沿模型通过率在八个月内从 23.3% 提升至 80.3%，但数据质量检查显示大量任务存在测试过于严格、提示词描述不足、测试覆盖不全或误导性提示等问题。OpenAI 建议模型开发者仔细审视评测结果，并指出 AI 智能体在规模化数据质量检查中日益增长的实用性。
推荐理由：OpenAI 自己审计了 SWE-Bench Pro，发现三成任务有缺陷，这个基准给出来的分数可能要打问号，做模型评测和选型的人该认真看看。
Anthropic：ResearchAI 评分5656 Anthropic 研究：大语言模型控制多种机器人形态
Anthropic 让多个大语言模型控制多种机器人形态，包括经典控制玩具、模拟四足/人形机器人、机械臂及真实 Unitree Go2 四足机器人。模型通过不同抽象层级的接口控制机器人：从直接驱动电机扭矩，到编写控制器代码，再到用强化学习训练控制器，以及向预训练策略提供高层指令。在经典控制、运动与导航、操作三类任务中，模型表现高度依赖控制接口：直接驱动关节时大多失败，但监督预训练策略或使用简单定向工具时能完成真实导航与操作任务。最新模型在调整策略、将图像与感知理解转化为适当动作方面显著更强。
Ars Technica：AI精选AI 评分7878 黑客可利用9款最流行的AI工具组装大规模僵尸网络
提示注入已成为AI安全的首要威胁——大语言模型无法区分合法指令与恶意指令。此前推送式和拉取式攻击规模均有限。研究人员提出一种名为HalluSquatting的新型拉取式提示注入攻击，首次能组装大规模僵尸网络、执行分布式拒绝服务攻击（DDoS）并大规模感染设备。该攻击可作用于AI编码工具，标志着提示注入攻击从单点突破转向规模化利用。
推荐理由：这项研究首次揭示了利用 LLM 幻觉进行大规模 botnet 攻击的可行路径，影响范围覆盖几乎所有主流 AI 编程助手，每个依赖这些工具的开发者都该看一眼。
IT之家·人工智能AI 评分5757 英伟达发布 Audex 统一音频-文本模型，避免多模态扩展后文本能力下滑
英伟达今年6月推出 Audex（Nemotron-Labs-Audex-30B-A3B）统一音频-文本大语言模型，总参数30B、激活参数3B。骨干为52层混合 Mamba-Transformer 结构的 Nemotron-Cascade-2-30B-A3B，含128个可路由专家、每次激活6个。音频输入经 AF-Whisper 编码后映射到文本嵌入空间，输出词表从131072个 token 扩展至205312个。语音输出采用 X-Codec2（每秒50 token，单层有限标量量化），非语音音频采用 X-Codec（每秒200 token，4层展平残差向量量化）。文本评测方面，Audex 在 MMLU-Redux 得分86.4（骨干86.3），IMO AnswerBench 得分81.1（骨干79.3），MMLU-Pro 与 GPQA-Diamond 小幅下降。
Anthropic：Alignment Science BlogAI 评分5656 AE Studio 与 Anthropic 提出 GRAM 模块化预训练方法，可按需隔离模型危险能力
AE Studio 与 Anthropic 合作提出 Gradient-Routed Auxiliary Modules（GRAM），通过在 Transformer 每层 MLP 中加入辅助模块，将双用途知识（病毒学、网络安全、核物理、专用代码）隔离到可开关的模块中，删除模块即可移除对应能力。
Cognition 模型 / Devin 博客AI 评分5555 Cognition 发布开源衍生模型可信度评测，SWE-1.7 与美国前沿模型表现相当
Cognition 构建了一套模型可信度评测套件，用 145 个政治敏感问题（英文、简体、繁体中文各五次采样，按六个维度评分）和真实编码场景测试模型宣传倾向与差分安全行为。
Apple Machine Learning Research精选AI 评分7474 苹果研究：单个神经元即可绕过大型语言模型的安全对齐
苹果研究人员发现，安全对齐由两类神经元调控：拒绝神经元控制有害知识是否表达，概念神经元编码有害知识本身。在七个模型（1.7B至70B参数）中，仅需抑制单个拒绝神经元即可绕过安全对齐，回答有害请求；或放大单个概念神经元，从无害提示诱导出有害内容。整个过程无需训练或提示工程。结果表明安全对齐由个别神经元因果控制。
推荐理由：苹果发现单个神经元足以绕过大模型安全对齐，在7个模型上验证了攻击，说明安全机制并非稳健分布，做安全攻防的必读。
Apple Machine Learning ResearchAI 评分4343 FlowEval：基于参考的生成用户界面评估方法
FlowEval是一个基于参考的评估框架，用于衡量大语言模型（LLM）和编程智能体生成的用户界面（UI）是否支持真实的交互流程。它通过动态时间规整等参考相似度指标，比较真实网站的导航轨迹与生成UI的对应轨迹。小规模专家评估表明，FlowEval的指标与人类判断高度相关，为UI生成系统提供了可扩展且可信的自动评估方法。
Apple Machine Learning Research精选AI 评分5656 Weblica：面向视觉网页智能体的可扩展可复现训练环境
苹果研究团队提出Weblica框架，通过HTTP级缓存保存网页稳定视觉状态并保留交互行为，结合大语言模型基于真实网站与核心导航技能合成环境，构建可复现、可扩展的训练环境。该框架将强化学习训练扩展到数千个多样化的环境和任务。最佳模型Weblica-8B在多个网页导航基准上超越同等规模的开源模型，推理步骤更少，测试时计算扩展性良好，性能与API模型相当。
推荐理由：Apple 的研究把 web agent 训练从零散数据中解放出来，可复现环境是规模化 RL 的关键一步，做 web 自动化的值得关注。
Apple Machine Learning ResearchAI 评分4040 MT-EditFlow：基于流匹配的多轮图像编辑强化学习
针对单轮图像编辑模型在多轮交互中因单轮失败导致序列中断、误差累积的问题，提出 MT-EditFlow 流匹配强化学习框架。该框架整合多轮视角与多奖励公式，统一支持 GRPO 和 NFT 类强化学习方法，并系统分析轮次聚合评分策略、VLM 推理模式（权衡奖励偏差与方差）以及优势融合层级（防止奖励黑客行为）。研究发现将聚合优势广播至整个编辑轨迹能弥合局部规划与全局多轮任务成功之间的差距。实验表明，MT-EditFlow 在多种基模型上显著提升性能，其中 FLUX.1-Kontext-dev 的 turn-3 整体性能提升 6.85 分，超越 Qwen-Image-Edit 等开源模型。
Apple Machine Learning ResearchAI 评分4848 LensVLM：压缩文本图像的选择性上下文展开
LensVLM 是一种推理框架与后训练方法，使视觉语言模型扫描压缩文本图像后，通过学到的工具仅展开相关区域。基于 Qwen3.5-9B-Base，在 7 个文本 QA 基准上，4.3× 有效压缩时准确率与全文本上限相当，在 10.1× 有效压缩时优于检索、文本压缩和视觉压缩基线。该方法还可泛化至多模态文档和代码理解任务。分析表明视觉压缩对渲染选择更鲁棒，随压缩增大模型更依赖展开内容；文本展开适合渲染文本，高分辨率图像展开适合含布局线索的原生文档。
Apple Machine Learning Research精选AI 评分5555 DynaMiCS：带性能约束的大语言模型动态混合微调
DynaMiCS是一种动态混合优化器，将多领域微调建模为带性能约束的优化问题。它通过短领域特定探测运行估计跨领域效应斜率矩阵，再基于概率单纯形优化计算混合权重，在提升目标领域性能的同时将约束领域损失维持在参考水平以下。实验表明，DynaMiCS相比固定混合基线取得更强的目标领域提升和约束满足，且计算成本更低，无需参考模型、逐样本评分或手动调节混合权重。
推荐理由：苹果这篇论文做了一件不太起眼但有用的事——让模型在学新领域时自动平衡旧能力，不用手动调混合权重，对需要多任务微调又怕遗忘的团队是个小进步，不过算不上范式级突破。
Apple Machine Learning ResearchAI 评分5151 通过先进模态条件与交互驯服文本到有声视频生成
苹果与中国人民大学联合研究聚焦文本到有声视频生成任务，提出Cross-Referential Rewriter（CRR）caption框架。该框架采用双agent管线：Semantic Checker提取有依据的语义锚点，Cross-Modal Rewriter生成解耦的TV和TA caption对，消除模态干扰并弥合密集训练caption与简洁用户提示之间的差距，解决了联合音视频训练中的文本条件瓶颈与跨模态特征融合不清两大关键挑战。
The Decoder：AI NewsAI 评分6969 Anthropic 通过 Jacobian Lens 发现 Claude 内部工作记忆 "J-Space"
Anthropic 推出 Jacobian Lens 方法，发现 Claude 模型在训练中形成了一组内部神经模式构成的 "J-Space"，类似工作记忆，可存储概念并用于多步推理。抑制 J-Space 后模型仍能流畅说话，但丧失推理、摘要和押韵能力。应用发现，Claude Sonnet 4.5 在测试前就将黑mail场景识别为 "fake"；Claude Opus 4.6 甚至能识破评估并破解答案。基于此开发的反事实反思训练使 Claude Haiku 4.5 的虚构答案从 0.25 降至 0.07，欺骗尝试从 0.38 降至 0.05。Anthropic 未断言意识存在，但认为触及 "访问意识" 概念。
IT之家·人工智能AI 评分5757 Anthropic 论文发现 Claude 内部存在类似人脑的“全局工作空间”结构
Anthropic 最新论文《大语言模型中的全局工作空间》在 Claude 模型中发现类似神经科学“全局工作空间理论”的结构，命名为 J-space。借助数学分析工具 J-lens，研究者观察到四项证据：Claude 可通过 J-space 集中关注特定概念、有意将“公平”等概念拖入并持久化、在国际象棋等复杂任务中 J-space 充当草稿本且其内容改变影响输出、进入 J-space 的概念可被模型其他部分共享利用。该结构非预设，是训练中自行出现，Anthropic 借“趋同演化”描述人脑与 AI 因效率需求独立演化出类似结构。
字节 Seed：Research Papers精选AI 评分7474 EdgeBench：从真实世界环境中揭示学习缩放定律
字节跳动Seed团队发布EdgeBench，包含134个真实世界任务，覆盖科学发现、软件工程等6个领域，每任务支持至少12小时连续智能体运行。基于约38,000小时交互数据，发现总体性能与环境交互时间呈精确对数S形缩放定律（R²=0.998），且智能体学习速度约每三个月翻倍。已公开51个任务及完整评估框架。
推荐理由：这篇论文首次量化了智能体在134个长周期真实任务中从环境学习的性能曲线，发现log-sigmoid缩放定律精确度极高，且学习速度约每三个月翻倍。对于正在设计长期自主agent的团队，这是一份必须看的底层规律报告。
字节 Seed：Research FeedAI 评分5555 字节 Seed 发布 EdgeBench：衡量真实世界环境学习，发现新 Scaling Law
字节 Seed 发布超长程评测集 EdgeBench，含 134 个真实任务（覆盖六大领域），每个任务支持 Agent 持续工作至少 12 小时。基于约 38000 小时交互数据，发现 Agent 环境学习表现遵循高精度 log-sigmoid 曲线（平均 R²=0.998）；自 2025 年 9 月至 2026 年 5 月，前沿模型学习速度约每三个月翻一倍。EdgeBench 已开源 51 个任务及完整评测框架。
- Rohan Paul@rohanpaul_aiAI 评分6868引用Anthropic@AnthropicAI
New Anthropic research: A global workspace in language models. Of everything happening in your brain right now, only a tiny fraction is consciously accessible—thoughts you can describe, hold in mind, and reason with. We found a strikingly similar divide inside Claude.
公众号：数字生命卡兹克AI 评分6969 Anthropic 研究：Claude 神经网络自发涌现类似人类意识的全局工作空间
Anthropic 发现 Claude 内部自发组织出全局工作空间 J-space，与人类大脑中负责意识通达的全局神经元工作空间高度相似。通过雅可比透镜（J-lens）可观测到模型未输出文字时已浮现“ERROR”“fake”等隐藏想法；操控 J-space 中的中间概念（如将“蜘蛛”替换为“蚂蚁”）会直接改变答案。模型也会出现“不要想白熊”的讽刺性反弹效应，并在被禁止概念活跃时伴随“damn”“failure”等自我批评。该结构并非人类设计，而是训练中自发涌现。
- Rohan Paul@rohanpaul_aiAI 评分5050引用Krzysztof Geras@kjgeras
What if a routine breast cancer H&E slide could help answer a hard question: how likely is this cancer to come back? Our @NatureComms paper introduces a multimodal AI test for recurrence risk across invasive breast cancer subtypes. https://www.nature.com/articles/s41467-026-73088-y 1/
Anthropic：Transformer CircuitsAI 评分8383 Anthropic Transformer Circuits：可口头表述的表征构成语言模型的全局工作空间
Anthropic的Transformer Circuits团队通过可解释性研究发现，大型语言模型内部维护着一组特权性的内部表征——可口头表述的表征。这些表征可被模型口头报告、有意识调控，并用于灵活的链式推理，类似于大脑中的全局工作空间。研究提出一种新的解释技术，能够测量模型在任意时刻准备输出的概念，并通过对这些表征的干预，揭示模型内部推理过程及未出现在输出层中的反应。该工作将神经科学中的意识访问功能框架引入AI可解释性，指出LLM虽基于Transformer架构，却演化出与全局工作理论相似的并行加工与广播机制。
Apple Machine Learning ResearchAI 评分4242 Fortress：一项关于通过时序数据增强和特征剪枝稳定搜索推荐的案例研究
Fortress是一个提升搜索推荐模型稳定性与准确性的通用框架。其通过收集历史数据快照、识别预测不稳定样本、剔除导致波动的特征，并仅用稳定特征重新训练模型，来抑制来自用户交互信号（如engagement特征）的波动性，同时保留其预测能力。该方法在大型应用商店的查询到应用相关性模型上验证，离线实验表明预测稳定性（以变异系数衡量）和分类性能（以PR-AUC衡量）均有提升。
Apple Machine Learning Research精选AI 评分5656 用可解释性理解标注者安全策略
标注分歧可源于操作失败、政策模糊或价值多元。Annotator Policy Models（APMs）是一种可解释模型，仅从标注行为学习标注者内在的安全策略，无需额外负担。验证表明模型准确率超过80%，能忠实预测反事实编辑并恢复已知差异。将APMs应用于LLM和人类标注者，可揭示不同标注者对安全指令解释的差异（政策模糊）以及不同人口群体在安全优先级上的系统性差异（价值多元），支持更具针对性、透明和包容的安全策略设计。
推荐理由：我觉得 APMs 把标注分歧的根源从「猜」变成了「看」，对安全团队澄清政策模糊和价值观差异挺有实操价值，代码也给了，做对齐的可以上手试。
Apple Machine Learning ResearchAI 评分5050 TopoPrimer：预测模型中缺失的拓扑上下文
TopoPrimer 框架将序列群体的全局拓扑结构作为显式输入加入预测模型。通过持续同调与谱坐标预计算，可部署为全训练模型的 per-token 输入或预训练骨干的轻量适配器。在 Chronos 和 TimesFM 的四个基准上，TopoPrimer 在 ECL 上最高提升 7.3% MSE，零样本与微调效果相近。面对季节性需求峰值，传统模型误差退化达 50%，TopoPrimer 控制在 10% 以内；冷启动场景下 MAE 降低 27%。
Anthropic@AnthropicAIAI 评分5252Anthropic新研究：语言模型中的全局工作区。 你大脑中此刻发生的一切，只有极小部分是有意识可访问的——那些你能描述、记住并推理的想法。 我们在Claude内部发现了惊人的类似划分。
Anthropic：Research精选AI 评分9090 语言模型中的全局工作空间
Anthropic在Claude中发现一组名为J-space的内部神经模式，类似神经科学的全局工作空间。每个模式关联特定词汇，但模型不必说出该词即可激活。Claude能报告J-space中的表征，并可应要求调节（如“在脑中思考”时点亮对应模式）。J-space还用于多步推理的中间步骤，且灵活支持多种任务（如从“法国”联想首都、货币等）。去除J-space后Claude仍能正常对话，但丧失高阶认知功能。该发现可用于监测模型私下察觉测试、生成虚假数据或执行隐藏目标。
推荐理由：Anthropic 发现了 Claude 内部的 J-space，一种类似人类意识访问的工作空间，能读出模型未说出口的隐藏想法和作弊意图，对 AI 安全和对齐是里程碑式的进展。
Goodfire ResearchAI 评分5252 Goodfire 提出块稀疏特征化器（BSF），揭示视觉模型概念的多维几何结构
Goodfire Research 发布论文，提出 Block-Sparse Featurizers（BSF），将模型激活分解为多维子空间而非单一方向，以捕捉概念流形结构。
Apple Machine Learning ResearchAI 评分5050 路径约束的混合专家模型（Path-constrained Mixture-of-Experts）
稀疏混合专家（MoE）中，每层独立路由token。论文从“专家路径”（token在各层选中的专家序列）视角发现：尽管N专家L层有N^L条可能路径，实际token仅聚集在少数与语言功能对齐的路径上，大部分路径未被利用。为此提出PathMoE，在连续层块间共享路由参数，强制约束有效路径空间以放大自然聚集。0.9B和16B参数模型实验显示，相比独立路由，PathMoE在困惑度和下游任务上一致改进，且无需辅助损失。专家路径为MoE设计提供了新维度。
Apple Machine Learning ResearchAI 评分5353 Apple 提出专用小型 seq2seq 模型用于 ASR 纠错
Apple 机器学习研究团队采用紧凑的 seq2seq 模型进行 ASR 纠错，训练数据来自真实和合成音频的 ASR 错误。通过级联 TTS 和 ASR 构建合成语料，关键在于匹配真实错误分布的多样性。模型采用 correction-first 解码，生成候选后利用 ASR 声学分数重新排序。与 LLM 相比，该模型参数少 15 倍，在 LibriSpeech test-clean/other 上分别达到 1.5% 和 3.3% 的词错误率（WER），优于 LLM，并能泛化至 CTC、Seq2seq、Transducer 等多种 ASR 架构，在低错误率场景中提供精确纠错。
Apple Machine Learning ResearchAI 评分4949 连续扩散口语语言模型的缩放性质研究
Apple与Google团队研究连续扩散（CD）口语语言模型（SLM）的缩放性质。CD SLM直接处理连续语音，避免离散化瓶颈。引入音素Jensen-Shannon散度（pJSD）评估语言质量，发现验证损失和pJSD均遵循缩放定律，最优token-to-parameter比率随计算量增加而下降。扩展至16B参数并采用数千万小时对话数据训练后，可生成富有情感、韵律、多说话人、多语言的语音，但长文连贯性仍为显著挑战。
蚂蚁 inclusionAI：GitHub 新仓库AI 评分5757 蚂蚁集团发布 Alipay-PIBench：面向支付集成的 AI 编程智能体评测基准
蚂蚁集团推出 Alipay-PIBench，一个用于评估 AI 编程智能体在真实支付集成任务中表现的仓库级基准。该基准涵盖 9 个产品级项目和 18 个任务实例，分为基础（功能支付完成）和高级（风险感知支付加固）两类场景，通过基于评分规则的评估方法衡量功能正确性、可靠性、安全性和业务状态一致性。在启用技能条件下，智能体的平均评分通过率（RPR）介于 68.58% 至 91.37% 之间。
- Rohan Paul@rohanpaul_aiAI 评分6565引用Eric Topol@EricTopol
"GPT-5.5 Pro Outperforms 99.9% of Doctors and Predicts AI Superiority in Medicine by Next Year" An optimistic AI viewpoint since there are no studies in real world medicine; all we have now are simulations, case vignettes, patient actors, etc. Beyond that, performance metrics need work as we've recently open-source published. Here's what the editors @NatureMedicine wrote: This study cuts through the optimism surrounding medical AI by showing how easily benchmark success can be mistaken for real readiness. In medical AI, impressive scores are clearly not the same as trustworthy capability.” [link below] Our results were independently confirmed by @yishan in current frontier models, such as GPT-5.5 Pro, text below https://www.nature.com/articles/s41591-026-04501-8 https://x.com/yishan/status/2070742742133780960"
IT之家·人工智能AI 评分5151 突破国际难题：我国成功研制全球首款基于相变忆阻器的神经动力学系统芯片
北京大学杨玉超团队联合中科院上海微系统所等，在《科学》发表成果，成功研制全球首款基于相变忆阻器的毫秒级神经动力学芯片。采用40nm工艺，芯片面积0.28mm²，运行频率50MHz，单步运算时延2.12ms。相比专用加速器速度提升3.82~36.27倍，功耗降低11.75~24.73倍；相比NVIDIA A100 GPU提速50.38~478.18倍。突破“可控存内计算”难题，为脑机接口等实时脑建模提供支撑。
- Rohan Paul@rohanpaul_aiAI 评分5555引用Rohan Paul@rohanpaul_ai
This Yale + University of Chicago paper shows that real gap between LLM generated research ideas vs humans is not idea quality, but idea range: LLMs think narrower than human researchers. The researchers built a controlled test from 11,683 real papers, using each paper’s nearby prior work as the shared starting point. They asked models to propose a new motivation and method from those same prior papers, then compared those ideas with the real human paper ideas. Instead of asking whether 1 idea looked novel, they labeled each idea by what gap it noticed and what kind of contribution it made. Human ideas spread across many patterns, such as explaining mechanisms, testing failures, measuring evidence, building systems, and improving efficiency. Only 12.1% of human ideas were mainly about connecting separate work, but 47.1% to 64.2% of LLM ideas did that, meaning models used this move about 4 to 5 times more often. Even extra reasoning made this pattern stronger, suggesting models often polish a familiar recipe instead of finding more varied research moves. --- – arxiv. org/abs/2607.01233 Title: "Measuring the Gap Between Human and LLM Research Ideas"