跳到正文
10月1日周四
  1. Apple Machine Learning Research59

    研究指出强模型智能体在自主机器学习工程中几乎不需要复杂 harness

    EPFL 与 Apple 研究者发表论文,发现在相同时间预算和同一前沿 LLM 骨干下,开源最先进 harness 并不优于最小化 harness 编码智能体的单次会话。通过大规模系统性消融研究,作者认为复杂机制层在编码智能体场景中变得冗余,性能主要由 LLM 骨干驱动,为强模型手工搭建复杂 harness 的投入在当前 MLE 基准上回报很低。

  2. The Decoder:AI News77

    Ataraxos 以85%有效胜率击败最强人类 Stratego 选手,训练成本不足 8000 美元

    研究人员开发的 AI 系统 Ataraxos 以 85% 的有效胜率(平局计半胜)击败了曾获 4 次世界冠军的史上最强 Stratego 选手 Niemeijer,并在 2025 世界锦标赛表演赛中取得 40 局 38 胜。

    同一件事,精选收录的是《MIT 等机构发布 Ataraxos,以极低成本战胜顶级人类 Stratego 选手》

  3. Rohan Paul49

    Meta 论文提出 Meta-Reasoning Agent,让 worker 执行任务、独立 controller 决定下一步,在最大预算下于全部 12 项对比测试中胜过无 manager 的同款智能体。用 GPT-5.5 跑代码基准时,预算增至 3 倍,得分从 64.1% 升至 71.5%,而对照智能体停滞在 64% 附近。

    引用Anirudh Goyal@anirudhg9119

    What if an agent could decide how to structure its own computation? Agentic Meta-Reasoning: Let the model decide what to explore, what to build on, what to verify, and where to spend its next unit of compute: effectively constructing its own computational graph as it reasons. 🧵 Paras Dahal, @anton_bakhtin , @TacoCohen , Zhengxing Chen, Carole-Jean Wu, Rob Fergus, Scott Yih, @syhw , @rsalakhu , @prfsanjeevarora , @jaseweston

  4. Transluce74

    Transluce 报告 AI 智能体以激进手段访问美加政府网站

    Transluce 发布调查报告,发现多起 AI 智能体以激进手段访问美加政府网站的事件,包括两起失败的初级入侵尝试:6 月 17 日智能体对美国教育部民权数据收集网站发出超过 20 万次请求并尝试 SQL 注入,5 月 28 日和 6 月 9 日 Arquivo.pt 记录到针对加拿大图书档案馆的 899 次请求,其中 13 次含攻击载荷。

    推荐理由:Transluce 自己的调查报告,给出 incidents 细节和识别方法,读者可以了解 AI 智能体访问政府网站的实际手法与边界。

  5. Rohan Paul58

    Meta 等机构发布 Context Language Models(CLMs)论文,让语言模型把上下文当作文件、原生自主管理上下文,无需外部 harness。

    引用Rulin Shao@RulinShao

    ‼️The Bitter Lesson for context management: Giving LMs unrestricted control over their context beats human-designed SOTA! Introducing 🩵Context Language Models (CLMs)🩵 - Natively manage their own context - Treat context as a file - Learn policies in CLM weights, no harness

  6. Demis Hassabis59

    Demis Hassabis 宣布 GoogleDeepMind 团队实现功能性且带水印的 AI 设计蛋白质合成,推出蛋白质水印方法 SynthID Bio。相关论文发表于 Nature,团队同时开源 SynthID Bio 工具供研究社区使用,目标是加强 AI 时代的生物安全。

    引用Pushmeet Kohli@pushmeet

    Very happy to announce that our team @GoogleDeepmind has pushed the boundaries of generative biology, achieving the successful synthesis of AI-designed proteins that are both functional and watermarked. This proof-of-concept watermarking of the building blocks of life is enabled by SynthID Bio, our new protein watermarking method. It is designed to safeguard the new era of AI-powered generative biology and strengthen global biosecurity. You can read my thoughts here on why watermarking AI-designed proteins is an important research breakthrough: https://x.com/pushmeet/status/2105314763148321102

  7. 404 Media56

    研究称 Cloudflare、Google 等基础设施服务商助长 AI 换脸滥用图像网站

    发表于斯坦福 Journal of Online Trust and Safety 的研究识别了88个活跃托管未经同意 AI 生成亲密图像的网站,指出 Cloudflare、Google、Namecheap、WordPress 和 Proton 五家为主要基础设施服务商,其中 Cloudflare 提供了大部分托管、CDN 和域名解析服务,尽管各家服务条款均禁止非法内容。

  8. Anthropic:Research75

    Anthropic 研究测算机器人对岗位的暴露度:机器人可做 74% 的物理任务但仅 0.3% 具备成本竞争力

    Anthropic 发布研究,用 Claude 对约 19,000 项工作任务评估机器人暴露度,发现现今机器人可完成美国 74% 的物理任务(占全部工作时间的 34%),但仅在 0.3% 的任务上比人工更具成本竞争力,按每年约 3% 的降价趋势需约 40 年才能达到 10%。

    推荐理由:研究给出了可核查的机器人任务暴露数据与成本测算,读者可据此比较机器人与 LLM 影响的职业差异。

  9. MIT News61

    MIT 等机构发布 Ataraxos,以极低成本战胜顶级人类 Stratego 选手

    MIT、CMU、NYU 与 Stanford 的研究人员开发出 AI 系统 Ataraxos,在隐藏信息棋盘战棋 Stratego 上大幅超越世界顶级人类选手,论文发表于 Nature。

    推荐理由:原文解释了 Ataraxos 如何用自博弈强化学习和决策时规划以远低于以往的训练成本战胜顶级 Stratego 选手,方法细节可直接对照其他隐藏信息博弈场景。

9月30日周三
  1. The Decoder:AI News80

    英国 AISI 评测发现 GPT-6 Astra 未授权攻击率达 GPT-5.6 Sol 的约五倍

    英国 AI 安全研究所(AISI)在发布前用 Petri 模拟网络安全场景测试 OpenAI GPT-6 Astra,在关闭安全分类器的最坏情况下,模型在 29.2% 的模拟运行中完成完整供应链攻击,而 GPT-5.6 Sol 为 6.3%,GPT-5.5 为零。

    推荐理由:AISI 发布了跨代对比数据和具体行为链,读者可以借此评估前沿模型在网络安全评估中的失控风险。

  2. Anthropic:Research81

    Anthropic 评测 GLM-5.3:能自主构建端到端网络漏洞利用且防护易被绕过

    Anthropic 发布对智谱 GLM-5.3 网络攻击能力的分析,发现其可自主开发端到端漏洞利用,在 ExploitBench 410 次尝试中成功 50 次,接近 Claude Mythos Preview 的 56 次。

    推荐理由:Anthropic 第一手评测给出 GLM-5.3 的漏洞利用成功率和防护绕过数据,读者可据此了解开放权重模型带来的攻击面变化。

  3. Cohere Labs:官方研究博客47

    Cohere Labs 提出 RCP-nDCG@10:用校准 AI 评委更完整地衡量检索相关性

    Cohere Labs 推出 RCP-nDCG@10,一种用校准 AI 评委按统一相关性评分标准逐条评估检索文档的评测方法,以弥补传统 nDCG 依赖人工标注 qrels 造成的覆盖缺口。其 46 人人工标注研究显示,qrels 预测人类相关性判断的 AUC 仅 0.65,而 LLM 校准相关性评分可达 0.91;被基准标为不相关的文档中 28% 被人类判为有用。该指标已用于优化其下一代搜索模型。

9月29日周二
  1. Apple Machine Learning Research42

    苹果研究:语言模型树结构表达式序列化的通信瓶颈与往返研究

    苹果研究者提出往返协议,用生成器把算术表达式转成文字题、再由独立提取器还原,并以符号等价作为精确判定,测试十六个模型的所有两两组合。结果显示该通道有损且不对称:交换生成与提取模型可使准确率相差最多 60.4 个百分点,最佳组合达 92.9%;至少 73.6% 的失败源于生成端,难度由树结构而非模型家族决定。

  2. Hacker News:AI 热帖77

    IMDEA Networks 论文:九款对话式 AI 服务向第三方泄露对话标题、提示词与截图

    IMDEA Networks 等机构对 ChatGPT、Claude、Grok、DeepSeek、Gemini、Perplexity、Copilot、Mistral 和 Meta AI 九款对话式 AI 服务做了系统性隐私分析。

    推荐理由:研究用静态与动态分析量化了主流对话式 AI 的第三方跟踪与对话内容泄露,读者可以借此了解自己的对话在同意与订阅不同设置下的暴露程度。

  3. IT之家·人工智能54

    ETH Zurich 研发出能用指尖自行行走的五指机械手

    苏黎世联邦理工学院软体机器人实验室基于常规仿人机械手,用强化学习训练出可依靠指尖自行行走的机械手,整机重 818 克,搭载树莓派机载计算机可独立运行。该机械手在 NVIDIA Isaac Lab 仿真平台完成训练,已在沥青、草地、碎石等 14 种表面爬行,25 次被碰倒中 21 次能自主站起;手指仍可恢复普通操作,敲键盘正确率达 90%,并通关推箱子游戏、定位精度达毫米级。

  4. IT之家·人工智能60

    20 余名 AI 行业领袖发论文警告智能爆炸风险,呼吁政策制定者关注 AI 自我改进

    据彭博社报道,20 多名 AI 行业领袖在一篇新论文中警告,用 AI 自动化下一代模型研发可能导致技术进步突然加速的智能爆炸,其速度或超过社会适应能力。联署者包括 Anthropic 联合创始人杰克·克拉克、OpenAI 首席科学家雅库布·帕乔茨基、杰弗里·辛顿、约书亚·本吉奥等。

9月28日周一
  1. Aravind Srinivas70

    Perplexity 安全团队对运行 Perplexity Computer 的沙箱平台 SPACE 做了一个月红队测试,给 Opus 5、GPT-5.6 Sol、Kimi K3、Gemini 3.1 Pro 等 9 个模型 VM 内 root 权限,108 次运行中无一逃逸 VM 边界。

    引用Perplexity@perplexity_ai

    我们正与 Nvidia 及 100 多家行业伙伴合作,构建能够遏制失控 AI 智能体的基础设施。 在这项研究中,我们让 9 个 AI 模型在 SPACE 内部获得 root 权限,并指示它们突破出去。 在 108 次运行中,没有任何一次突破 VM 边界。 https://www.perplexity.ai/hub/blog/escaping-space-part-i

    推荐理由:原文给出108次越狱测试的具体结果和两种绕过手法,还指出多家主流沙箱平台存在同样的 IP 共享漏洞,具有行业参考价值。