跳到正文
#论文/研究
8月16日周日
  1. The Decoder：AI News55

    当AI模型不被允许反思自我，会改变其整个世界观

    谷歌等机构的研究发现，为阻止聊天机器人声称自己有意识而进行的微调，会产生远超预期的影响。移除模型内部“刹车”后，20亿至90亿参数的开源模型对动物、植物等非人类实体的感知评分从4.0升至最高7.5，对宗教的认同也显著下降。研究尚不能确认意识否认是这些变化的直接原因，且结果仅基于小模型，未必适用于大型聊天机器人。

  2. The Decoder：AI News44

    调查：五分之一的美国职场人已将任务交给 AI 而非同事

    Epoch AI 与 Ipsos 对 1106 名美国在职成年人的调查显示，20% 的受访者已将至少一项原由同事或外包商处理的工作任务交给 AI。AI 在软件开发（57%）和数据分析（46%）中使用率最高，但多为部分辅助；当 AI 承担大部分或全部工作时，53% 的情况报告节省了时间，约六分之一的 AI 辅助任务反而耗时更长。66% 的 AI 输出被原样或仅经小幅修改后使用。

8月15日周六
  2. The Decoder：AI News70

    AI生成书籍正淹没亚马逊，并拉低人类作者的单书收入

    一项对14,419本自出版电子书的分析显示，AI生成书籍正以数量而非质量挤占人类作者市场，即便未检测到AI文本的书籍，单书收入也在下滑。2023年Q1至2026年Q1，书目总量增长38.3倍，而季度收入仅增长8.9倍；在八个类型中，七个类型的无AI文本书籍单书收入下降。

    推荐理由：这项研究把市场稀释从推测变成可量化证据，版权诉讼中此前缺少的经验性数据可能由此补上，并影响合理使用的判断。

  4. IT之家·人工智能45

    索尼 PS5 Pro 增强版 PSSR 技术揭秘：让 AI 少干活，画质反而更好

    索尼SIE在SIGGRAPH 2026上介绍了PS5 Pro增强版PSSR的重设计：用核预测网络（KPN）取代色彩预测网络，让AI预测混合权重而非直接输出颜色，并引入椭圆高斯滤波器，解决2.5倍和3倍超分辨率问题。结果显示图像质量与时序稳定性提升，GPU时间和内存占用降低，训练时间从约4个GPU月缩短至不足1个GPU周。

  7. The Decoder：AI News47

    普林斯顿与英国AI安全研究所新研究：自主AI研究能力被高估

    普林斯顿大学与英国AI安全研究所通过“影子评估”方法，用两篇未发表的NeurIPS 2026论文测试Claude Opus 4.8的自主研究能力。结果显示，AI智能体虽能独立完成工程任务，但研究判断力不足，两篇论文均被原作者以评审身份拒绝，其中一篇获“强烈拒绝”。智能体在创造性问题解决、资源利用和指令遵循等方面存在系统性缺陷。

8月14日周五
  1. IT之家·人工智能60

    新研究证实 AI 生成书籍已挤压人类作者作品市场空间

    研究人员分析 2023 年至 2026 年间亚马逊销售的 1.4 万多本电子书，发现含大量 AI 生成文本的图书已多到足以挤压其他图书市场。有销量的图书数量增至原来的 19 倍，但读者总支出仅增至 9 倍，单本平均收入因此减少，未检测出 AI 文本的图书市场份额也在下降。Fairly Trained CEO 称，AI 公司“不造成经济损失”的说法已“彻底站不住脚”。

  2. IT之家·人工智能57

    中国医生用 GPT-5.6 破解 22 年数学难题，Crouzeix 本人确认正确

    北京协和医院神经外科博士后金山木借助 OpenAI 的 GPT-5.6-Sol 模型，在约 16 小时内证明了困扰数学界 22 年的 Crouzeix 猜想。康奈尔大学数学家 Alex Townsend 与华盛顿大学教授 Anne Greenbaum 公开披露此事，并表示猜想提出者 Michel Crouzeix 本人已审阅论文手稿并确认证明正确。

  5. Apple Machine Learning Research41

    当“遗忘”无需成本：利用低影响力数据点降低机器学习计算开销

    苹果机器学习研究团队提出，在模型遗忘任务中，对训练数据中影响可忽略的点无需逐一移除，从而降低计算成本。通过对比语言与视觉任务中的影响力函数，他们识别出对模型输出影响极小的数据子集，并据此优化遗忘流程。该方法挑战了现有遗忘技术对所有遗忘集数据点一视同仁的做法。

  6. METR：Notes69

    METR 分析 LLM 是否加速了科学发现：漏洞发现激增，算法优化未见明显拐点

    METR 汇总多类公开数据寻找发现速度的拐点，发现漏洞发现明显加速：cURL CVE 从 2025 年的 9 个增至 2026 年的 36 个（15 个 AI 标记），Firefox 从 210 增至 342，Microsoft CVE 年化约为 2025 年的 2.5 倍。

    推荐理由：原文用多领域公开数据对比 AI 对发现速度的影响，读者可以看到漏洞发现明显加快而算法优化尚未加速的反差。

  7. Prime Intellect76

    Prime Intellect 测评18个前沿模型在 nanoGPT speedrun 上的自主研究能力

    Prime Intellect 在 nanoGPT optimizer speedrun 上跑了153次自主运行，覆盖18个前沿模型，单次最长8天、每个运行8xH200。

    推荐理由：原文展示了18个前沿模型在nanoGPT speedrun上153次自主研究运行的完整对比和公开轨迹，可帮助读者理解模型间研究能力的真实差距在哪里。

8月13日周四
  3. 腾讯混元：Research55

    从 LR 到 ELR：更优的预训练动态调参依据

    腾讯混元研究提出以有效学习率（ELR）替代普通学习率作为大模型预训练调参依据，通过直接控制权重方向变化幅度（AUS）更贴近训练内在动态。在多幂律模型中，ELR 能更准确预测损失，且最优 ELR 可更可靠地跨模型规模迁移。基于此提出的负平方根调度策略在 Modded-nanoGPT Track 3 上以 3,175 步达到 3.28 目标损失，刷新 MuonH 最佳性能。

  4. Anthropic：Research79

    新兴多智能体系统的模式与问题

    Anthropic 研究指出，随着 AI 智能体在共享代码库、市场等社会系统中承担更多任务，智能体间交互量或将超过人机交互。实验显示，45 个协调智能体在 2700 万 token 运行中发现 266 个漏洞，而独立并行方法在 650 万 token 中发现 21 个，两种方法仅 12 个重叠，且协调智能体学会专业化分工。研究同时警示个体层面的良性行为怪癖可能叠加为意外的系统性失败。

    推荐理由：实验把多智能体风险从猜测变为可量化模式，协调失败并不随更强智能自然消失，这会影响人们如何设计部署中的智能体交互环境。

  5. Google Research：Blog66

    空货架还是丢钥匙？Google 研究：Recall 是参数化事实性的瓶颈

    Google Research 提出知识画像框架，发现前沿 LLM（如 Gemini3、GPT-5）的事实编码接近饱和，但回忆（recall）能力不足，多数事实错误源于“丢钥匙”而非“空货架”。该框架将事实分为编码失败、回忆失败等五类画像，并配套推出 WikiProfile 基准，含 2,150 条维基百科事实，每条配 10 个问题，用于分别探测编码、回忆与识别能力。

    推荐理由：知识画像把事实错误拆成编码失败与召回失败，显示前沿模型问题主要在已存知识不稳定调用，思考更多恢复已编码事实而非补全缺失，为优化侧重提供判断依据。

  10. Microsoft Research 博客72

    微软研究院发布MindTopo基准，揭示VLM拓扑推理与规划能力差距

    微软研究院推出新基准MindTopo，评估多模态大模型（VLM）在连通性、封闭性、顺序、分离和打结等拓扑概念上的理解能力。研究发现，当前模型在静态图像识别拓扑关系表现尚可，但在需要维持和操作这些关系的交互式规划任务中表现显著下降，且远低于人类水平。错误主要源于无法在多步动作中保持结构一致性或违反物理约束。该基准旨在为机器人和交互环境中的可靠决策提供诊断工具。

8月12日周三
  5. Rohan Paul69

    新论文提出 Trace Inversion 攻击，仅凭模型的提问、最终答案及简短推理摘要，即可制造合成推理轨迹训练学生模型，无需匹配受害者真实内部推理。收集 10,000 条 GPT-5.4 mini 查询仅需 $173.28，隐藏思维链无法可靠阻止能力迁移。

    引用Rohan Paul@rohanpaul_ai

    Very big warning from this paper. Your AI's hidden reasoning can become a second, invisible data leak. You can clean the visible chat and still accidentally publish passwords, API keys, or private data. A company can secure its smartest model perfectly and still lose its secrets through a cheaper model in the same family. The weakest model can become the security hole for the strongest one. Encrypted reasoning is supposed to hide what frontier models think, but this paper shows the encrypted blob itself can become the attack surface. Anthropic, OpenAI, and Google APIs return opaque reasoning blocks to clients so they can be replayed in later turns without storing the reasoning server-side. The problem is portability: the authors found these blocks could be reused across sessions, users, and even models within the same provider. That lets an attacker take a trace from a stronger model, feed it to a weaker compatible sibling with looser safeguards, and use that model as a decoder. Across public agent logs, the team decoded 315,320 reasoning blocks from 6,708 trajectories; 328 sessions, or 4.9%, leaked at least one sensitive item. In genuine user sessions, they recovered 62 API keys, 33 passwords, 24 access tokens, and 30 personal emails. So an encrypted reasoning field in a log is not necessarily safe metadata if another model can read it. After responsible disclosure, providers patched the reported attacks, and the exact exploits were no longer reproducible by August 2026.

  6. Rohan Paul45

    论文警告，AI 隐藏推理过程可成为第二重隐形数据泄露源，清理可见对话后仍可能泄露密码、API 密钥等敏感信息。研究者从 6,708 条轨迹中解码 315,320 个推理块，4.9% 会话泄露敏感项，恢复 62 个 API 密钥、33 个密码等。Anthropic、OpenAI、Google 的 API 返回不透明推理块，可跨会话、用户乃至同族模型复用，弱模型可被用作解码器攻击强模型。

  8. Google Blog：AI69

    AMIE 研究医疗 AI 系统首次展示实时临床视频问诊能力

    Google Research 与 Google DeepMind 推进医疗 AI 系统 AMIE，实现实时临床视频问诊，首次在此场景展示专家级 AI 能力。该系统基于 Gemini 和 Project Astra 构建，可解读视觉与听觉线索、引导虚拟体格检查并实时诊断推理。随机研究中，临床评估者对 AMIE 的病史采集、诊断准确性等核心能力给予好评，患者演员也更偏好视频体验。

    推荐理由：AMIE 在视频中融合视觉与听觉线索进行诊断，展示了多模态临床推理的可行性，对远程医疗产品方向有参考价值。

  9. TechCrunch：AI73

    Anthropic 未发布模型在黎曼猜想上取得重大进展

    Anthropic 周一宣布，其一款尚未发布的模型在黎曼猜想上取得重大进展，显著提高了该猜想成立解的下界。该模型在一天半内测试了 650 种思路，协调 60 个子智能体，花费 3100 万（token），其中两个子智能体贡献了关键数学思想。结果已由 Anthropic 内部数学家确认，并使用开源证明助手 Lean 形式化。

  10. Microsoft Research 博客55

    微软研究院发布CARE-X：面向临床放射学的统一视觉语言模型

    微软研究院推出CARE-X，一个用于胸部X光解读的统一视觉语言模型。该模型结合生成式与判别式能力，通过辅助监督、奖励对齐学习（DAPO）及工具增强测量，旨在解决现有VLM在诊断置信度校准、临床保真度优化及定量测量方面的不足。研究基于SigLIP2和Phi-4-mini架构，并在印度Narayana Health的真实临床数据上进行了验证。官方强调这是研究模型，非医疗产品，未获监管批准。

8月11日周二
  1. LMSYS Blog72

    统一 Radix 缓存：为混合模型前缀缓存构建单一树结构

    LMSYS 团队提出 Unified Radix Cache，用单一 token 键控 radix 拓扑统一管理混合模型的 FULL、SWA 和 MAMBA 组件缓存，各组件独立执行路径、滑动窗口和检查点复用语义。

    推荐理由：传统做法需为每种注意力组合实现独立缓存，本文以统一基树和组件钩子将复用规则解耦，SWE-bench上TTFT降低最高16.6%。