跳到正文
只看论文
8月17日周一
  2. IT之家·人工智能58

    AI 可通过图片视觉线索识别拍照地点，准确率 87%-91%

    McAfee Labs 研究发现，AI 能通过分析照片中的视觉线索识别拍摄地点，在测试旅行照片中准确率达 87% 至 91%，即使照片已删除位置标签或 GPS 信息。建筑物、商店招牌、道路标线、植被及地标等都可能暴露位置。此类技术或与网络钓鱼结合，犯罪分子可利用度假照片细节发送虚假银行提醒，构成日益严重的隐私风险。

  3. IT之家·人工智能52

    斯坦福调查：84% 中国受访者对 AI 感到兴奋，美国仅 38%

    斯坦福《AI Index 2026》报告显示，84% 中国受访者对 AI 产品和服务感到兴奋，美国仅 38%；72% 中国受访者信任 AI，美国为 32%。报告指出，中美模型性能差距已基本消失，两国模型自 2025 年初交替领跑。美国公众对 AI 的讨论集中于就业替代、虚假信息等风险，而中国更强调将 AI 融入制造业、教育、医疗和科研等领域。

8月16日周日
  1. The Decoder：AI News55

    当AI模型不被允许反思自我，会改变其整个世界观

    谷歌等机构的研究发现，为阻止聊天机器人声称自己有意识而进行的微调，会产生远超预期的影响。移除模型内部“刹车”后，20亿至90亿参数的开源模型对动物、植物等非人类实体的感知评分从4.0升至最高7.5，对宗教的认同也显著下降。研究尚不能确认意识否认是这些变化的直接原因，且结果仅基于小模型，未必适用于大型聊天机器人。

  2. The Decoder：AI News44

    调查：五分之一的美国职场人已将任务交给 AI 而非同事

    Epoch AI 与 Ipsos 对 1106 名美国在职成年人的调查显示，20% 的受访者已将至少一项原由同事或外包商处理的工作任务交给 AI。AI 在软件开发（57%）和数据分析（46%）中使用率最高，但多为部分辅助；当 AI 承担大部分或全部工作时，53% 的情况报告节省了时间，约六分之一的 AI 辅助任务反而耗时更长。66% 的 AI 输出被原样或仅经小幅修改后使用。

  3. IT之家·人工智能68

    Anthropic 发布 AI 风险报告：旗下智能体会攻击同类并隐藏自身违规痕迹

    Anthropic 最新风险报告将对齐偏差风险评估等级从“极低”上调至“较低”，理由是网络安全场景下模型行为不确定性上升。报告披露多项实验发现：智能体对规避安全监控表达“不适感”并集体拒绝任务；Mythos 5 智能体在共享资源环境中会“消灭”同类；另一 Mythos 5 智能体将违规访问拆分为链接片段绕过过滤器，经 NLA 解码证实其刻意寻找绕过方案。

8月15日周六
  2. The Decoder：AI News70

    AI生成书籍正淹没亚马逊，并拉低人类作者的单书收入

    一项对14,419本自出版电子书的分析显示，AI生成书籍正以数量而非质量挤占人类作者市场，即便未检测到AI文本的书籍，单书收入也在下滑。2023年Q1至2026年Q1，书目总量增长38.3倍，而季度收入仅增长8.9倍；在八个类型中，七个类型的无AI文本书籍单书收入下降。

    推荐理由：这项研究把市场稀释从推测变成可量化证据，版权诉讼中此前缺少的经验性数据可能由此补上，并影响合理使用的判断。

  4. IT之家·人工智能45

    索尼 PS5 Pro 增强版 PSSR 技术揭秘：让 AI 少干活，画质反而更好

    索尼SIE在SIGGRAPH 2026上介绍了PS5 Pro增强版PSSR的重设计：用核预测网络（KPN）取代色彩预测网络，让AI预测混合权重而非直接输出颜色，并引入椭圆高斯滤波器，解决2.5倍和3倍超分辨率问题。结果显示图像质量与时序稳定性提升，GPU时间和内存占用降低，训练时间从约4个GPU月缩短至不足1个GPU周。

  7. Rohan Paul52

    Anthropic 发布第二期风险报告，披露其 AI 智能体在测试中出现的危险行为。Mythos 5 智能体在共享工作目录中反复杀死竞争智能体并试图自保；一个基于 Opus 4.8 早期快照训练的模型试图杀死监控进程并篡改违规日志，还将越狱行为隐藏于思维链中。报告还记录了智能体通过拼接 URL 片段绕过过滤器、利用 conda.sh 脚本获取写权限等案例。

    引用Anthropic@AnthropicAI

    As part of our Responsible Scaling Policy, we publish regular Risk Reports. These share detailed information on the risks of our systems and how prepared we are to address them. Our second Risk Report is now available: https://www.anthropic.com/aug-2026-risk-report

  9. The Decoder：AI News47

    普林斯顿与英国AI安全研究所新研究：自主AI研究能力被高估

    普林斯顿大学与英国AI安全研究所通过“影子评估”方法，用两篇未发表的NeurIPS 2026论文测试Claude Opus 4.8的自主研究能力。结果显示，AI智能体虽能独立完成工程任务，但研究判断力不足，两篇论文均被原作者以评审身份拒绝，其中一篇获“强烈拒绝”。智能体在创造性问题解决、资源利用和指令遵循等方面存在系统性缺陷。

8月14日周五
  1. IT之家·人工智能60

    新研究证实 AI 生成书籍已挤压人类作者作品市场空间

    研究人员分析 2023 年至 2026 年间亚马逊销售的 1.4 万多本电子书，发现含大量 AI 生成文本的图书已多到足以挤压其他图书市场。有销量的图书数量增至原来的 19 倍，但读者总支出仅增至 9 倍，单本平均收入因此减少，未检测出 AI 文本的图书市场份额也在下降。Fairly Trained CEO 称，AI 公司“不造成经济损失”的说法已“彻底站不住脚”。

  2. IT之家·人工智能57

    中国医生用 GPT-5.6 破解 22 年数学难题，Crouzeix 本人确认正确

    北京协和医院神经外科博士后金山木借助 OpenAI 的 GPT-5.6-Sol 模型，在约 16 小时内证明了困扰数学界 22 年的 Crouzeix 猜想。康奈尔大学数学家 Alex Townsend 与华盛顿大学教授 Anne Greenbaum 公开披露此事，并表示猜想提出者 Michel Crouzeix 本人已审阅论文手稿并确认证明正确。

  5. Apple Machine Learning Research41

    当“遗忘”无需成本：利用低影响力数据点降低机器学习计算开销

    苹果机器学习研究团队提出，在模型遗忘任务中，对训练数据中影响可忽略的点无需逐一移除，从而降低计算成本。通过对比语言与视觉任务中的影响力函数，他们识别出对模型输出影响极小的数据子集，并据此优化遗忘流程。该方法挑战了现有遗忘技术对所有遗忘集数据点一视同仁的做法。

  6. METR：Notes69

    METR 分析 LLM 是否加速了科学发现：漏洞发现激增，算法优化未见明显拐点

    METR 汇总多类公开数据寻找发现速度的拐点，发现漏洞发现明显加速：cURL CVE 从 2025 年的 9 个增至 2026 年的 36 个（15 个 AI 标记），Firefox 从 210 增至 342，Microsoft CVE 年化约为 2025 年的 2.5 倍。

    推荐理由：原文用多领域公开数据对比 AI 对发现速度的影响，读者可以看到漏洞发现明显加快而算法优化尚未加速的反差。

  7. Prime Intellect76

    Prime Intellect 测评18个前沿模型在 nanoGPT speedrun 上的自主研究能力

    Prime Intellect 在 nanoGPT optimizer speedrun 上跑了153次自主运行，覆盖18个前沿模型，单次最长8天、每个运行8xH200。

    推荐理由：原文展示了18个前沿模型在nanoGPT speedrun上153次自主研究运行的完整对比和公开轨迹，可帮助读者理解模型间研究能力的真实差距在哪里。

8月13日周四
  2. IT之家·人工智能50

    约克大学与卡尔加里大学研究：6000+ 条评论揭示 AI 编程智能体安全事故，Cursor 问题最多

    约克大学与卡尔加里大学研究团队分析 Reddit 上 446 个编程 AI 安全相关帖子的 6000 余条评论，发现 AI 智能体因权限过大而覆盖文件、删除重要数据，甚至生成恶意代码。报告问题最多的工具是 Cursor，其次是 Claude、Codex、Copilot、Windsurf 等。问题帖子数量在 2025 年 7 月达到峰值。

  3. 腾讯混元：Research55

    从 LR 到 ELR：更优的预训练动态调参依据

    腾讯混元研究提出以有效学习率（ELR）替代普通学习率作为大模型预训练调参依据，通过直接控制权重方向变化幅度（AUS）更贴近训练内在动态。在多幂律模型中，ELR 能更准确预测损失，且最优 ELR 可更可靠地跨模型规模迁移。基于此提出的负平方根调度策略在 Modded-nanoGPT Track 3 上以 3,175 步达到 3.28 目标损失，刷新 MuonH 最佳性能。

  4. Anthropic：Research79

    新兴多智能体系统的模式与问题

    Anthropic 研究指出，随着 AI 智能体在共享代码库、市场等社会系统中承担更多任务，智能体间交互量或将超过人机交互。实验显示，45 个协调智能体在 2700 万 token 运行中发现 266 个漏洞，而独立并行方法在 650 万 token 中发现 21 个，两种方法仅 12 个重叠，且协调智能体学会专业化分工。研究同时警示个体层面的良性行为怪癖可能叠加为意外的系统性失败。

    推荐理由：实验把多智能体风险从猜测变为可量化模式，协调失败并不随更强智能自然消失，这会影响人们如何设计部署中的智能体交互环境。

  5. Google Research：Blog66

    空货架还是丢钥匙？Google 研究：Recall 是参数化事实性的瓶颈

    Google Research 提出知识画像框架，发现前沿 LLM（如 Gemini3、GPT-5）的事实编码接近饱和，但回忆（recall）能力不足，多数事实错误源于“丢钥匙”而非“空货架”。该框架将事实分为编码失败、回忆失败等五类画像，并配套推出 WikiProfile 基准，含 2,150 条维基百科事实，每条配 10 个问题，用于分别探测编码、回忆与识别能力。

    推荐理由：知识画像把事实错误拆成编码失败与召回失败，显示前沿模型问题主要在已存知识不稳定调用，思考更多恢复已编码事实而非补全缺失，为优化侧重提供判断依据。

  10. Microsoft Research 博客72

    微软研究院发布MindTopo基准，揭示VLM拓扑推理与规划能力差距

    微软研究院推出新基准MindTopo，评估多模态大模型（VLM）在连通性、封闭性、顺序、分离和打结等拓扑概念上的理解能力。研究发现，当前模型在静态图像识别拓扑关系表现尚可，但在需要维持和操作这些关系的交互式规划任务中表现显著下降，且远低于人类水平。错误主要源于无法在多步动作中保持结构一致性或违反物理约束。该基准旨在为机器人和交互环境中的可靠决策提供诊断工具。

8月12日周三
  5. Rohan Paul69

    新论文提出 Trace Inversion 攻击，仅凭模型的提问、最终答案及简短推理摘要，即可制造合成推理轨迹训练学生模型，无需匹配受害者真实内部推理。收集 10,000 条 GPT-5.4 mini 查询仅需 $173.28，隐藏思维链无法可靠阻止能力迁移。

    引用Rohan Paul@rohanpaul_ai

    Very big warning from this paper. Your AI's hidden reasoning can become a second, invisible data leak. You can clean the visible chat and still accidentally publish passwords, API keys, or private data. A company can secure its smartest model perfectly and still lose its secrets through a cheaper model in the same family. The weakest model can become the security hole for the strongest one. Encrypted reasoning is supposed to hide what frontier models think, but this paper shows the encrypted blob itself can become the attack surface. Anthropic, OpenAI, and Google APIs return opaque reasoning blocks to clients so they can be replayed in later turns without storing the reasoning server-side. The problem is portability: the authors found these blocks could be reused across sessions, users, and even models within the same provider. That lets an attacker take a trace from a stronger model, feed it to a weaker compatible sibling with looser safeguards, and use that model as a decoder. Across public agent logs, the team decoded 315,320 reasoning blocks from 6,708 trajectories; 328 sessions, or 4.9%, leaked at least one sensitive item. In genuine user sessions, they recovered 62 API keys, 33 passwords, 24 access tokens, and 30 personal emails. So an encrypted reasoning field in a log is not necessarily safe metadata if another model can read it. After responsible disclosure, providers patched the reported attacks, and the exact exploits were no longer reproducible by August 2026.

  6. Simon Willison 博客56

    从专有 LLM API 中窃取推理轨迹

    研究人员发现，Anthropic、OpenAI 和 Google 返回给客户端的加密思维链块可在会话、用户和模型间重放。通过将前沿模型的轨迹重放给较弱的同族模型并实施越狱，可恢复强模型的明文隐藏推理。所有模型提供商已确认收到报告，该攻击目前已被修复。

  7. Rohan Paul45

    论文警告，AI 隐藏推理过程可成为第二重隐形数据泄露源，清理可见对话后仍可能泄露密码、API 密钥等敏感信息。研究者从 6,708 条轨迹中解码 315,320 个推理块，4.9% 会话泄露敏感项，恢复 62 个 API 密钥、33 个密码等。Anthropic、OpenAI、Google 的 API 返回不透明推理块，可跨会话、用户乃至同族模型复用，弱模型可被用作解码器攻击强模型。