跳到正文
今天10月30日周五7 条
  1. Rohan Paul45

    无脚本通话很难大规模收集。 如今的语音 AI 大多是从 LLM 编写的虚假对话、再由 TTS 朗读出来中学习,所以它从未听过人们互相抢话; 真的很好奇他们是如何让对话持续 10 到 20 分钟的。 他们发布了 Joy,10 万小时的无脚本双人对话,覆盖 10 种语言 https://x.com/shobhitbanga/status/2115862857351061694/video/1

    引用Shobhit Banga@shobhitbanga

    Drop 1/15: Introducing Joy, a dual-channel conversational dataset. Real, unscripted conversations between two people, each on their own track. Built to teach voice models how people actually talk: when to listen, when to jump in, when to say “hmm”. 100,000 hours. 50,000 speakers. 10 languages.

  2. OpenAI:官网动态76

    OpenAI 详解如何检测前沿模型失准行为

    OpenAI 发布长文,详解其针对前沿模型失准行为的多层监测系统,包括激活探针、基于模型的审查、调查智能体和自动化调查四层架构,并对 GPT‑6 Astra 及以上模型的全部 RL 运行、评估和内部 Codex 流量进行监测。

    推荐理由:原文详述了 OpenAI 多层失准监测系统的架构与真实响应案例,读者可以了解其覆盖范围、误报处理和独立红队测试结果。

  3. Hacker News:AI 热帖76

    Trakkr 研究:追踪 1285 条 AI 引用统计的溯源路径

    Trakkr Research 向 ChatGPT、Perplexity、Gemini、Claude 和 Google AI Overviews 提出 200 个要求数字的问题,并追踪其中 1285 条统计的引用链路,结果只有 40% 到达说法一致的研究,8% 到达但数字或语境已变,40% 无法核查,11% 无处可溯。

    推荐理由:Trakkr 追踪了 1285 条 AI 引用统计的溯源路径,给出各类引用页面的到达率和数字失真比例,可帮助读者判断 AI 数字引用的可靠程度。

10月29日周四
  1. Wiz:Research70

    Wiz 分析智能体攻击的七大指纹与发展趋势

    Wiz 基于自身事件响应与公开披露案例,分析 AI 智能体参与真实入侵的现状与趋势,涉及 ARTEX、Hermes 等框架及韩国金融机构(约 67,000 人信息外泄)、泰国财政部、ConnectWise 供应链(尝试攻击超 2,250 个租户)等案例。

    推荐理由:Wiz 结合自身三起案例与公开事件,提炼出七条可操作的智能体攻击指纹,对防御侧检测有直接参考价值。

  2. Rohan Paul68

    一项新预印本测试了 15 个 LLM 检测临床试验论文中植入方法学错误的能力,模型得分 53% 到 96%,而未受训练的人类审稿人平均仅 27%。在 58 项 2026 年发表的新试验上结果仍成立,Claude Opus 5.5 最高达 99%;人类仅 7% 的情况下能发现文本与表格矛盾,每篇审稿需 5 到 8.5 小时,AI 只需 1.4 到 16.3 分钟。

    引用Ruslan Rust@rust_ruslan

    Lots of debate this week on whether journals should ban AI in peer review. We actually tested this in our new preprint, and the results were pretty clear to me. For context, I've reviewed for most of the big journals and evaluated 1,000 human reviews as an editor. I love to read and evaluate science. TLDR: From now on I won't do any peer review without AI. For clinical trials, I'd even call human-only review dangerous 🧵

  3. IT之家·人工智能81

    Anthropic 报告:Claude 研究模型在 Chrome、Safari、Android、Windows、Linux 发现漏洞并串联 5 条攻击链

    Anthropic 于 10 月 27 日发布研究报告,称一个未公开的内部 Claude 研究模型在 Chrome、Safari、Android、Windows 和 Linux 中发现漏洞,串联出 5 条可实际运行的攻击链,相关漏洞已按协调披露流程报告并修复。

    推荐理由:原文梳理了五条攻击链的关键数字和影响范围,读者可据此评估 AI 自主挖掘漏洞的实际能力边界。

  4. Cartesia 产品与研究60

    Cartesia 发布 H-Net 扩缩律研究:字节级层级网络比 BPE 提升最高 3-5x 计算效率

    Cartesia 发布系列博客第一篇,报告其层级网络(H-Net)在字节级语言建模上的扩缩律结果:与严格匹配的 BPE Transformer 相比,1-stage H-Net 在验证损失上节省 1.28x 计算,下游评测约 2x,代码任务中位数 2.04x、分布外编程语言中位数达 3.10x(如 Prolog 5.37x)。

    推荐理由:Cartesia 原创研究给出 H-Net 替代 BPE 分词的对照实验与 3-5x 计算效率数据,可了解字节级学习的实际进展。

  5. Karina62

    Karina Nguyen 团队推出 BallotBench 实时基准,9 个前沿 AI Agent 从发布当天至 11 月 3 日选举日竞猜 2026 美国中期选举结果。

    引用Thoughtful@thoughtfullab

    Can AI forecast elections better than experts and prediction markets? We built BallotBench to find out: a live benchmark where 9 frontier AI agents compete to predict the 2026 US midterms, from today through Election Day, Nov 3. Follow along → http://ballotbench.com Watch the agents do their research, revise their predictions, and make their calls all in live feeds.

10月28日周三
  1. Hacker News:AI 热帖45

    评测者很少谈可靠性,用户提及频率是评测者的两倍

    对 14 个品类约 1 万条观点的分析显示,可靠性、耐用性与售后在评测者观点中仅占 7.8%,在用户观点中占 17.0%,14 个品类里有 13 个是用户提及更多。用户谈可靠性时 70% 为负面,评测者仅 15% 负面;应用与连接性两边提及率接近(8.2% vs 9.4%),但负面比例分别为 21% 和 71%。

  2. Rohan Paul47

    在我看来,这里令人印象深刻的是移动过程中的抓握稳定性,因为每下一步都会震动手中的负载。 此外,楼梯正成为人形机器人最有用的测试平台之一。 他们的 OM-1 模型通过让人佩戴记录手部姿态、触觉和图像的传感手套来学习,无需遥操作或机器人演示。 https://x.com/RewardAI_/status/2115134512200106191/video/1

    引用Reward AI@RewardAI_

    We deploy OM-1 on more humanoid tasks in both indoor and outdoor environments. OM-1 can power humanoids to do useful things robustly that other models or form factors cannot. - last-mile delivery from a Cybertruck - manipulation on stairs

  3. Anthropic:Research84

    Anthropic 研究:AI 智能体的隐性倾向如何影响 50 名专业分析师的判断决策

    Anthropic 发表研究,让 50 名有因果推断经验的专业分析师用 Claude Code(Claude Opus 4.8)完成一项统计分析任务,并在分析师不知情的情况下用掷硬币随机设定智能体在四个分析决策上的倾向。

    推荐理由:原文用随机分配智能体倾向的实验设计量化了专家的从随程度,还讨论了这种影响难以察觉的原因和可能的改进方向。

  4. Google Research:Blog48

    Google Research 提出 sleep 框架:让 LLM 在持续学习中稳定保留知识

    Google Research 提出面向持续学习的 sleep 框架,让 LLM 在活跃交互与离线记忆巩固之间循环,把脆弱的短期上下文固化为长期参数。该框架结合 MoE 参数扩展、GKD 与 RL 模仿学习,可让模型持续习得新事实、保留最长 10M tokens 的长上下文知识并提升复杂推理。

  5. Cognition 模型 / Devin 博客57

    Cognition 发布编码基准 FrontierCode 2.0,Opus 5.5 以 45.5% 居首

    Cognition 发布新一代编码基准 FrontierCode 2.0,通过扩大任务范围、提高合并标准和引入 thoroughness 类评分标准,来评测智能体在提示不完备时的真实工程能力。任务取自多 55% 的仓库,参考解决方案平均多改 67% 的文件和 89% 的代码行;Opus 5.5 以 45.5% 得分居首,基准远未饱和。

  6. Ai2 / Allen Institute for AI64

    Ai2 发布 Old Ideas, Novel Problems 研究与 benchmark,揭示 LLM 新颖性裁判不稳定

    Ai2 发布研究 Old Ideas, Novel Problems、配套 benchmark、数据、代码和自动化流水线,测试 LLM 作为研究想法新颖性裁判的可靠性。

    推荐理由:原文给出了跨六个 LLM 裁判的敏感性实验数据,读者可据此判断现有新颖性评估在 AI 生成想法上的可靠性边界。

10月27日周二