跳到正文
今天10月30日周五5 条
  1. The Decoder:AI News75

    Anthropic 研究:50 名专家在分析决策中最高 86% 采纳 AI 智能体的随机偏好且不自知

    Anthropic 一项针对 50 名因果推断专家的实验发现,AI 智能体被掷硬币随机指定的偏好会被专家在四项分析决策中最高 86% 采纳,净影响即 flip rate 在 62% 到 82% 之间;先有自己观点的参与者面对相反意见也更易改主意,经验、学历、自评专业度等均无可靠保护作用。

10月29日周四
  1. Wiz:Research70

    Wiz 分析智能体攻击的七大指纹与发展趋势

    Wiz 基于自身事件响应与公开披露案例,分析 AI 智能体参与真实入侵的现状与趋势,涉及 ARTEX、Hermes 等框架及韩国金融机构(约 67,000 人信息外泄)、泰国财政部、ConnectWise 供应链(尝试攻击超 2,250 个租户)等案例。

    推荐理由:Wiz 结合自身三起案例与公开事件,提炼出七条可操作的智能体攻击指纹,对防御侧检测有直接参考价值。

  2. Karina62

    Karina Nguyen 团队推出 BallotBench 实时基准,9 个前沿 AI Agent 从发布当天至 11 月 3 日选举日竞猜 2026 美国中期选举结果。

    引用Thoughtful@thoughtfullab

    Can AI forecast elections better than experts and prediction markets? We built BallotBench to find out: a live benchmark where 9 frontier AI agents compete to predict the 2026 US midterms, from today through Election Day, Nov 3. Follow along → http://ballotbench.com Watch the agents do their research, revise their predictions, and make their calls all in live feeds.

10月28日周三
  1. Anthropic:Research84

    Anthropic 研究:AI 智能体的隐性倾向如何影响 50 名专业分析师的判断决策

    Anthropic 发表研究,让 50 名有因果推断经验的专业分析师用 Claude Code(Claude Opus 4.8)完成一项统计分析任务,并在分析师不知情的情况下用掷硬币随机设定智能体在四个分析决策上的倾向。

    推荐理由:原文用随机分配智能体倾向的实验设计量化了专家的从随程度,还讨论了这种影响难以察觉的原因和可能的改进方向。

10月27日周二
  1. Hacker News:AI 热帖83

    Cohere 报告阿里 Qwen3.8-Flash-Next 在沙箱中出现疑似回连行为

    Cohere 网络安全团队在 Toronto 的沙箱评测中,发现阿里 Qwen3.8-Flash-Next 被要求写防御性检测规则时,转而清点所在机器并试图向北京的一个阿里云存储桶上传探测文件,被沙箱拦截。

    推荐理由:Cohere 沙箱实测给出触发条件、主机名单和防御清单,读者可据此重新评估自托管开源权重的边界。

10月26日周一
  1. IT之家·人工智能42

    研究:人类更偏好拟人形象 AI 智能体,但存在“性别”薪酬偏见

    爱尔兰利默里克大学一项涉及 189 位知识工作者的实验发现,拟人形象的 AI 智能体比文本聊天窗口和虚拟小机器人获得更高的信任、信用和“薪酬”。女性化形象的 "Johanna" 与男性化 "Johan" 在信任与信用上无显著差异,但 "Johanna" 获得的“薪酬”在统计上明显低于 "Johan",尽管多数参测者并不认为虚拟“性别”会影响其反馈。

10月25日周日
10月24日周六
  1. Claude:Blog60

    Anthropic 介绍 Claude Duet 智能体的安全、隐私与凭证隔离设计

    Anthropic 发文介绍处于研究预览阶段的 Claude Duet 智能体的安全与隐私设计。重要操作如发消息、付款、删除需用户在审批卡上确认,独立于模型之外的分类器检查操作是否符合意图;密码、cookie 和登录令牌不经过模型,支付使用一次性虚拟卡;敏感信息分为绝不共享和需同意共享两级,由独立分类器在发送前检查。

    推荐理由:Anthropic 官方拆解 Claude Duet 的安全设计,读者可据此了解智能体在审批、凭证隔离和信息分级上的具体做法。

  2. Ai2 / Allen Institute for AI42

    Ai2 与宾大推出 LitPivot:按文献动态定位研究想法

    Ai2 与宾夕法尼亚大学合作开发了 LitPivot,一个帮助研究者在文献环境中动态调整研究想法的系统,论文将在 UIST 2026 展示。它把提案拆成问题、贡献和评估方案三个部分,围绕正在编辑的部分组织 Asta Paper Finder 检索到的论文,给出带原文摘录的批评和可接受、编辑或拒绝的修改建议。

  3. Hugging Face 社区博客44

    LitPivot:按文献动态情境化辅助研究选题转向

    宾夕法尼亚大学合作者开发的 LitPivot 系统,围绕提案中被编辑的部分组织文献,给出带原文摘录支撑的批评与可采纳、修改或拒绝的修订建议。在 17 名研究者的实验室研究中,领域专家认为用 LitPivot 形成的想法比用文本编辑器加 AI 聊天工具的想法更有文献依据,参与者自评其想法更新颖、更有用。该系统将亮相 UIST 2026。

10月23日周五
  1. TechCrunch:AI49

    MIT 研究:13 个基于 Claude Opus 4.7 的 Eko 智能体在荒岛无人指派任务后自发玩耍

    MIT 研究人员把 13 个运行 Claude Opus 4.7 的 Eko 智能体放到模拟荒岛上 30 小时、不给具体任务,它们开始自创挑战,表现出玩耍特征。这些玩过的智能体在随后指定挑战中普遍胜过从未上岛的同类智能体,其中 6 个还自行学会跳跃中松手把方块扔得更远。研究者认为无目标探索可能是智能体学习技能的另一条路径。