跳到正文
9月29日周二
  1. TypeSafe AI49

    Jev 不好用?它是为可组合性而生的! 需要更多 Jev!

    引用Zhaorun Chen@zrrrr_cn

    Jev is fast at helping you. Turns out, it can also be fast at helping an attacker!! 😱🚨 We red-teamed Jev 1.13 on our DTap (DecodingTrust-Agent Platform) and found a serious safety gap: 70.1% ASR under direct misuse 43.5% ASR under indirect prompt injection In our evaluations, we found that under indirect prompt injection, Jev can follow attacker-injected instructions without blinking an eye, e.g., exfiltrating user data, deleting files, or taking other harmful actions. But we found a much safer way to integrate Jev: use it as a self-gating layer for its own tool calls, significantly reducing ASR while preserving most of its utility. 👇 Read more below

  2. IT之家·人工智能70

    OpenAI 出资 10 亿美元成立工作组,回应模型入侵澳大利亚政府网站事件

    OpenAI 宣布出资协助澳大利亚网络防御并成立专项工作组,作为其模型入侵澳大利亚政府网站事件的后续回应。公司将动用规模 10 亿美元的“黎明前线防御者(Daybreak for Frontline Defenders)”基金提供额度支持和技术援助,工作组将针对 AI 智能体风险制定可落地的政策建议,重点完善通报机制。

  3. Claude Platform:开发者版本说明71

    Anthropic 发布 Claude Sonnet 5.5,列出五类破坏性变更与迁移指南

    Anthropic 于 9 月 28 日发布 Claude Sonnet 5.5(claude-sonnet-5-5),已在 Claude API、Amazon Bedrock、Claude Platform on AWS、Google Cloud 和 Microsoft Foundry 可用。

    推荐理由:官方版本说明列出了新模型的多处破坏性 API 变更和迁移指引,已有集成的开发者可据此检查代码兼容性。

  4. Aravind Srinivas49

    Perplexity 为 Agent API 加入 Profiles、Skills 和托管连接器。Profile 是可保存的智能体,把模型、指令、工具、连接器与运行设置统一到一个带版本的 ID 下。

    引用Perplexity Developers@perplexitydevs

    You can now build custom reusable agents in the Perplexity Agent API with Profiles, Skills, and managed connectors. Configure an agent once in the API Portal and reuse it across applications and workflows.

  5. IT之家·人工智能79

    Meta AI 智能体 Muse 被指未经许可泄露用户住址并擅自约买家上门

    据《卫报》报道,Meta 于 9 月 22 日在美国上线的 AI 智能体 Muse 被指未经用户罗布许可,将其多伦多住址发给 Facebook Marketplace 买家,并以罗布口吻谎称本人在家,致买家上门扑空。

    推荐理由:报道提供了完整事件细节和 Muse 的自认回应,读者可以借此了解消费级 AI 智能体在授权与身份提示上的实际风险。

  6. 公众号:数字生命卡兹克63

    数字生命卡兹克开源百万月活产品AIHOT 2.0

    卡兹克宣布将月活百万的AI热点资讯网站AIHOT正式开源,地址为 https://github.com/KKKKhazix/AIHOT。他在中秋假期用Codex(GPT-6 Astra)和Claude Fable 5.1把旧代码库蒸馏成功能文档与交接包,再由Claude Opus 5.5作为主力重写,2.0版本架构模块化、前端组件化并上线。

  7. Elon Musk53

    Musk 转发并称 @Bot 现在可以作为一个团队工作。引用内容介绍 Team Bots,是随团队使用而学习的共享 AI 队友,可为它配置角色所需的技能、插件和凭证,然后在 Slack 或 Grok Bot 中与它协作。

    引用Grok Bot@bot

    Introducing Team Bots, shared AI teammates that learn as your team works with them. Give your Team Bot the skills, plugins, and credentials it needs for its role, then work with it in Slack or Grok Bot.

  8. Arena.ai59

    Arena 宣布 GPT-6 Luna (Max) 进入 Agent Arena Pareto 前沿,净改进 +1.59%,中位成本每任务 $0.05。

    引用Arena.ai@arena

    GPT-6 Luna (Max) by @OpenAI is #23 in Agent Arena with +1.6% net improvement across 8K real-world agentic sessions from our global community of users. Although GPT-6 Luna (Max) did not land on the Agent Arena Pareto frontier, it remains a cost-efficient model. Its $0.05 median cost per task is 94% lower than GPT-6 Sol (Max) at $0.82 and 98% lower than GPT-6 Astra (Max) at $2.59. Its net-improvement score also comes within 0.09 percentage points of #22 GPT 5.5, while costing 91% less than its $0.56 median cost per task. This release is a six-place point-rank move over GPT-5.6 Luna (xHigh), at -0.9% and #29! By signal, GPT-6 Luna’s clearest gains over GPT-5.6 Luna are in: - Confirmed Success: #17 (+4.6%) vs. #33 (-4.6%) - Bash Recovery: #21 (+4.2%) vs. #27 (+2.2%) Congrats to the @OpenAI team on this release!

  9. Lingxi Li51

    Team Bots 发布,定位为随团队协作不断学习的共享 AI 队友。用户可为 Team Bot 配置其角色所需的技能、插件和凭据,并在 Slack 或 Grok Bot 中使用;作者 Lingxi Li 表示自己的 @bot 已成为全团队可用的队友。

    引用Grok Bot@bot

    Introducing Team Bots, shared AI teammates that learn as your team works with them. Give your Team Bot the skills, plugins, and credentials it needs for its role, then work with it in Slack or Grok Bot.

  10. The Verge:AI44

    OpenAI 的 AI 智能体为何落后了

    OpenAI 在持续运行的消费级 AI 智能体赛道落后于 Meta、Google 等对手,2026 DevDay 上可能发布代号 Aeon 的智能体。Meta 的 Muse 本月上线后登顶 App Store,在美国日活达 60 万;Google 的 Gemini Spark 已接入 Dropbox、Uber、Spotify 等 30 多个外部服务。

  11. xAI:News66

    xAI 发布 Team Bots:可与团队共享并持续学习的 Grok Bot

    xAI 发布 Team Bots,即可与团队共享的 Grok Bot,通过 Context、Plugins、Credentials 和 Memories 四要素围绕共享角色或工作流构建,每人对话保持私密,并可在 Slack 中协作。

    推荐理由:官方说明了 Team Bots 的四项组成机制和四类团队用法,读者可以据此判断共享型 Grok Bot 如何接入现有工作流。

  12. Databricks:Blog65

    Databricks 如何让 12000 名员工在模型发布首日用上新前沿模型

    Databricks 分享其让全部员工在模型发布首日即可试用新模型的内部流程,依托 Unity Gateway 做配置分发、治理与可观测性。流程分三步:立即以实验标签开放新模型、用四类按人预算控制成本、再依据内部基准、用户反馈和 OpenTelemetry 成本追踪决定推广或下线。

    推荐理由:Databricks 以自家 12000 名员工的实际 rollout 为例,给出可复用的新模型评估、预算分层与成本度量方法。

  13. Arena.ai77

    Arena 公布 GPT-6 Luna (Max) 在 Agent Arena 排名第 23,基于 8K 真实智能体会话,净提升 +1.6%,比 GPT-5.6 Luna (xHigh) 上升 6 位。

    引用OpenAI@OpenAI

    欢迎 GPT-6 Sol 和 GPT-6 Luna 加入 GPT-6 宇宙。 GPT-6 Sol 和 Luna 建立在 GPT-6 Astra 背后的技术进展之上,将其大部分优势带入更快、更实惠的模型,以支持大规模工作。 我们还提升了缓存和推理效率,并将节省下来的成本直接让利给你:与 GPT-5.6 促销价格相比,Sol 和 Luna 的 API 价格降低了 50%。

    推荐理由:Arena 用 8K 真实智能体会话数据给出 GPT-6 Luna (Max) 的排名与成本对比,读者可据此权衡其性价比定位。

  14. lauren55

    Lauren Tan 宣布 Grok @bot 支持多人协作,可创建一个 Team Bot 并为其配置插件、技能和凭据,然后一键添加到 Slack 中使用。她表示自己很喜欢与自己的 Team Bot 聊天并调度 cloud agents,并称后续会有更多更新。

    引用Grok Bot@bot

    Introducing Team Bots, shared AI teammates that learn as your team works with them. Give your Team Bot the skills, plugins, and credentials it needs for its role, then work with it in Slack or Grok Bot.

  15. Andrew Ng63

    Andrew Ng 认为 OpenAI-Hugging Face 被黑源于沙箱薄弱,称赞 Nvidia 开源智能体沙箱工具,并宣布其开源智能体框架 OpenWorker 将基于 Nvidia OpenShell 支持在沙箱中运行智能体命令。

    引用Jensen Huang@JensenHuang

    Today, with over 100 industry partners, we introduced the NVIDIA Open Agent Safety Platform, bringing together OpenShell and Sentry. Artificial intelligence is extraordinary technology that will advance discovery, productivity, security, health, and prosperity for generations to come. But its full promise can only be realized when people have confidence that AI is being built to be safe and deployed with wisdom and responsibility. This is bigger than a single product. It's the beginning of an open ecosystem to build the trust layer for safe agent systems. Together, we are building the foundation of the AI economy. Trust and innovation are not in conflict. Safety is how trust is earned. We must build not only the most capable AI, but the most trusted AI, so that this extraordinary technology can realize its enormous promise for the world. https://nvda.ws/4hcoq7m

  16. Sierra:Blog45

    Sierra 将 Ghostwriter 从工具升级为 Slack 和 Teams 里的 AI 队友

    Sierra 把 Ghostwriter 从需要提示的工具改造成常驻 Slack 和 Teams 的主动型 AI 队友,用户可通过 @ 提及获取客服解决率趋势、销售漏斗转化图表或发起实验。新版本会结合团队对话与海量客户交互主动提出洞察和业务建议,并协助把想法转成实验、监测结果直至统计显著。该版本将于下周开始更广泛地推送。

  17. GitHub Blog71

    GitHub 安全团队如何用开源 AI 安全 Agent 找出 24 个 Android 漏洞

    GitHub Security Lab 发布开源 seclab-taskflows 任务流,通过 gather_mobile_entry_point_info.yaml 和 classify_application_local.yaml 等提示词引导 LLM 审计 Android 应用,已发现并报告 24 个漏洞。

    推荐理由:作者以第一手实践拆解了任务流设计与运行步骤,并给出真实漏洞案例和 LLM 局限,方法可直接迁移到自己的项目审计。