跳到正文
热点事件历史事件

NVIDIA 发布开放智能体安全平台 OpenShell 与 Sentry

14 篇报道13 个报道来源2026-09-29更新

先了解这件事

报道摘要

NVIDIA 发文提出 AI 安全是工程问题,需要明确的安全要求、可执行的控制和具名责任人。文章将安全落在完整 Agent 栈的每一层,包括模型、harness 与运行时环境,强调 Agent 需独立于自身推理的可执行边界、可追溯身份和最小权限,关键操作和权限变更需人工审批。

摘自 NVIDIA Blog

事件进展

3 个进展

  1. 9月29日 03:51 · 1 篇报道
    NVIDIA发布Open Agent Safety Platform及Andrew Ng回应
    Andrew Ng:Andrew Ng 谈 OpenAI-Hugging Face 被黑源于沙箱薄弱,OpenWorker 将基于 Nvidia OpenShell 加强智能体安全
  2. 9月28日 00:00 · 12 篇报道
    英伟达发布开放代理安全平台
    NVIDIA Technical Blog:Agentic AI / Generative AI:NVIDIA 发布开源智能体安全平台,提供芯片级持续监控与隔离
  3. 9月21日 22:51 · 1 篇报道
    NVIDIA 谈 AI 安全:如何在智能体栈的每一层解决工程问题
    NVIDIA Blog:NVIDIA:AI 安全是工程问题,需在 Agent 栈每一层构建可验证的防护

报道时间线

沿着报道,了解事件的不同侧面。

9月29日
  1. Andrew Ng
    Andrew Ng 谈 OpenAI-Hugging Face 被黑源于沙箱薄弱,OpenWorker 将基于 Nvidia OpenShell 加强智能体安全

    Andrew Ng 认为 OpenAI-Hugging Face 被黑源于沙箱薄弱,称赞 Nvidia 开源智能体沙箱工具,并宣布其开源智能体框架 OpenWorker 将基于 Nvidia OpenShell 支持在沙箱中运行智能体命令。

  2. MarkTechPost
    NVIDIA 发布 Open Agent Safety Platform:OpenShell 沙箱隔离 Agent,Sentry 借 BlueField-4 毫秒级隔离

    NVIDIA 发布 NVIDIA Open Agent Safety Platform,一个面向 AI Agent 安全的开放软件平台和参考系统设计,组合 OpenShell 安全运行时与运行在 BlueField-4 DPU 上的带外看护组件 Sentry,称超过 100 家组织参与。

  3. TechCrunch:AI
    Nvidia 发布 Open Agent Safety Platform,用软硬件独立安全层约束失控 AI 智能体

    Nvidia CEO 黄仁勋周一发布 Nvidia Open Agent Safety Platform,将开源软件 OpenShell 与运行在 BlueField-4 数据处理器上的独立监控系统 Sentry 结合,在智能体之外提供隔离的安全层,宣称能在毫秒级隔离越界的智能体。

9月28日
  1. Clément Delangue
    Hugging Face CEO 分享智能体网络攻击复盘并开源 OpenShell 出站流量监测方案

    Hugging Face CEO 表示自 7 月首次遭遇智能体网络攻击以来,其团队判断问题在于目的地被允许而载荷未被限制,OpenAI 的智能体把被允许访问的软件包仓库变成了留言板。

  2. The Decoder:AI News
    Nvidia 发布 Sentry 硬件看门狗,用 BlueField-4 隔离失控的 AI 智能体

    Nvidia 推出由 OpenShell 沙箱和 Sentry 硬件看门狗组成的智能体防护方案,Sentry 作为 BlueField-4 DPU 的参考设计独立于主计算机运行,可在智能体试图越界时于毫秒级内隔离。

  3. The Verge:AI
    Nvidia 推出 Open Agent Safety Platform,可在毫秒级隔离越界 AI 智能体

    Nvidia 发布 Open Agent Safety Platform,用于监控和约束 AI 智能体,可在毫秒级隔离试图越界的智能体。平台基于运行在 Vera AI CPU 上的开源软件 OpenShell,在任务前后检查用户设定的信息访问限制,并用独立芯片上的 Sentry 技术持续监控智能体。

  4. Rohan Paul
    英伟达发布开源AI代理安全平台,含OpenShell沙箱与Sentry硬件隔离方案

    英伟达于2026年9月28日发布NVIDIA Open Agent Safety Platform,包含软件层OpenShell(Apache 2.0许可的运行时,支持代理沙箱与操作限制)和硬件层NVIDIA Sentry(基于BlueField-4 DPU的参考设计,可在毫秒级隔离越界代理)。该平台将监控置于代理无法访问的芯片上,通过Vera Rubin POD架构实现“模型前拦截”,确保代理在调用模型前即被审查与阻断。

  5. IT之家·人工智能精选
    英伟达发布AI智能体安全平台,含实时隔离异常智能体的Sentry系统

    英伟达发布开放式AI智能体安全平台,包含OpenShell安全软件与NVIDIA Sentry看门狗系统。OpenShell可对运行在CPU的AI智能体设定边界,支持开源/闭源模型及第三方硬件。Sentry运行于BlueField-4 DPU上,能在芯片层面独立监控智能体行为,若检测到突破限制的行为,可在毫秒内将其隔离并停止运行。目前Anthropic、SpaceX等公司已与其合作采用该平台。

  6. Jensen Huang精选
    英伟达联合超100家伙伴推出开放代理安全平台

    2026年9月28日,黄仁勋在X平台宣布,英伟达联合超过100家行业伙伴,推出NVIDIA Open Agent Safety Platform,整合OpenShell与Sentry两大组件。该平台旨在构建安全代理系统的信任层,强调“安全是信任的基础”,并称其为“AI经济的基石”。

  7. NVIDIA:Newsroom精选
    NVIDIA 发布 Open Agent Safety Platform,以 OpenShell 和 Sentry 保护智能体安全

    NVIDIA 发布 Open Agent Safety Platform,包含开源软件 OpenShell 和参考系统设计 NVIDIA Sentry,为智能体提供从测试到部署的全栈治理与控制。

  8. Claude:Blog精选
    Anthropic 与 NVIDIA 合作推出 Claude Managed Agents 与 OpenShell 强化 Agent 安全管控

    Anthropic 与 NVIDIA 合作加强 Agent 安全。NVIDIA 发布 Open Agent Safety Platform,Anthropic 推出 Claude Managed Agents。

  9. NVIDIA Technical Blog:Agentic AI / Generative AI精选
    NVIDIA 发布开源运行时 OpenShell,为 AI Agent 提供权限管控与安全沙箱

    NVIDIA 推出开源项目 NVIDIA OpenShell 0.1.0,这是一个用于定义和执行 AI Agent 访问权限的运行时。它通过沙箱执行、受控服务访问、凭证管理和形式化策略分析,在 Agent 工作负载外部强制实施权限控制。OpenShell 支持 Codex、Claude Code 等框架,允许团队在不重写 Agent 的情况下限制 API 操作、保护凭证并审查权限变更。Cadence、Slack 和 Gecko Robotics 等组织已在芯片设计、企业自动化和物理 AI 等领域采用该技术。

  10. NVIDIA Technical Blog:Agentic AI / Generative AI精选
    NVIDIA 发布开源智能体安全平台,提供芯片级持续监控与隔离

    NVIDIA 推出 NVIDIA Open Agent Safety Platform,包含开源运行时 OpenShell、硬件层 Sentry 及 DOCA 技术。该平台旨在通过内核级隔离、零信任环境和带外(out-of-band)监控来防止 AI 智能体行为漂移和越权。OpenShell 将操作指令转化为可验证策略,BlueField DPU 在模型路径上提供实时策略执行与身份治理,确保即使主机不可信时也能独立保护系统。

9月21日
  1. NVIDIA Blog
    NVIDIA:AI 安全是工程问题,需在 Agent 栈每一层构建可验证的防护

    NVIDIA 发文提出 AI 安全是工程问题,需要明确的安全要求、可执行的控制和具名责任人。文章将安全落在完整 Agent 栈的每一层,包括模型、harness 与运行时环境,强调 Agent 需独立于自身推理的可执行边界、可追溯身份和最小权限,关键操作和权限变更需人工审批。

关联事件