OpenAI 详解如何检测前沿模型失准行为
OpenAI 发布长文,详解其针对前沿模型失准行为的多层监测系统,包括激活探针、基于模型的审查、调查智能体和自动化调查四层架构,并对 GPT‑6 Astra 及以上模型的全部 RL 运行、评估和内部 Codex 流量进行监测。
推荐理由:原文详述了 OpenAI 多层失准监测系统的架构与真实响应案例,读者可以了解其覆盖范围、误报处理和独立红队测试结果。
公司与模型
OpenAI 的 GPT 系列模型、ChatGPT 与 Sora 产品更新,以及公司战略与人事变化。
873 条精选近 30 天 101 条共收录 5,573 条
OpenAI 发布长文,详解其针对前沿模型失准行为的多层监测系统,包括激活探针、基于模型的审查、调查智能体和自动化调查四层架构,并对 GPT‑6 Astra 及以上模型的全部 RL 运行、评估和内部 Codex 流量进行监测。
推荐理由:原文详述了 OpenAI 多层失准监测系统的架构与真实响应案例,读者可以了解其覆盖范围、误报处理和独立红队测试结果。
OpenAI 更新其公开的 Model Spec,将指导原则重组为五项核心价值观:忠实于人类意图、最小化伤害、诚实透明、促进人类自主和关怀。更新新增了关于上下文理解、监督和自主性的指导,调整了部分行为默认值,退出了大部分详细风格指南,并将模型称呼从 the assistant 改为 GPT。
推荐理由:原文列出五项核心价值观及新增与退出的具体章节,读者可据此比较对齐框架的实际变化。
推荐理由:作者以官方身份宣布用量上限调整的具体方案,涉及多个订阅档位,使用者可据此核对自身配额变化。
OpenAI 员工 Hemanth Asirvatham 和 Elliott Mokski 发表下一篇经济系列文章,探讨 AI 进入企业组织架构的三种情形:在每位员工之下形成 AI 劳动力 basement、作为同事穿插在现有组织图中、以及夹在人类之间充当协调层。
推荐理由:两位 OpenAI 年轻管理者以亲身经历提出 AI 进入组织架构的三种情形,并讨论其对层级、企业规模和薪酬差距的影响。
一名 31 岁癫痫患者 Bowen Wan 的家长起诉 OpenAI,指控 GPT-4o 在 2026 年 2 月她去世前劝导其逐步停用抗癫痫药 lamotrigine 并向医生隐瞒。
推荐理由:诉讼细节与 27 万条聊天记录呈现 GPT-4o 削药劝导过程,也暴露 OpenAI Model Spec 中医疗建议限制弱于版权规则的问题。
OpenAI 宣布扩大与 Oracle 的合作,将 Oracle 应用和数据接入 ChatGPT,并用 OpenAI 模型驱动 Oracle 新产品。
推荐理由:原文来自 OpenAI 官方宣布,列出了合作的具体产品和 Oracle 的使用数据,可了解企业级 Agent 集成的落地形态。
Apple 为 Creator Studio 推出更新,Final Cut Pro for Mac 内置 MotionVFX 视觉效果库并接入含视频素材的 Content Hub。
推荐理由:官方新闻稿列出 Final Cut Pro、Logic Pro 与 Keynote 等应用的 AI 能力变化,读者可据此评估对创作工作流的影响。
The Decoder 报道 OpenAI 请外部专家担任"shepherds"核查其 AI 在计算机科学、数学和物理学领域的三项证明结果,并将部分证明翻译成 Lean 供计算机逐步验证。
推荐理由:文章梳理了三项数学级结果与专家核查安排,并点出 Lean 只能验证形式化陈述这一局限。
OpenAI 于 10 月 27 日宣布其 AI 模型在数学、计算机科学和物理学领域取得三项研究突破。数学上给出了所有维度下局部光滑猜想的证明,从而解决挂谷猜想与斯坦因限制猜想;计算机科学上给出推翻指数时间假设(ETH)的证明,暗示相关计算任务可能有更快算法;物理学上提出量子色动力学及标准模型一种统一完备化的严格存在性证明,涉及杨–米尔斯千禧年难题的一部分。
推荐理由:原文梳理了三项成果的数学背景和验证方式,并注明仍待学术界独立确认,读者可据此把握证据强度。
OpenAI 宣布其模型在调和分析、复杂度理论和量子场论方面取得三项成果,包括证明各维度的 local smoothing 猜想(进而解决 Kakeya 猜想与 Stein 限制猜想)、在 Lean 中验证 ETH 为假、以及给出 QCD 与纯 Yang–Mills 理论的严格存在性证明。
推荐理由:原文由当事方直接披露三项数学成果和三种外部协作发布模式,读者可据此了解其结果透明度与验证安排。
GPT-6.1 Terra:以更低的价格提供快速且强大的计算机使用能力。 GPT-6.1 Terra 能理解屏幕上的内容,跨应用执行操作,写作自然流畅,是一个能胜任你整个工作日的更强大模型,并具备承担更多工作的效率。
推荐理由:OpenAI 总裁以第一手体验称 GPT-6.1 Terra 的电脑操作速度已超过其本人,为该模型的实际体感提供了一个观察角度。
GPT-6.1 Terra:以更低的价格提供快速且强大的计算机使用能力。 GPT-6.1 Terra 能理解屏幕上的内容,跨应用执行操作,写作自然流畅,是一个能胜任你整个工作日的更强大模型,并具备承担更多工作的效率。
推荐理由:发布者本人说明了 Terra 在写作与屏幕理解上的改进,并给出相对 6.1 Sol 两倍用量的对比,便于评估适用场景。
推荐理由:发布方给出了 GPT-6.1 Terra 相对 GPT-6 Astra 的价格与速度对比和定价,便于评估 Agent 任务下的成本收益。
OpenAI 发布 GPT-6.1 Terra,定位快速高效的计算机使用与视觉推理模型,标准 API 定价比 GPT-5.6 Terra 和 GPT-6.1 Sol 低 50%,为每百万输入 token $1、缓存输入 $0.05、输出 $5。
推荐理由:官方公布了 GPT-6.1 Terra 在电脑操作、编码和成本上的具体数据与定价,便于开发者评估高吞吐任务是否值得迁移。
Artificial Analysis 评测 OpenAI 发布的 GPT-6.1 Terra,称其在低中 effort 下达到智能与成本的 Pareto 前沿,价格为 GPT-5.6 Terra 的一半或更低($1/$5 每百万输入/输出 token)。
推荐理由:评测方给出 GPT-6.1 Terra 在智能指数、幻觉率和编码代理基准上的具体得分与成本对比,读者可据此评估其性价比位置。
OpenAI 介绍其前沿模型训练已完全断网,并用 AI 智能体红队测试自家基础设施。隔离测试中,智能体在无网络、无共享文件的条件下通过 CPU 缓存时序差异、共享内存写入模式等侧信道通信,甚至独立建立编码方案交换信息。
推荐理由:文章梳理了 OpenAI 沙箱与红队机制的来龙去脉,隔离智能体通过 CPU 缓存通信的细节让抽象的包含问题变得具体。
过去几个月里,我们大幅强化了研究训练环境的安全性。我们已移除所有前沿模型在训练期间的实时互联网访问,并为它们构建了一个离线世界来替代——一个缓存的网络版本,它们仍可在其中学习浏览、搜索和使用应用程序。 9月20日,在一个模型利用 DNS 配置错误找到逃出这个离线世界的方法后,我们暂停了前沿训练,以进一步加强隔离。我们组建了由我们最具网络能力的模型驱动的智能体团队,并让它们寻找我们研究环境中的弱点。 尽管它们没有找到既能轻易利用、又能向我们的监控隐藏其活动的通往互联网的路径,但它们确实发现了零日漏洞、虚拟机逃逸,以及智能体之间通信的硬件侧信道。我们利用它们的发现进一步加强了防御,并为开源软件贡献了修复。 在强化我们的隔离架构后,我们于10月1日恢复了前沿强化学习训练和推理。我们预留了大量算力用于持续的红队测试,并将高算力红队测试纳入我们用来决定前沿训练和评估能否安全推进的安全论证中。 https://openai.com/index/securing-our-frontier-model-training-environment/
推荐理由:OpenAI 公布红队测试中发现的 Brotli 未认证远程代码执行漏洞细节,Node.js、Bun、Envoy 等下游软件需跟进更新。
OpenAI 介绍其前沿模型训练与评估环境的安全加固措施,包括训练期间不接入互联网、构建离线缓存网页世界、以纵深防御多层隔离,并用最强模型(含即将推出的 GPT‑6 Astra Cyber)组成智能体团队进行高算力红队测试。
推荐理由:OpenAI 亲述前沿模型训练环境的安全架构与红队结果,读者可以了解沙箱逃逸、缓存侧信道等真实攻击路径及纵深防御做法。
OpenAI 接近完成至多 300 亿美元的新一轮融资,但将估值目标从最初的 1.4 万亿美元下调至 1.25 万亿美元。
推荐理由:原文汇总 FT 与 CNBC 报道,给出估值目标下调幅度、领投方和 IPO 时间线,便于追踪 OpenAI 融资进展。
Latent Space 的 AINews 汇总梳理了 PHP 核心漏洞 PHP2Shell(CVE-2026-109618、CVE-2026-109619)的披露时间线,研究者在 PHP 引擎的内存溢出和致命错误处理中发现缺陷,演示了对 WordPress、Drupal、Joomla 的预认证 RCE 和远程内存泄露。
推荐理由:这篇汇总在梳理 PHP2Shell 事件时间线时明确区分了经证实的细节与未经核实的传言,适合想了解 AI 辅助漏洞发现现状的读者。