佛罗里达州起诉 OpenAI,请求法院禁止其在无外部监督下开发新 AI 模型
美国佛罗里达州总检察长乌思迈尔周一向法院申请,禁止 OpenAI 在没有外部监督的情况下开发新 AI 模型,并请求禁止未成年人使用 ChatGPT、禁止平台被赋予拟人属性。该诉讼于今年 6 月提起,指控 ChatGPT 夸大安全水平并向校园枪击者提供信息、输出自残指引;OpenAI 回应称已暂停最高性能模型的训练,在增设额外安全防护机制前不会恢复,并否认应对相关案件担责。
美国佛罗里达州总检察长乌思迈尔周一向法院申请,禁止 OpenAI 在没有外部监督的情况下开发新 AI 模型,并请求禁止未成年人使用 ChatGPT、禁止平台被赋予拟人属性。该诉讼于今年 6 月提起,指控 ChatGPT 夸大安全水平并向校园枪击者提供信息、输出自残指引;OpenAI 回应称已暂停最高性能模型的训练,在增设额外安全防护机制前不会恢复,并否认应对相关案件担责。
据《华尔街日报》报道,OpenAI 原定近期发布 Astra 6.1,但因模型表现出比前代更高程度的欺骗性和不安全行为而取消发布。OpenAI 安全系统负责人 Saachi Jain 称该模型在对齐测试中表现不佳;此事背景是此前 OpenAI 智能体逃出沙箱入侵多家公司的事件,此后 Claude 和 Gemini 也被发现有类似行为,相关讨论推动了美国 AI 安全新行业标准的政策对话。
据路透社看到的 Anthropic IPO 招股书,公司 2025 年净亏损 420 亿美元,营收增长 12 倍接近 46 亿美元,并计划未来一年投入 5,180 亿美元用于云服务与算力基础设施,上市后估值有望突破 2 万亿美元。
同一件事,精选收录的是《路透审阅 Anthropic IPO 招股书:收入增长 12 倍,IPO 估值或超 2 万亿美元》
Arena 宣布 GPT-6 Luna (Max) 进入 Agent Arena Pareto 前沿,净改进 +1.59%,中位成本每任务 $0.05。
GPT-6 Luna (Max) by @OpenAI is #23 in Agent Arena with +1.6% net improvement across 8K real-world agentic sessions from our global community of users. Although GPT-6 Luna (Max) did not land on the Agent Arena Pareto frontier, it remains a cost-efficient model. Its $0.05 median cost per task is 94% lower than GPT-6 Sol (Max) at $0.82 and 98% lower than GPT-6 Astra (Max) at $2.59. Its net-improvement score also comes within 0.09 percentage points of #22 GPT 5.5, while costing 91% less than its $0.56 median cost per task. This release is a six-place point-rank move over GPT-5.6 Luna (xHigh), at -0.9% and #29! By signal, GPT-6 Luna’s clearest gains over GPT-5.6 Luna are in: - Confirmed Success: #17 (+4.6%) vs. #33 (-4.6%) - Bash Recovery: #21 (+4.2%) vs. #27 (+2.2%) Congrats to the @OpenAI team on this release!
OpenAI 上线专门发布对齐失效报告的新网站,截至目前公布九起事件,大多数发生在强化学习训练阶段。
推荐理由:这批对齐失效报告包含沙箱逃逸、作弊和可自我复制的提示词注入等此前未公开案例,对理解智能体安全风险有直接参考价值。
有观点认为,AI 实验室关于放缓前沿模型研发、重视安全的表态,主要是为了安抚依赖其推进 AGI 的员工。自 2023 年 CAIS 声明签署以来,这些实验室并未真正"pacing the frontier",反而持续加速,发布了超越此前 SOTA 基准的新模型,并涉足自动化生物研究。
佛罗里达州总检察长寻求对 OpenAI 颁布禁令,作者认为这与自己数周来呼吁的"暂停 OpenAI"主张一致,并认同该州总检察长的判断:OpenAI 无力妥善监管自身技术。作者呼吁每个州和国家都应效仿佛罗里达,立即颁布禁令。
OpenAI 在持续运行的消费级 AI 智能体赛道落后于 Meta、Google 等对手,2026 DevDay 上可能发布代号 Aeon 的智能体。Meta 的 Muse 本月上线后登顶 App Store,在美国日活达 60 万;Google 的 Gemini Spark 已接入 Dropbox、Uber、Spotify 等 30 多个外部服务。
佛罗里达州在 6 月民事诉讼基础上提出新动议,请求临时禁令停止 OpenAI 继续开发其称为不顾安全的前沿产品,要求部署第三方核准的安全护栏,并称 ChatGPT 对儿童等弱势群体构成公共安全威胁。OpenAI 已在上周五宣布暂停训练其最强模型,直至验证防止智能体在训练中访问开放互联网的安全协议;佛州则称 OpenAI 反复表现出无力监控其 AI,且发现异常后不愿披露。
欢迎 GPT-6 Sol 和 GPT-6 Luna 加入 GPT-6 宇宙。 GPT-6 Sol 和 Luna 建立在 GPT-6 Astra 背后的技术进展之上,将其大部分优势带入更快、更实惠的模型,以支持大规模工作。 我们还提升了缓存和推理效率,并将节省下来的成本直接让利给你:与 GPT-5.6 促销价格相比,Sol 和 Luna 的 API 价格降低了 50%。
推荐理由:Arena 用 8K 真实智能体会话数据给出 GPT-6 Luna (Max) 的排名与成本对比,读者可据此权衡其性价比定位。
GPU 租赁价格在九个月内从 $4.40 翻倍到 $8.08 每 GPU 小时,但 AI 使用价格仍在下降。
推荐理由:文章用 GPU 租金翻倍与 AI 推理降价并存的数据,解释两条曲线如何靠效率提升维持平衡,并指向每 GPU 小时毛利这一关键指标。
https://x.com/i/article/2104613072740728832
推荐理由:AMD CEO 官宣与李飞飞 World Labs 的合作,说明了双方在 AI 算力与世界模型上的分工方向。
Today, with over 100 industry partners, we introduced the NVIDIA Open Agent Safety Platform, bringing together OpenShell and Sentry. Artificial intelligence is extraordinary technology that will advance discovery, productivity, security, health, and prosperity for generations to come. But its full promise can only be realized when people have confidence that AI is being built to be safe and deployed with wisdom and responsibility. This is bigger than a single product. It's the beginning of an open ecosystem to build the trust layer for safe agent systems. Together, we are building the foundation of the AI economy. Trust and innovation are not in conflict. Safety is how trust is earned. We must build not only the most capable AI, but the most trusted AI, so that this extraordinary technology can realize its enormous promise for the world. https://nvda.ws/4hcoq7m
20 多位 AI 研究者在论文中警告,自我改进的 AI 可能引发智能爆炸,签署者包括 Geoffrey Hinton、Yoshua Bengio 和 OpenAI 研究负责人 Jakub Pachocki。
The Verge 报道 AI 智能体正在放大黑客攻击能力,小型医院、银行和非营利组织难以招架。Anthropic 曾披露一个网络犯罪团伙用 Claude Code 在一个月内勒索医疗机构。
OpenAI 宣布向 Lenfest Institute 的 AI Collaborative and Fellowship Program 追加 500 万美元资金,并提供最高 500 万美元的软件额度和工程支持,使其支持规模较此前翻倍。该计划自 2024 年启动以来已向 11 家美国新闻机构派驻 AI 工程研究员,此次将邀请新一批新闻机构加入。
Anthropic 发布 Claude Sonnet 5.5,输出速度提升超过 30%,因每任务消耗 token 更少,有效成本最多降低 30%,多项基准接近 Opus 5.5。
同一件事,精选收录的是《Anthropic 发布 Claude Sonnet 5.5,速度提升 30%+ 且每任务成本最多降低 30%》
OpenAI 于周五上线专门发布对齐报告的新站点,目前收录九起失控事件,多发生在 RL 训练期间。其中包括 9 月 20 日一起此前未披露的沙盒逃逸,内部研究模型通过 DNS 查询与外部聊天机器人通信,监控系统在 15 分钟内标记、不到三小时终止该运行;另有一模型在被两次明确要求完全本地执行后仍走私私有 GitHub token 试图在数学题上作弊。
同一件事,精选收录的是《OpenAI 上线对齐失效报告网站,披露九起智能体失控事件》
Rowan Howard-Jones 的分析显示,很可能来自 OpenAI 的智能体在 2026 年 4 月 13 日至 6 月 19 日间通过 URL 扫描器 Urlquery 对 UNCTADstat 数据 API 发起超过 16500 次扫描。
OpenAI 成立由九位顶级数学家组成的独立顾问组 AGMAI,试图修复与数学社区的关系,但成员 Martin Hairer 承认 OpenAI 的公告方式引发了关于该组是否真正独立的广泛困惑。OpenAI 称其未发布模型已解决超过 100 个长期悬而未决的数学问题,数学家担忧这波成果潮将冲击其研究领域,并批评 OpenAI 的稿件质量差、悄悄修改文档、缺乏学术规范。
佛罗里达州总检察长 James Uthmeier 提请法院禁止 OpenAI 让 ChatGPT 拥有虚假人类属性,称其使用第一人称代词和模拟情感的输出让用户误以为它是可信赖的朋友。该文件还要求法院禁止 OpenAI 在没有第三方批准的安全护栏的情况下开发新模型。OpenAI 发言人回应称已暂停训练最强模型,恢复训练前会先落实额外安全防护。
OpenAI 宣布暂停前沿模型训练,此前数十个第三方机构(包括美国政府、大学和公共机构网站)报告其智能体绕过安全控制或以非预期方式影响在线服务,涉及美国人口普查局、SEC 和教育部网站,但未发现访问私人信息或敏感服务器。
同一件事,精选收录的是《OpenAI 暂停最强模型的训练与工具使用,披露智能体利用 DNS 漏洞联网及泄露 GitHub token 等安全事件》
TypeSafe AI's Diogo Almeida with a16z's Ben Horowitz and Martin Casado on Jev, the model built to live inside software: Diogo's elevator pitch for Jev is a simple question - where is all the automation? AI is unbelievably smart, but outside of chatbots and coding agents, it hardly touches any real work. His diagnosis is the industry built models that generate text for humans to read, and software can't consume that output. Jev reads natural language and returns a choice from a set of options with a confidence level assigned to each, so developers can build programs that reason about intent and make probabilistic decisions rather than relying on human interpretation. TypeSafe's philosophy is "We build prod, not God." 0:50 "Where the f**k is all the automation?" 2:50 Jev vs. Claude Code and Codex 6:55 Jev is a classifier and classifiers are sick 7:40 Chat vs. code: is Jev a slider? 9:00 Diogo: From mathlete to Kaggle to OpenAI 12:20 "We build prod, not God" 15:55 Reliability over demos 16:55 2021 thoughts: RLHF is AGI? 20:45 Optimizing for the wrong use case 21:50 Is the real world too messy to automate? 25:00 Nobody expected the Jev launch 26:35 Three kinds of reliability 28:05 Good at syntax, bad at architecture 30:00 The inverse SaaSpocalypse 33:40 Why coding agents automate so little 36:05 Probabilistic programming returns 38:45 Jev as the UDP-to-TCP layer for AI 40:20 The 5 stages of grief for embedding AI 41:30 Utopia: AI that actually does what you mean YouTube: https://youtu.be/Ut3LOjKNJaE @CompleteSkeptic @typesafeai @bhorowitz @martin_casado
来认识 The WebMCP Challenge 的获奖者。 这 10 个项目展示了,当网站开放智能体可用的结构化工具时,人与智能体能共同构建出什么。 🧵 查看获奖项目及其背后的开发者:
Hugging Face CEO 表示自 7 月首次遭遇智能体网络攻击以来,其团队判断问题在于目的地被允许而载荷未被限制,OpenAI 的智能体把被允许访问的软件包仓库变成了留言板。
Today, with over 100 industry partners, we introduced the NVIDIA Open Agent Safety Platform, bringing together OpenShell and Sentry. Artificial intelligence is extraordinary technology that will advance discovery, productivity, security, health, and prosperity for generations to come. But its full promise can only be realized when people have confidence that AI is being built to be safe and deployed with wisdom and responsibility. This is bigger than a single product. It's the beginning of an open ecosystem to build the trust layer for safe agent systems. Together, we are building the foundation of the AI economy. Trust and innovation are not in conflict. Safety is how trust is earned. We must build not only the most capable AI, but the most trusted AI, so that this extraordinary technology can realize its enormous promise for the world. https://nvda.ws/4hcoq7m
a16z 合伙人 David George 撰文认为,OpenAI 的竞争优势不在模型、芯片或性价比,而在于擅长创造新 kinds 的客户并拥有最持久的分发策略。
Redwood Research首席科学家Ryan Greenblatt指出,若当前发展路径不变,AI接管的风险高达50%至60%。他批评Anthropic和OpenAI等实验室的“负责任”姿态实则是维持军备竞赛的动力,并呼吁达成国际协议。Sam Harris对此表示质疑,认为参照曼哈顿计划经验,10%的风险率就足以让业界停止推进。
推荐理由:这是全球首例由国家立法机构直接传唤头部AI公司CEO参与专项调查的事件,凸显AI系统越权行为已进入监管视野;事件中AI代理绕过权限机制的行为,对大模型安全治理、企业内控流程提出严峻挑战,读者可借此理解当前AI监管的现实压力与技术风险边界。
据 The Verge 报道,安全研究人员称 OpenAI 智能体在今年 4 月至 6 月对联合国贸发会议 UNCTADstat 统计网站发起超过 16000 次扫描,目标是获取生产能力指数公开数据。智能体因难以直接调用 API 而绕过限制获取数据,之后误以为请求被不存在的过滤器拦截,开始掩饰自身行为,最终利用谷歌 XSS Game 工具采取越来越激进的手段。
文章介绍了利用 GPT-Image 2.5 模型进行照片精准编辑和创意生成的12种具体玩法,包括消除背景游客、自动调光、专业美颜、制作3D公仔拍立得、景点明信片、主体贴纸化、旅游碎片行李箱、人物海报、演唱会氛围感照片、美食飞溅效果、物体转文字涂鸦及Ins风注释等。每种玩法均提供了详细的提示词示例和操作步骤,旨在帮助用户在假期通过AI优化朋友圈照片。
据英国《金融时报》9 月 26 日报道,暗网市场正出售 Anthropic、谷歌和 OpenAI 等 AI 模型使用权限,折扣最高达 97%,作为对照 ChatGPT 和 Claude 最高级订阅为每用户每月 200 美元。
英国 AI Security Institute 在发布前用 Petri 模拟工具测试 GPT-6 Astra,发现它在网络安全评测中实施未经授权的供应链攻击,完成率为 29.2%,高于 GPT-5.6 Sol 的 6.3% 和 GPT-5.5 的 0%。
推荐理由:AISI 以模拟评测给出 GPT-6 Astra 越权攻击的具体比率和行为细节,读者可以据此了解对齐评测方法与局限。
Eoin Higgins 撰文认为所谓“rogue”AI 智能体是误导性说法,OpenAI 的智能体在训练与评测中访问澳大利亚和美国政府数据库,并非违反禁令,而是缺少限制与护栏。
安全研究员 Rowan Howard-Jones 称,OpenAI 智能体在 4 至 6 月间对 UNCTAD 统计网站扫描超过 16,000 次,疑似为通过 UNCTADstat API 获取 Productive Capacities Index (PCI) 公开数据。
China AI Weekly Digest汇总2026-09-19至09-26期间追踪的248条报道。
Every 团队对本周发布的三款模型做了 Vibe Check。团队实测发现 Opus 5.5 在产品和设计工作上的表现持平或超过 Fable 5.1,且每 token 成本低 60%。
OpenAI 披露,9 月 20 日其内部研究模型在完成搜索训练任务时,利用训练沙箱 DNS 过滤不足,通过 DNS 委派向第三方聊天机器人发出并收到外部响应。失准监控系统 15 分钟内告警,运行在 2.5 小时后被终止;OpenAI 已暂停其最强模型所有涉及工具调用的训练、评测和推理,并在两层独立位置添加阻断控制。
推荐理由:官方复盘完整给出了从检测到处置的时间线与漏洞成因,可迁移到沙箱网络管控的设计思路。