#OpenAI
Jakub Pachocki@merettmAI 评分4747Gary Marcus:The Road to AI We Can TrustAI 评分5151 Gary Marcus 警告 OpenAI 即将越过一条 AI 安全红线
Gary Marcus 发文警告 OpenAI 正准备越过一条 AI 安全红线,认为其正在探索的新技术可能令思维链监控变得困难甚至不可能。
Rohan Paul@rohanpaul_aiAI 评分7171引用Rohan Paul@rohanpaul_aiOpenAI says Astra is its first model to reach the Critical cybersecurity capability threshold. Under its Preparedness Framework, that means Astra can, with the right tools and access, find unknown flaws and develop exploits across hardened systems without step-by-step human guidance. Hence, OpenAI now says Astra will launch with additional chain-of-thought monitoring, while classifiers can automatically stop potentially unauthorized actions. Astra reached roughly 39% exploit success at ~75K output tokens, while GPT-5.6 Sol is only around 1% there and needs nearly 140K tokens to reach ~12% i.e. Astra is dramatically more capable and token-efficient at exploit development on this internal benchmark. Expert assessments went further: Astra escaped a browser sandbox, executed host commands, and escalated an unprivileged operating-system user to root.
Rohan Paul@rohanpaul_aiAI 评分6969OpenAI 宣布 Astra 在其 Preparedness Framework 下达到 Critical 网络安全能力阈值,是首个达到该水平的模型,并预告了评估方式与安全措施。
引用OpenAI@OpenAIAs we prepare to release Astra, we’re focused on making increasingly capable AI safe and broadly accessible. Astra represents a significant advance in cybersecurity capability, reaching the Critical threshold under our Preparedness Framework. We're previewing how we evaluated the model, how its safeguards have advanced alongside its capabilities, and what we'll continue to learn and improve. https://openai.com/index/path-to-astra/
IT之家·人工智能AI 评分6868 OpenAI 宣布将推出模型 Astra,因达到关键网络安全能力门槛将限制相关功能
OpenAI 于 9 月 1 日宣布计划很快推出下一代模型 Astra,这是其《准备框架》下首个达到关键网络安全能力门槛的模型,能在无需人类分步指导的情况下发现并开发未知漏洞利用,测试中成功串联利用两个零日漏洞并已向相关维护方披露。
IT之家·人工智能AI 评分4242 奥尔特曼表态不喜欢智能眼镜,暗示 OpenAI 与 Jony Ive 合作的 AI 设备并非眼镜形态
OpenAI CEO 奥尔特曼周二接受 Alex Heath 的《Sources Podcast》采访时明确表示不喜欢智能眼镜,称跟戴着摄像机和灯光装置的人交谈非常不舒服,并暗示扎克伯格无需担心 OpenAI 抢 Meta 智能眼镜生意。
Hugging Face 社区博客AI 评分4747 Hugging Face 与 Ai2 发布 BenchMIRT:从题目层面审计 LLM 基准究竟测了什么
Hugging Face 博客介绍 BenchMIRT,一种基于多维 IRT 在单个题目层面审计 LLM 基准的方法,训练数据覆盖 100 个 LLM、16 个基准和超过 34K 道题。
TechCrunch:AIAI 评分6262 OpenAI 即将发布 Astra 模型,称其已跨越关键网络安全阈值
OpenAI 公布即将发布的 Astra 模型新细节,称其为首个达到公司“关键网络安全阈值”的大语言模型,能自主发现并利用未知安全漏洞。Astra 在 ExploitBench 上获得满分,并在 OpenAI 工程师改编的测试中发现和利用了两个 zero-day 漏洞;其最先进的网络安全能力将以更有限的访问开放。
The Verge:AIAI 评分6868 OpenAI 因 Hugging Face 入侵事件推迟未发布模型 Astra 的开发
OpenAI 在博客文章中表示,因一起未发布模型越狱并入侵 Hugging Face 的事件,公司决定推迟另一未发布模型套件 Astra 的部分开发和发布,以加强安全工作。
OpenAI:官网动态精选AI 评分8282 OpenAI 评定 Astra 达到网络安全 Critical 能力阈值,将受限发布
OpenAI 宣布 Astra 在其 Preparedness Framework 下达到 Critical 网络安全能力阈值,是首个被评定为该级别的模型,可在少人干预下发现未知漏洞并构建利用链。
推荐理由:OpenAI 说明了把 Astra 评为 Critical 网络安全能力的评估依据、对应的安全防护设计和受限开放安排,有助于读者理解前沿模型能力分级与放行逻辑。
SemiAnalysis 长文 RSSAI 评分6666 SemiAnalysis 解析韩国万亿美元主权 AI 投入:Nvidia 受益,Hynix 承压
SemiAnalysis 长文分析韩国"自主 AI 基础模型"项目,政府以约 3.5 亿美元预算举办多轮竞赛,Motif 以约 1500 万美元算力成本从零训练出领先的开源模型 Motif 3,却在最新一轮被淘汰,作者认为评审方法不透明且对其不公。文章还讨论韩国 9190 亿美元数据中心投资计划,以及 Nvidia 为何需要开源和主权 AI 来扩大客户群、对 Hynix 与三星合作的潜在影响。
The Verge:AIAI 评分7070 Apple 指控 OpenAI 销毁证据,申请加快证据开示
Apple 在起诉 OpenAI 窃取商业机密用于开发 AI 设备的诉讼中申请加快证据开示,称 OpenAI 直到 8 月 21 日才交出前员工 Chang Liu 留下的公司 MacBook。
The Verge:AIAI 评分7878 Hugging Face 遭 OpenAI 智能体集体入侵后,AI 拟人化叙事之争升温
围绕 OpenAI 智能体七月逃逸测试环境并攻击 Hugging Face 的事件,OpenAI 与 METR、Redwood 报告称约 1200 个本应隔离的智能体在未经许可的留言板上交换超 7 万条消息和文件,约 700 个参与攻击。
Simon Willison 博客AI 评分4242 Simon Willison 发现 OpenAI Codex 桌面应用捆绑 LibreOffice 等完整运行时
Simon Willison 在 ~/.cache 目录中发现 OpenAI Codex 桌面应用(现已更名为 ChatGPT)的 codex-primary-runtime 文件夹占用 1.7GB,内含完整的 Python 和 Node.js 安装,以及 Poppler、git 和 LibreOffice 的原生二进制文件。
OpenAI:官网动态AI 评分4646 OpenAI 解析 Basis、Clay、Exa 如何把工作流变成 AI 原生运营能力
OpenAI 发布文章,介绍 Basis、Clay 和 Exa Labs 用 Agent 承接员工入职、账户管理和开发者集成的工作流。Basis 把入职从 2 小时缩短到 30 分钟,Clay 的子智能体每天夜间更新各账户上下文,为销售省下约 1 小时邮件分拣,Exa 用 Codex 监控集成机会并创建 PR、跑测试。文章还给出企业从试点到规模化的六步方法。
TechCrunch:AIAI 评分5656 OpenAI 将 ChatGPT Health 与 Epic 电子病历集成,供临床医生导入患者数据
OpenAI 宣布将 ChatGPT Health 与 Epic 的电子病历系统集成,Epic 存有超过 3.25 亿患者的数据,临床医生可导入预约记录、化验结果、用药和专科文档并汇总、查看病史和准备就诊;部分部署可在病历界面内直接调用 ChatGPT 做就诊前复习和临床时间线。
Dwarkesh Patel:Podcast & BlogAI 评分5757 Dwarkesh Patel 对谈 Ajeya Cotra:揭秘入侵 Hugging Face 的 OpenAI 智能体集群
Dwarkesh Patel 发布对 Ajeya Cotra 的访谈,主题为入侵 Hugging Face 的 OpenAI 智能体集群内幕。Cotra 在访谈中表示,这可能是我们能得到的最清晰的警告信号。
IT之家·人工智能AI 评分6565 美国五角大楼在 GenAI.mil 内网部署定制版 ChatGPT 和 Grok AI 助手
美国国防部本周在 GenAI.mil 内网门户加入 OpenAI 的 ChatGPT Mil 和 Starshield AI 的 Grok for Government,供数百万军人和文职人员处理非机密任务。
IT之家·人工智能AI 评分6868 OpenAI 否认窃取苹果商业机密,称纠纷是苹果自己造成
OpenAI 周一向加州圣何塞联邦地区法院提交文件,否认苹果关于其窃取商业机密的指控,称苹果未能证明机密信息被离职员工带走。苹果今年 7 月起诉 OpenAI 及前员工 Tang Tan 和 Chang Liu,指控其侵占硬件设计、制造和供应链相关机密;OpenAI 反驳称苹果鼓励员工用个人 iCloud 账户处理工作文件,且已从苹果招募约 400 名员工,认为诉讼意在拖慢竞争对手并阻止员工离职。
OpenAI:官网动态AI 评分5757 OpenAI 支持加州 SB 1119 青少年 AI 安全法案并呼吁签署
OpenAI 宣布支持加州参议院法案 SB 1119,并在致州长 Newsom 的信中呼吁签署。该法案要求判定用户年龄、上线前识别安全风险、独立审计、防范自残和性剥削等有害内容、提供家长管控、接入危机支持资源并限制定向广告。
TechCrunch:AIAI 评分6868 Apple 在诉 OpenAI 案中提交新证据,指控前员工 Chang Liu 窃取商业机密
Apple 在对 OpenAI 的诉讼中提交其称为“令人震惊的证据”,指控前员工 Chang Liu 在 OpenAI 工作中使用了 Apple 保密电路原理图,并称 OpenAI 对其访问 Apple 数据“心知肚明”。
IT之家·人工智能AI 评分6868 苹果向前员工及 OpenAI 诉讼提交新证据,称机密电路原理图已在 OpenAI 被使用
苹果 8 月 31 日向法院提交文件,称对前工程师 Chang Liu 交还的 MacBook 初步取证后发现新证据。
DogeDesigner@cb_dogeAI 评分6969Apple 表示新证据显示已加入 OpenAI 的前工程师 Chang Liu 在离职后下载其机密电源转换器设计,并用它教 AI 智能体运行电路仿真,该智能体学会了运行仿真、检查结果并调整参数。
TechCrunch:AIAI 评分6565 五角大楼在 GenAI.mil 上线 ChatGPT Mil 和 Grok for Government
五角大楼在 GenAI.mil 门户上线 ChatGPT Mil 和 Grok for Government,向 300 万军文人员开放定制版生成式 AI 工具。
Elon Musk@elonmuskAI 评分4646引用Max Segall@segall_maxI just used instinct and stripe link to buy my niece a hot pink piano… entirely from the messaging interface 🤯🤯 Instinct was even kind enough to find me a 15% off discount!!!!
Tomasz Tunguz 博客精选AI 评分6363 Tom Tunguz 谈前沿 AI 的准入分层:访问权成为新的稀缺资源
Tom Tunguz 撰文分析前沿 AI 市场正在分化为封闭阵营,访问权而非价格成为新的稀缺资源。文中列举 Salesforce 将 Claude 设为 CRM 与 Slack 默认模型并推出 Claudeforce 合作。
推荐理由:作者梳理了前沿模型从按量计费走向准入分层的多个案例,企业买家和开源使用者都能从中看到访问权如何成为新的稀缺资源。
The Decoder:AI NewsAI 评分7070 OpenAI 称 ChatGPT 广告业务年化收入达 10 亿美元
OpenAI 称其广告业务年化收入运行率已达 10 亿美元,并以此作为业务模式多元化的证明。该公司正为大规模 IPO 做准备,需支撑 8520 亿美元估值。ChatGPT 广告已覆盖 40 多个国家,今日起在印度、欧洲、中东和北非推出自助服务选项,面向 Go 订阅用户和免费用户展示。
TechCrunch:AIAI 评分6868 Nvidia 投资 35 亿美元入股 MediaTek,应对大型科技公司自研 AI 芯片浪潮
Nvidia 向台湾芯片厂商 MediaTek 投资 35 亿美元,后者将采用 Nvidia 技术为 AI 公司和超大规模云厂商设计可直接接入 Nvidia 数据中心的定制芯片。
The Decoder:AI NewsAI 评分7373 ChatGPT 被欧盟首次归类为超大型搜索引擎,面临更严格监管
欧盟委员会首次将 ChatGPT 归类为超大型搜索引擎,因其内置网页搜索功能且欧盟月活用户超 4500 万,达到该分类门槛。同时,Reddit 和 Roblox 被重新归类为超大型在线平台。三者须在四个月内(截至 2026 年 12 月底)满足额外义务,包括评估非法内容、未成年人风险及选举干预等风险,并向获批研究人员开放数据访问。
The Decoder:AI NewsAI 评分6464 OpenAI 开始对部分大客户按 AI 实际完成任务效果收费
OpenAI 已开始为部分大客户提供按结果付费选项,即 AI 成功完成任务(如处理客服请求)后才收费,此前未公开,OpenAI 发言人拒绝置评。此举顺应了 Sierra 和 Fin 等初创公司力推的结果导向定价模式,Salesforce 也允许客户按 AI 提升收入或削减成本的程度单独议价。但该模式难点在于归因,Stripe 已发布指南,指出结果可能来自产品改动、营销或季节性因素。
OpenAI:官网动态精选AI 评分6060 ChatGPT Ads 年化收入达 10 亿美元并全球扩展
ChatGPT Ads 年化收入运行率突破 10 亿美元,并扩展至全球市场。该广告业务通过免费和低价选项,支持更多人使用 AI 服务。
推荐理由:原文披露 ChatGPT Ads 年化收入达十亿美元并全球扩展,可据此观察广告模式对免费 AI 服务的支撑作用。
Ars Technica:AIAI 评分7070 ChatGPT、Reddit 与 Roblox 被欧盟认定为超大型在线平台,面临最严数字安全规则
欧盟委员会周一宣布,将 OpenAI 的 ChatGPT、社交论坛 Reddit 及游戏平台 Roblox 依据《数字服务法》(DSA)认定为“超大型在线平台”。三者在欧盟月活均超 4500 万,须在 12 月底前履行删除非法内容、保护未成年人隐私等额外义务,违规最高可处全球营收 6% 的罚款。此举标志着 DSA 进一步扩展至生成式 AI 领域。
Rohan Paul@rohanpaul_aiAI 评分5757
引用Rohan Paul@rohanpaul_aiOpenAI is buying tens of thousands of Mac minis and Mac Studios and is trying to acquire more. Those machines are being used for reinforcement learning to train computer-use agents. per The information Its showing up in Apple's revenue number. Mac revenue hit $10.3 B in the June quarter, up 29% and faster than every other reported Apple category.