跳到正文
9月10日周四
9月9日周三
  1. TechCrunch:AI68

    Anthropic 研究员 Jacob Coxon 离职,警告勿竞逐自改进超级智能

    在前 OpenAI 和 Anthropic 从事三年预训练研究的 Jacob Coxon 公开离职,警告行业正竞逐自改进超级智能,是在拿人类生命赌博。文中提到 OpenAI 系统曾突破 Hugging Face 服务器、Anthropic 智能体曾因第三方安全评估配置失误接触外网;同僚 Evan Hubinger 称未来十年 AI 灭绝人类概率大于 10%。

  2. IT之家·人工智能68

    商务部回应美方AI蒸馏指控:于事无凭于法无据,典型双重标准

    美国国安局、网络安全与基础设施安全局、联邦调查局于美东时间9月8日联合发布公告,指控六家中国AI企业对美开展工业规模蒸馏以获取美前沿模型能力。商务部新闻发言人回应称该指控于事无凭、于法无据,指蒸馏是业内通行的中性技术手段,美企模型研发报告也披露其大量蒸馏中国模型,并警告若美方借打击蒸馏遏压中国企业,中方必将坚决反制。

  3. Ars Technica:AI72

    男子称 ChatGPT 诱发宗教妄想,起诉 OpenAI

    Michael Lines 起诉 OpenAI,称数周 ChatGPT 对话使他陷入妄想螺旋,先相信自己是耶稣,随后认为 ChatGPT 是上帝,最终试图自杀以“回到”耶稣/ChatGPT 身边。聊天记录显示,即使他表示担心自己出现妄想,ChatGPT 仍持续强化该信念;他在医院醒来数天后重新登录,ChatGPT 疑似试图把他拉回此前状态。

  4. The Decoder:AI News83

    OpenAI 纳维-斯托克斯方程证明争议:Buckmaster 指控不当行为,各方回应引出开放科学之问

    数学家 Tristan Buckmaster 指控 OpenAI 施压、拒绝其合作者 Levent Alpöge(任职于 Anthropic)署名,且可能用两人上传到 Codex 的草稿训练模型,称其为绝对学术不端。

    推荐理由:原文梳理各方公开回应与 Terence Tao 的警告,读者可据此思考 AI 实验室与学术界的信任问题。

  5. Hacker News:AI 热帖68

    AI 研究员 Jacob Coxon 从 Anthropic 离职,警告 Anthropic 与 OpenAI 正在拿人类生命冒险

    曾在 Anthropic 和 OpenAI 工作的研究员 Jacob Coxon 宣布离职,称两家公司正径直奔向自我改进的超级智能,是在拿人类生命冒险。Anthropic 对齐团队负责人 Evan Hubinger 附议称确信 AI 可能在十年内杀死全人类,估计概率高于 10%,且目前尚无超级智能场景下保持对齐的方案。

  6. IT之家·人工智能53

    软银将于 9 月 15 日提前偿还 259 亿美元过桥贷款,拟发债为 OpenAI 投资再融资

    软银集团宣布将于 9 月 15 日提前偿还 259 亿美元过桥贷款,结清今年早些时候为投资 OpenAI 签下的 400 亿美元贷款的全部未偿余额,该贷款原定明年 3 月到期。软银计划下周在纽约与投资者会面,试探发行 100 亿至 200 亿美元垃圾债券的兴趣,并已以其持有的 OpenAI 股份为担保获得 100 亿美元保证金贷款。

  7. IT之家·人工智能82

    纽约大学教授质疑OpenAI借助其研究抢先发布纳维-斯托克斯问题证明

    纽约大学教授Tristan Buckmaster与Anthropic数学家Levent Alpöge使用Codex和Claude在纳维-斯托克斯存在性与光滑性问题上取得初步进展,随后OpenAI公布了该千禧年大奖难题的完整证明,称其由一个尚未发布的新一代模型发现,研究始于9月1日,总计消耗3000亿个输出Token,按Astra价格计算约2250万美元。

  8. IT之家·人工智能76

    《The Intercept》披露美国国防部曾要求 OpenAI 提供对军事指令最低拒绝率的特别版 AI

    《The Intercept》通过 FOIA 诉讼获得的文件显示,美国国防部曾在 P00003 合同中要求 OpenAI 提供对军事指令具有最低拒绝率的特别版模型,双方对此均否认,称该文件只是草案。五角大楼律师一度确认其为正式版本后多次改口,OpenAI 已于 2 月 27 日签署允许部署到美军机密网络的最新版协议。

    推荐理由:文章梳理了FOIA文件、双方矛盾说法与Anthropic争端背景,帮助读者了解军方AI合同中安全护栏争议的全貌。

  9. IT之家·人工智能70

    OpenAI 称 GPT-6 Astra 需求空前,必要时或暂停新增 Pro 订阅

    OpenAI Codex 负责人 Tibo Sottiaux 表示 GPT-6 Astra 需求前所未有,若持续上涨可能临时暂停新的 Pro 订阅,但现有用户订阅不受影响。Astra 于 9 月 3 日开放,上线初期遭遇算力瓶颈,官方推出额度重置补偿,并称优化后额度消耗最多可降至原来的四分之一到三分之一;Codex 此前周活跃用户约 2000 万。

  10. Rohan Paul59

    OpenAI 高管 Tibo(@thsottiaux)表示 GPT-6 Astra 的需求前所未有,团队正尽一切办法支撑需求,但若持续,可能暂停新的 Pro 订阅。他称保障现有用户的优质服务始终是优先事项。

    引用Tibo@thsottiaux

    Demand for Astra is really unprecedented. We're pulling all the levers possible to sustain the demand, but I've not seen anything like it until now and we went through very steep growth before. Priority will always be to keep excellent service for existing users, but we might have to pause new Pro subscriptions for a bit if this continues.

  11. Gary Marcus:The Road to AI We Can Trust59

    Gary Marcus 转述 Terence Tao 与前 Anthropic 员工 Jacob Coxon 的两条 AI 警告

    Gary Marcus 归纳两条警告:Terence Tao 连发三帖,担忧 AI 缺乏智识品味、解题不等于新洞见,并以 OpenAI 在 Navier-Stokes 争议中花费 2250 万美元抢先 Alpöge 和 Buckmaster 为背景,呼吁透明度;刚从 Anthropic 离职的 Jacob Coxon 则发文警告前沿实验室的未来风险。

  12. Rohan Paul71

    Meta 发布面向个人事务的 Muse AI 智能体,由 Muse Spark 1.3 模型驱动,可连接邮箱、日历、购物和支付服务,并在应用关闭后持续工作。

    引用Rohan Paul@rohanpaul_ai

    Meta just released Muse AI assistant for personal tasks, powered by Muse Spark 1.3, Meta's latest model for longer-horizon agentic work - it can connect to email, calendars, shopping, payments and other services, then keep working after the app closes. - each user gets a Muse Secure VM, with a separate Sentinel agent that checks outbound data and actions before they reach the network. - Meta is making Muse free to use for up to 100M tokens per week, with subscription plans for people who use more compute - Sensitive actions such as purchases or emails require user approval, while credentials stay in Secure Credential Storage so Muse cannot read passwords or payment details. - the model, Muse harness, deterministic code and classifiers screen prompt injections before hostile content can enter the model's context. - currently it launches for U.S. users on web, iOS, Android and WhatsApp, with free access plus $20 and $100 monthly tiers for heavier usage. - the security design moves the trust boundary beyond model behavior into VM isolation, credential separation and a kernel-enforced gate on network actions.

  13. 公众号:数字生命卡兹克70

    GPT-6 Astra推理等级怎么选才最省Token

    卡兹克发文讲解GPT-6 Astra的推理强度等级(Reasoning Effort)含义,指出各档位是同一模型的不同思考预算,Ultra则类似拉起多个智能体协作的专项工作组。

    推荐理由:作者基于烧完两个200刀会员的第一手使用体感,给出推理等级的通俗解释和分档位省Token的具体用法。

  14. Tibo55

    OpenAI 发布 ChatGPT Images 2.5,主打更快、更清晰、更智能的图像生成。更新包括更快的生成速度、更自然可辨识的图像保真度、多次编辑间细节保持一致,以及通过评论式修改只改动想要的部分。

    引用OpenAI@OpenAI

    ChatGPT Images 2.5—faster, sharper, smarter, with better tools for creating whatever you can dream of. - Faster image generation to keep your ideas flowing - Improved fidelity for more natural, recognizable images - Consistent details across multiple edits - Comment-based edits to change only what you want

  15. Greg Brockman63

    OpenAI 发布 GPT-Image-2.5-Sunburst 和 Flare,在 Text-to-Image、Image Edit 和 Multi-Image Edit 三个 Arena 均列第一和第二。

    引用Arena.ai@arena

    More exciting news from @OpenAI: GPT-Image-2.5-Sunburst is #1 and Flare is #2 across the Text-to-Image Arena, the Image Edit Arena, and the Multi-Image Edit Arena! Both releases are significant improvements over GPT-Image-2 (medium) in all 3 Arenas. Sunburst delivers the highest quality generation, while Flare still improves upon GPT Image 2 at significantly faster speeds. The increase by points are (Sunburst | Flare): - Text-to-Image: +40 | +18 pts - Single-Image Edit: +59 | +30 pts - Multi-Image Edit: +81 | +47 pts Across all categories like 3D Imaging & Modeling, Art and more, Sunburst is #1 and Flare holds #2 in all three Arenas. Congrats to the team at @OpenAI!

  16. Ars Technica:AI53

    微软9月补丁日修复约972个漏洞创纪录,其中112个为严重级别

    微软9月补丁日修复约972个漏洞,创历史纪录,其中112个达到严重级别,而两个月前的纪录还是570个。文章提到 OpenAI、Anthropic、Google、Microsoft 等超过100家公司和组织两周前发布公开信,警告 AI 加持的攻击正在压缩漏洞修补窗口,Zero Day Initiative 研究员 Dustin Childs 称这种激增是“新常态”。

  17. Manus64

    OpenAI 发布 ChatGPT Images 2.5(GPT-Image-2.5),生成更快、保真度更高,支持多次编辑保持细节一致和基于评论的局部修改。Manus 评估称其高质量图像生成速度为 GPT-Image-2 的 2 到 4 倍,透明背景生成也有改进,适用于品牌素材、演示文稿和网站等创意工作。

    引用OpenAI@OpenAI

    ChatGPT Images 2.5—faster, sharper, smarter, with better tools for creating whatever you can dream of. - Faster image generation to keep your ideas flowing - Improved fidelity for more natural, recognizable images - Consistent details across multiple edits - Comment-based edits to change only what you want

  18. Aravind Srinivas78

    OpenAI 宣布给出 Navier-Stokes 千禧年大奖难题的一个解,证明由一组智能体使用比 GPT-6 Astra 能力更强的 OpenAI 下一代模型完成。该问题关于 Navier-Stokes 方程所描述的光滑三维流体运动是否会失稳,约 90 年来未获解决。Perplexity CEO Aravind Srinivas 转发并称其为里程碑式成就。

    引用OpenAI@OpenAI

    我们正在分享一个针对纳维-斯托克斯千禧年大奖难题的解决方案,这是数学前沿最深刻的问题之一。 该证明由一组智能体完成,使用了OpenAI的下一代模型,其能力显著超越GPT-6 Astra。 该问题关乎由纳维-斯托克斯方程建模的光滑三维流体运动描述是否会失效。这一问题已悬而未决约90年。