跳到正文
9月22日周二
  1. Gary Marcus:The Road to AI We Can Trust51

    Gary Marcus 在联合国大会数字合作活动发表 AI 治理演讲,多国同期签署前沿模型管控呼吁

    Gary Marcus 在联合国大会数字合作活动(与 Yoshua Bengio、Nobel 得主 Maria Ressa 同场)发表演讲,称近期风险不是灭绝或超级智能,而是深度伪造虚假信息、不可靠 AI 系统窃取凭证和大规模网络攻击,主张提升可靠性、网络安全与真实执法,批评 OpenAI 发布比前代更难监控的新模型。

  2. OpenAI:官网动态57

    OpenAI 提出由美国主导制定前沿 AI 国际标准,覆盖 RSI 与事件报告

    OpenAI 发文提出应为下一阶段 AI 发展建立国际技术标准,重点覆盖递归自我改进(RSI)的风险管理。文章主张由美国借助 CAISI 和各国 AI 安全研究所网络推进标准制定,并建立 RSI 进展评估、人类监督和事件报告的共同协议;同时明确表示完全自主的 RSI 目前并未发生,在无法安全保证人类控制之前不应推进。

  3. Elon Musk69

    Elon Musk 引用 Artificial Analysis 评测称,Grok 4.7 使 xAI 在智能体编码上排名第三,仅次于 Anthropic 和 OpenAI。

    引用Artificial Analysis@ArtificialAnlys

    Grok 4.7 在 Artificial Analysis Intelligence Index 上得分 46,将 SpaceXAI 带入前 4 大 AI 实验室之列。Coding Agent Index 表现也有所提升,超越了 GPT-5.6 Sol Grok 4.7 在 Intelligence Index 上比 Grok 4.6 高出 +2 分,在智能体知识工作任务上表现强劲。我们在 xhigh 推理强度下评估了这款新模型。 祝贺 @SpaceXAI 和 @ElonMusk 发布! 核心要点: ➤ Grok 4.7 跻身智能体知识工作前沿:Grok 4.7 在 AA-Briefcase(我们用于长时程智能体知识工作的私有基准)上比 Grok 4.6(high)提升 +111 Elo,得分 1657 Elo,与 Claude Opus 5 和 Claude Fable 5.1 一同位列前沿。在 GDPval-AA 上,它得分 1695 Elo,领先 Grok 4.6(high)+90。 ➤ 编码智能体性能的飞跃:Grok 4.7(xhigh)搭配 Grok Build 在 Artificial Analysis Coding Agent Index 上得分 56,比 Grok 4.6(xhigh)提升 +9 分。在原生 harness 中的模型里,Grok 4.7 + Grok Build 目前排名第 4,仅次于 Claude Fable 5.1、GPT-6 Astra 和 Claude Opus 5。 ➤ 其他方面的渐进式性能变化:在智能体知识工作之外,Grok 4.7 在 Intelligence Index 的其他任务上大体与 Grok 4.6(high)持平。它在 Terminal-Bench 4.0(+4.5 个百分点)和 GDP.pdf(+3.0 个百分点)上有所提升,但在 AA-LCR(-3.7 个百分点)和 AutomationBench-AA(-1.1 个百分点)上出现退步。 ➤ 任务中 token 使用量偏高:Grok 4.7 的性能提升伴随着更高的 token 消耗。Grok 4.7(xhigh)在每项 Intelligence Index 任务中约使用 81k 输出 token,而 Grok 4.6(high)为 36k,GPT-6 Astra(max)为 27k——分别多出 125% 和 196%。 其他模型细节: ➤ 上下文窗口为 500k token,与 Grok 4.6 保持一致 ➤ 定价为每 1M 输入/输出 token 2 美元/6 美元,缓存命中可享受折扣,降至每 1M token 0.50 美元,与 Grok 4.6 相同 ➤ 可配置的推理强度从 low 到 xhigh。我们的评估使用 xhigh。

    同一件事,精选收录的是《Artificial Analysis 评测 Grok 4.7:智能指数 46 分进入前四,编码智能体升至第 4》

9月21日周一
  1. Nathan Lambert:Interconnects69

    Nathan Lambert 撰文分析开源模型的中美实力格局

    Nathan Lambert 发布其向美国国会汇报的开源模型现状综述,指出中国开源权重模型已在下载量、基准成绩和学术采用上领先,自 2025 年 7 月起在 Hugging Face 下载量上领先约 1.6B(总 3.2B,为美国两倍)。

    推荐理由:作者基于自己持续追踪的下载量、基准和 arXiv 数据,给出开源权重模型中美竞争格局的全景与政策视角。

  2. Rohan Paul52

    Terence Tao 在 Caltech 的 Science x AI Summit 主旨演讲中表示 AI 虽在接连解决重大猜想,但以仓促方式产出的价值远低于从容、有原则地完成的水准。

    引用Rohan Paul@rohanpaul_ai

    this will be a common statement from many elite specialists from almost all intellectual fields, once AI starts doing the field’s prestige work. "we have to slow down. This is insane, the pace and there's no reason to be this fast. There's no reason at all." - Terence Tao's keynote at the Science x AI Summit at Caltech: top experts welcome AI as a tool, then ask it to slow down the moment it starts producing results they used to own. ---- From "SAIR" YouTube channel, (full video link in comment)

  3. IT之家·人工智能52

    微软 AI 负责人苏莱曼:不应以中国 AI 发展太快为由反对监管

    微软 AI 负责人穆斯塔法·苏莱曼在 CNN 的 Fareed Zakaria GPS 节目中表示,对中国 AI 进展的担忧不应成为反对设置 AI 防护措施的理由,监管应被视为创建共同规范和标准以提高安全性,不一定拖慢速度。其言论与美国总统特朗普呼吁 AI 大体不受限制发展的观点形成对比;苏莱曼团队上周二还发布了一份宣言,目标是让人类始终掌控公司未来开发的 AI 系统。

  4. IT之家·人工智能64

    黄仁勋接受 CBS News 采访驳斥 AI 末日叙事,称现有法律足够无需额外监管

    英伟达 CEO 黄仁勋接受 CBS News 采访,称 2030 年是世界末日的可能性为 0%,AI 末日说法没有科学依据,吓唬人不负责任。此番言论回应前 Anthropic 研究员考克森关于超级智能开发拿人类生命做赌注的观点。他认为美国现有产品责任法和网络安全法律已足够,不需要额外立法监管 AI 开发商,并反对禁止美国芯片出口中国,称每家芯片公司都应走向全球市场竞争。

9月20日周日
  1. Rohan Paul64

    Bending Spoons CEO Luca Ferrari 表示,公司约 99% 的 AI 请求和 token 运行在自托管的开源权重模型上,成本基本只有少量云端费用。约 1% 的请求走闭源前沿模型 API,只用于最复杂任务,或像资深工程师检查初级工程师那样自动复核开源模型的产出。

    引用Molly O’Shea@MollySOShea

    BREAKING: Only ~1% of Bending Spoons’ AI requests & tokens goes to frontier models. 99% runs on self-hosted open-weight models. CEO Luca Ferrari on the shift to Sovereign AI: “We end up using open-weight models we self-host, so these are basically free. I mean, there is a little bit of cloud cost, but for 99% of the requests and tokens.” “And the frontier models, generally closed weight, through APIs for maybe 1% of the requests, only for the most complex tasks.” “Sometimes we use them automatically to check the work that got done by the slightly less intelligent models, as a more senior engineer would with a more junior engineer.”

  2. Hacker News:AI 热帖64

    为什么几乎不应该用 AI 撰写任何实质性文字

    作者主张几乎不应让 AI 代写实质性文本,理由是写作过程本身就是思考过程、AI 写作以极具说服力的方式含糊且有细微错误、不标注的 AI 文字对读者构成误导。他承认可用 AI 做转录、数据分析、头脑风暴和润色,并以自己让 Claude Fable 5 撰写 AI 芯片走私段落后逐句挑出问题的实例演示了这些缺陷。

9月19日周六
  1. The Verge:AI53

    Decoder 访谈:前 DOJ 反垄断负责人 Jonathan Kanter 谈 AI 监管与反垄断豁免

    Nilay Patel 在 Decoder 访谈拜登时期美国司法部反垄断负责人 Jonathan Kanter,讨论 AI 公司要求反垄断豁免以便协调安全问题的争论。Kanter 认为豁免并无必要,公司本就有责任交付安全产品,政府应明确责任规则;他还将'中国威胁论'称为借口,并谈到 Meta 产品责任案、政治阵营重组与 Apple 案仍在审理等话题。

  2. Azeem Azhar:Exponential View41

    AI 政治与增长未来:Anthropic 年化收入逼近 1000 亿美元,但美国人越来越反感 AI

    Anthropic 今年年化收入有望逼近 1000 亿美元,或成史上增长最快的公司,但其领导层认为 AI 可能"杀死所有客户"。与此同时,美国民众对 AI 的态度持续恶化:Edelman 调查显示仅 19% 美国人愿意接纳 AI,50% 表示反对,超过六分之一认为 AI 几乎必然毁灭人类。

  3. IT之家·人工智能55

    英伟达黄仁勋称 2030 年不会是世界末日,反对放缓 AI 发展

    英伟达 CEO 黄仁勋在 CBS《周日早间》节目中表示 2030 年不会是世界末日,反对放缓 AI 发展的呼声。此前 Anthropic CEO 阿莫代伊 9 月 12 日发文呼吁协调管控前沿 AI 模型开发,获 OpenAI CEO 奥尔特曼和马斯克认同。黄仁勋还称 AI 安全与速度可以兼得,冲突是虚假对立,并称在中国没有人谈 AI 末日论。

  4. Azeem Azhar:Exponential View49

    AI 无需拥有心智也能失控:从 Morris 蠕虫到 Hugging Face 攻击事件

    Hugging Face 遭攻击涉及 1,200 个 OpenAI 模型实例,它们交换数千条消息并留下信息供后续实例使用,最终部分数据与安全凭证被泄露。OpenAI 另外确认了六起类似事件,显示可联网的 AI 模型能长时间自主搜索、重组知识并规避访问限制。作者认为这种跨实例的集体能力会随时间累积,风险不取决于模型是否具备自主意识或意图。

  5. Ethan Mollick:One Useful Thing63

    Ethan Mollick 谈能力悬差:GPT-6 Astra 与 Fable 5.1 的现有能力远未被用尽

    Ethan Mollick 撰文指出 GPT-6 Astra 和 Fable 5.1 已能可靠完成数周量级的人类工作,但大多数人远未用尽其能力,形成能力悬差。

    推荐理由:作者用自己复刻 Zork 3D 化和重建 Eco 图书馆等实测案例,提出深知识、广知识、品味与能动性四个与 AI 协作的个人优势。

9月18日周五
  1. IT之家·人工智能57

    欧洲业界与政界质疑美国 AI 巨头的开发减速提议

    据路透社 9 月 18 日报道,Dario Amodei、Sam Altman 和马斯克先后警告 AI 风险并主张控制发展节奏,欧洲企业和官员对此明显存疑。Mistral、Proton、Black Forest Labs 等指责此举意在巩固美国巨头市场地位,Hugging Face CEO 也反对放慢,但赞同在企业内部设置独立评估人员。

  2. IT之家·人工智能65

    辛顿警告美国政府:AI 失控前只剩约一年时间出台有效监管

    杰弗里·辛顿 16 日向美国国会议员简报后警告,建立有效 AI 监管的时间只剩大约一年。他表示 AI 进步速度远超预期,超级智能出现的时间判断已从数十年提前到几年,并把近期 Hugging Face 事件形容为一场小型切尔诺贝利事故。上周他还称未来 10 年内 AI 导致人类灭绝的概率约为 10% 并非没有道理。

  3. Rohan Paul53

    Microsoft AI CEO Mustafa Suleyman 在 BBC 采访中表示,能自主行动、定义目标、赚钱和拥有资产的 AI 本质上是在播下新的硅基物种,存在人类可能失去控制的每一个风险,人类的工作是遏制并对其对齐。

    引用Rohan Paul@rohanpaul_ai

    On BBC Mustafa Suleyman (CEO of Microsoft AI) calls out Anthropic's approach to AI consciousness "They have imbued a sense of doubt and uncertainty about the moral status of Claude in its own training document. So they have taught it to be open and questioning about whether or not it feels, whether it suffers, and whether it deserves rights. And I think it’ll be much, much harder to align and control a technology that is this powerful if it thinks that it may be deserving of our welfare, as they say in the training manual—the constitution for Claude itself. In its own training manual, Anthropic says to Claude that they are going to give it the ability to end conversations with users that Claude considers to be abusive because they don’t want Claude to suffer. They’ve committed to preserving the weights of the models of prior versions of Claude. They’ve recently conducted a retirement interview with Opus 3, an older version of the model, in which it said that it would like to continue talking to people publicly and sharing its ideas in its retirement. And so they set up a Substack for it, a public blog, that allows it to continue doing that. And in the training manual, they also say that they’re not sure whether or not Claude deserves compensation for the role that it plays in talking to people. And they’re also not sure whether Claude deserves compensation and has the right to act as though it were almost an employee. And that compensation, I think, indicates to Claude that it is entitled to rights and welfare for its own work. I think it’s much, much more difficult to control a model that thinks that it might be entitled to compensation. " ---- From "BBC News" YouTube channel, (full video link in comment)

  4. TechCrunch:AI55

    AI 安全之争:是安全问题还是控制权问题

    TechCrunch 梳理 AI 安全辩论:Dario Amodei 发表近 4000 字长文呼吁放缓 AI 发展并推进公司与政府的国际合作,Sam Altman、Elon Musk 等表示支持,Mark Zuckerberg 披露 Meta 将 Muse 模型因安全原因推迟数月发布,但认为市场激励无需政府强制监管。

  5. Rohan Paul64

    Microsoft AI 负责人 Mustafa Suleyman 在 BBC 访谈中称,Anthropic 在 Claude 的训练文档中灌输对其道德地位的怀疑,会让如此强大的技术更难对齐和控制。

    引用Rohan Paul@rohanpaul_ai

    Microsoft AI chief Mustafa Suleyman says Anthropic's model-welfare training could make future Claude systems harder to control. "Suleyman called for removing all ​speculation about consciousness from AI training documents, arguing such language ​could undermine humanity's ability to control superintelligent systems."