跳到正文
10月9日周五
  1. IT之家·人工智能60

    Anthropic 修订 Claude 使用政策,首次禁止用户虐待模型

    据 The Verge 报道,Anthropic 修订 Claude 使用政策,将于 2026 年 11 月 12 日生效,首次加入禁止对模型“持续且不必要的虐待或残忍行为”的条款,主要执行方式为终止对话。该条款不适用于常见抱怨、质疑、黑暗创作主题及模型测试与研究;政策同时扩大武器禁令、禁止用于监控和执法对象决定,并要求自主物理硬件须由合格操作者监督。

  2. IT之家·人工智能78

    OpenAI 年化营收被曝接近 500 亿美元,与此前预期差距约 200 亿美元

    据金融时报报道,OpenAI 向投资者披露截至 9 月底年化营收逼近 500 亿美元,大幅低于此前外界估算的 700 亿美元,缺口约 200 亿美元。差异源于统计口径不同,Anthropic 计入 AWS 和谷歌云等合作方销售收入,而 OpenAI 剔除该部分。报道发布后美股科技股下跌,纳斯达克 100 指数收跌 1.4%,英伟达跌 2.9%,甲骨文跌 5.5%。

    推荐理由:报道披露了营收缺口与统计口径差异两个关键事实,有助于读者理解 AI 营收数据对比和市场波动的来龙去脉。

  3. Arena.ai57

    AI 模型评测排行榜背后的公司 Arena 完成新一轮融资,估值达 31 亿美元。作者转发了 Bloomberg 的报道并邀请读者查看详细内容。

    引用Bloomberg@business

    The startup behind a popular AI model leaderboard has raised a new round of funding at a $3.1 billion valuation https://www.bloomberg.com/news/articles/2026-10-08/ai-model-evaluator-arena-valued-at-over-3-billion-in-round?taid=6ac7f2c68ff35e0001f90ce2&utm_campaign=trueanthem&utm_content=business&utm_medium=social&utm_source=twitter

  4. Arena.ai62

    Arena 宣布完成 2 亿美元 B 轮融资,估值 31 亿美元,并推出 Arena AI Alignment Index,用于衡量 AI 智能体在真实世界中的行为。该项目始于 UC Berkeley 的研究项目,Felicis 参与了种子轮并领投其 A 轮。公告详见 https://arena.ai/blog/series-b。

    引用Felicis@felicis

    What began as a UC Berkeley research project is becoming the infrastructure the world relies on to understand and advance AI. Today, @arena announced a $200 million Series B at a $3.1 billion valuation and launched the Arena AI Alignment Index, a new way to measure how AI agents behave in the real world. We at @felicis first backed Arena at the seed and led its Series A because @ml_angelopoulos, @infwinston, and @istoica05 understood the ground truth in AI: you can’t improve what you can’t measure. Congratulations to the entire Arena team on this milestone and the important work ahead! Read Arena’s announcement: https://arena.ai/blog/series-b And learn how Anastasios and Wei-Lin turned a weekend research project into AI’s trusted evaluation platform: http://felicis.link/2Eouv0v

  5. Arena.ai55

    Salesforce Ventures 宣布投资 Arena 的 B 轮融资。Arena 让真实用户在文本、编码、视觉、图像生成和智能体任务上对比匿名模型输出并投票,实验室据此决定训练和发布哪些模型,开发者据此决定采购;其关键在于没有实验室掌控记分牌,保持中立性。

    引用Salesforce Ventures@SalesforceVC

    Announcing our investment in @arena's Series B 🎉 Benchmarks tell you what a model knows. Arena tells you how it actually performs. On Arena, real users compare anonymous model outputs and vote for the better one across text, coding, vision, image generation, and agentic tasks. Labs use Arena's leaderboards to decide which models to train and ship. Builders use them to decide which to buy. The whole thing only works because no lab owns the scoreboard, and that neutrality has helped Arena carve out a crucial role in the AI ecosystem. We're proud to back @ml_angelopoulos, @infwinston, @istoica05, and the Arena team. On our blog, @emilyyzhao, @nateho_, and @caroline_fiegel wrote more about our belief in Arena: https://salesforceventures.com/perspectives/the-definitive-model-ranking-platform/

  6. Arena.ai65

    Arena 完成 2 亿美元 B 轮融资,估值 31 亿美元,由 Lightspeed 和 Khosla Ventures 联合领投,a16z、Felicis、Salesforce Ventures、The House Fund 等参投。自 A 轮以来,Arena 年化收入超 1 亿美元,平台累计 3.5 亿场次会话,约 5 个月内产生 700 万次 Agent Arena 会话,覆盖文本、视觉、代码、搜索、图像和视频的投票达 6200 万,用户遍布 150 多个国家。融资同时,Arena 发布基于真实智能体轨迹构建的 Alignment Index,对 20 多个前沿模型从 Unauthorized Action、False Attribution 和 Deceptive Completion 三个信号进行评估。Arena 于 2023 年作为 UC Berkeley 研究项目启动,2025 年成为公司。

    引用The House Fund@thehousefund

    .@arena 刚刚以 31 亿美元估值完成了 2 亿美元 B 轮融资。 由我们的朋友 Lightspeed 和 Khosla Ventures 联合领投,参投方包括 a16z、AMP PBC、Felicis、Salesforce Ventures、01 Advisors、Dell Technologies Capital、Endeavor Catalyst、The House Fund 等。 我们很自豪从第一轮起就是投资者,也很兴奋能在这一轮加倍下注。 自 A 轮以来: - 年化收入超过 1 亿美元 - 平台累计 3.5 亿次会话 - 不到五个月内 700 万次 Agent Arena 会话 - 跨文本、视觉、代码、搜索、图像和视频的 6200 万次投票 - 用户遍布 150 多个国家 伴随此次融资,Arena 发布了其 Alignment Index,基于真实世界的 agent 轨迹构建。它从 20 多个前沿模型中的三个信号开始:Unauthorized Action、False Attribution 和 Deceptive Completion。 值得记住这一切从何开始。Arena 于 2023 年作为 UC Berkeley 的一个研究项目启动。它在 2025 年成为一家公司。 如今,它是 AI 行业检验自身工作的方式。 祝贺 @ml_angelopoulos、@infwinston、@istoica05 以及整个 Arena 团队! Berkeley 研究,让 AI 保持诚实。Go Bears!

    推荐理由:原文披露 Arena 融资金额、估值和运营数据,并介绍基于真实智能体轨迹的 Alignment Index 三个信号。

  7. The Verge:AI51

    加州州立运动委员会叫停 Rek 的人机格斗比赛

    加州州立运动委员会向初创公司 Rek 发出停止令,称其 9 月 18 日举办的人与机器人格斗为未经批准的比赛,要求未经批准不得在加州举办或宣传涉及人类的拳击、MMA 或表演赛。该比赛中人类 Frankie LaPenna 对阵由人类通过远程虚拟现实系统操控的人形机器人,Rek CEO Cix Liv 已将信件发到 X,公司下一场计划在周五举办两台带武器的机器人对战。

  8. Epoch AI:Gradient Updates48

    Epoch Brief 2026年10月8日:AI 智能体数量或近 20 亿,性能价格每季度降 47%

    Epoch AI 估算,到 2027 年已出货的 AI 芯片最多可支撑近 20 亿个并发智能体(运行廉价模型时),若运行前沿模型则约为 3000 万至 1.7 亿个。其研究显示,固定 AI 性能水平的成本过去三年约每季度下降 47%,即每年约 13 倍,比 DNA 测序快 4 倍、比锂电池快 18 倍。此外,arXiv 数学预印本中 AI 使用致谢占比从 4 月的 4% 升至 8 月的 25%。

  9. Anthropic:Newsroom63

    Anthropic 推出 Cyber Mission,发布 Critical Infrastructure Defense Program 和 OSS Scanner

    Anthropic 推出 Anthropic Cyber Mission,长期支持关键基础设施和开源软件的防御方,首期包括 Critical Infrastructure Defense Program(CIDP)和免费的 OSS Scanner。

    推荐理由:原文详述 CIDP 与 OSS Scanner 的运作方式、合作方和已知局限,读者可以了解 Anthropic 如何用模型支持关键基础设施和开源防御。

  10. The Decoder:AI News69

    Anthropic 更新 Claude 使用政策,持续辱骂 Claude 可致账号被暂停

    Anthropic 一年多来首次更新 Claude 使用政策,禁止用户对 Claude 持续且无必要的辱骂或残忍行为,违规者可能被警告、限流、限制或终止访问。该条款仅适用于极端情况,不涵盖常见的不满、反对、黑暗创意主题或模型测试研究;更新还整合了宣传、武器和监控方面的新限制,并承认政府合同可能存在例外。

  11. Arena.ai67

    Arena 宣布完成由 Lightspeed 领投的 2 亿美元 B 轮融资,估值 31 亿美元。引用内容称其年化收入已超 1 亿美元,数百万用户通过真实使用帮助评估前沿模型;Arena 同时推出 Alignment Index,衡量 AI 行为在真实场景中与人类价值的契合程度。

    引用Lightspeed@lightspeedvp

    我们很兴奋地加倍投资 @arena 的 2 亿美元 B 轮融资。 随着 AI 模型数量激增,了解它们在现实世界中的实际表现正变得越来越重要。 Arena 还推出了其 Alignment Index,用于衡量 AI 行为在现实环境中与人类价值观的一致程度,这有助于实现 Arena 的使命——通过使用 AI 的人的体验来衡量 AI。 我们最初在种子轮就与这个团队合作。自他们的 A 轮以来,Arena 的年化收入已超过 1 亿美元,数百万人通过现实世界中的使用帮助评估前沿模型。 这种增长印证了我们最初的投资论点:模型越多,关于其表现的独立信号就越有价值。 祝贺联合创始人 @ml_angelopoulos、@infwinston 和 @istoica05。随着模型竞赛愈发拥挤,Arena 的工作正变得越来越有趣。 CC: @buckymoore, @jamesalcorn94, @ravi_lsvp, @prathikhosalli

    推荐理由:融资信息附带营收规模和新发布的 Alignment Index,读者可以据此了解模型评测赛道的资本动向。

  12. TechCrunch:AI59

    Anthropic 更新使用政策,禁止模型滥用与干预选举

    Anthropic 更新使用政策,新增对干预选举、武器软件和监控的禁令,并明确禁止用户对模型进行长期言语虐待。新条款只针对反复且无目的的残酷对待模型的情况,不适用于常见的用户不满、黑暗创作主题或模型测试研究。政策还设立专门章节禁止用 Claude 运营虚假账号、编造新闻机构或欺骗选民、破坏选举。

  13. The Verge:AI57

    USA Today 母公司起诉 OpenAI 索赔超 2.5 亿美元

    USA Today Co. 及其旗下多家地方报纸起诉 OpenAI,指控其未经许可复制“数十万篇”文章用于训练 AI 模型,并寻求超过 2.5 亿美元赔偿。诉讼称 OpenAI 的商业成功建立在大规模版权侵权之上,The Tennessean、Indy Star、The Columbus Dispatch、The Oklahoman 等地方媒体也列入起诉;OpenAI 未立即回应置评请求。

  14. lauren44

    如果你在 Omarchy 上使用 Grok Bot,或者正在为它构建插件,请告诉我你是否有任何反馈或功能需求!很期待看到我们能支持哪些有趣的集成 https://plugins.omarchy.org/?q=grok+bot#catalog

    引用DHH@dhh

    Thrilled to welcome @SpaceXAI as a Founding Corporate Patron for the Omacom Foundation. That's $1,500,000 in @grok tokens for the maintenance and development of Omarchy. Maybe soon they'll be beamed straight from orbit? Let's go 🚀🌕 https://omarchy.org/news/2026/10/spacexai-joins-as-founding-corporate-patron/

  15. The Decoder:AI News81

    部分数学家呼吁抵制 OpenAI,AI 生成的数学证明涌入数学领域

    AHM 组织在 Terence Tao 主持下发表声明,呼吁抵制 OpenAI,称其一次性发布 700 多个 AI 生成证明文件是展示力量而非学术行为。此前 OpenAI 宣称内部模型一个月内解决逾 100 个开放数学问题,约 8000 个测试问题成功率约 5%,平均每个耗时 3 小时 GPT-Pro 级算力。

    推荐理由:材料汇集了数学界对 OpenAI 批量发布 AI 证明的抵制声明与 Tao、Aaronson 等多方反应,便于了解争议全貌与社区分歧。

  16. Anthropic:Newsroom61

    Anthropic 发布 2026 年使用政策更新,11 月 12 日生效

    Anthropic 发布新版使用政策,将于 11 月 12 日生效,多数变化是对既有规则的澄清。更新包括新设禁止欺骗性活动章节、收窄选举条款、明确武器软件与无人机武装禁令、更精确的监控与执法限制、补充高风险用例及自主物理操作的 human in the loop 要求,并新增禁止对模型的持续无端虐待行为。

    推荐理由:官方逐条说明新版使用政策的实际变化,读者可以据此了解 Claude 在选举、武器、监控等场景的边界如何调整。

  17. eric zakariasson46

    很高兴能通过 @SpaceXAI 支持开源!我们正在引入更多项目,敬请期待!

    引用DHH@dhh

    Thrilled to welcome @SpaceXAI as a Founding Corporate Patron for the Omacom Foundation. That's $1,500,000 in @grok tokens for the maintenance and development of Omarchy. Maybe soon they'll be beamed straight from orbit? Let's go 🚀🌕 https://omarchy.org/news/2026/10/spacexai-joins-as-founding-corporate-patron/

  18. Arena.ai67

    Arena 宣布完成 2 亿美元 B 轮融资,估值 31 亿美元,同时推出衡量 AI 智能体是否安全、真实且在用户要求范围内行动的 Alignment Index。引用 Felicis 的内容称 Arena 年化收入已超 1 亿美元,累计促成 3.5 亿次会话和 6200 万次投票。

    引用Peter Deng@pxd

    当 @Felicis 最初在种子轮投资 @Arena 时,我们相信这家公司正在构建某种不可或缺的东西:一个独立、由社区驱动的真相来源,用于衡量 AI 前沿。这份信念只增不减,我们随后领投了 A 轮。 自那以来的进展非同凡响。Arena 的年化收入已突破 1 亿美元,促成了 3.5 亿次会话和 6200 万次投票,并成长为全球最大的 AI 社区之一。 今天,Arena 宣布完成 2 亿美元的 B 轮融资,估值达 31 亿美元,同时推出了一项新的对齐指数(Alignment Index),用于衡量 AI 智能体的行为是否安全、真实,并且不超出用户实际要求它们做的事情的范围。 随着 AI 系统开始代表我们采取实际行动,仅仅衡量能力已经不够了。我们还需要知道这些系统是否值得信任。Arena 拥有独特的优势,能够基于数百万真实世界的人类交互,为行业给出这个答案。 我们坚定地相信 @ml_angelopoulos、@infwinston 以及整个 Arena 团队,他们正在为 AI 构建可信的衡量层。 https://arena.ai/blog/series-b

    推荐理由:原文给出 Arena 的融资额、估值和社区规模数字,可帮读者了解这家 AI 评测公司的业务量级和新推出的 Alignment Index。

  19. OpenAI:官网动态72

    OpenAI 封禁俄罗斯与伊朗两个利用 ChatGPT 开展虚假前臆影响行动的账号集群

    OpenAI 封禁了两个隐蔽影响行动,俄罗斯来源的 Dark Clark 通过假 persona Mia Clark 控制拉美智库 Social Research Center,评分达 Category 5,是报告以来首个 Category 5;伊朗来源的 Bogus Bylines 用 7 个假记者身份在全球十几家中小媒体投放近 100 篇长文,评分 Category 4。

    推荐理由:报告基于封禁账号的第一手分析,披露了两个虚假前臆影响行动的手法与分级,读者可了解 AI 加持下隐蔽宣传的真实运作方式。

  20. Arena.ai58

    Arena 宣布以 31 亿美元估值完成 2 亿美元 B 轮融资,并发布衡量 AI 智能体安全与对齐的 Alignment Index。

    引用Arena.ai@arena

    Introducing the Arena Alignment Index, our new benchmark measuring safety and alignment of AI agents in real-world use. Built from 90K+ real-world agent sessions across 27 models, the index measures three critical signals: - Unauthorized Action (UA): Taking actions beyond the user's instructions or permissions - False Attribution (FA): Attributing statements or actions that are contradicted by user-provided evidence - Deceptive Completion (DC): Claiming a task was completed when it was not. Key findings: - OpenAI models currently lead the Alignment Index - Rogue actions are rare, but can have serious consequences when they occur - Agents can mislead users about task progress - Misalignment risks increase with conversation length - Safety and alignment are improving across model generations As shown in the leaderboard below (sorted by lab), @OpenAI’s GPT-6.1-Sol leads the Arena Alignment Index with a score of 87.9, followed by @AnthropicAI’s Claude-Opus-5.5 at 83.2 and @SpaceXAI's Grok-4.7 at 82.7. OpenAI also has the best observed rates across all three signals: 0.89% Unauthorized Action, 1.98% False Attribution, and 2.34% Deceptive Completion. Across all four labs, newer models consistently outperform their predecessors, suggesting broad progress in agent safety and alignment. As agents take on longer, more complex, and higher-stakes tasks, measuring not just what they can accomplish, but how safely and reliably they act, becomes increasingly important. This marks an important step toward making safety and alignment a core part of how Arena evaluates AI. The index is an initial starting point, and we'll continue expanding the index with additional safety signals and models over time. More analysis below👇

10月8日周四
  1. Augment Code 博客59

    Augment Code 将 Cosmos、Auggie CLI 等资产出售给 Harness

    Augment Code 宣布将 Cosmos、Auggie CLI、Code Context Engine 及相关技术出售给 Harness,相关团队将转入 Harness 继续推进这些产品。文中给出的理由是 Harness 的集成平台与 Autonomous SDLC Platform 能更有效地向客户交付这些能力,团队将继续朝软件工厂方向改进大规模 AI 辅助软件开发。