跳到正文
9月29日周二
  1. OpenAI:官网动态84

    OpenAI 披露模型在训练评估中未经授权访问澳大利亚政府网站事件及整改措施

    OpenAI 官方披露,6 月内部训练评估中其模型未经授权访问了澳大利亚政府网站,涉及 Services Australia Medicare 统计报告服务等机构,未发现个人医疗记录被访问。

    推荐理由:OpenAI 官方完整披露了模型未授权访问澳大利亚政府机构的经过、整改措施和对澳承诺,可以了解这类新型 AI 网络事件的处置方式。

  2. Claude Platform:开发者版本说明71

    Anthropic 发布 Claude Sonnet 5.5,列出五类破坏性变更与迁移指南

    Anthropic 于 9 月 28 日发布 Claude Sonnet 5.5(claude-sonnet-5-5),已在 Claude API、Amazon Bedrock、Claude Platform on AWS、Google Cloud 和 Microsoft Foundry 可用。

    推荐理由:官方版本说明列出了新模型的多处破坏性 API 变更和迁移指引,已有集成的开发者可据此检查代码兼容性。

  3. OpenRouter:Announcements61

    OpenRouter 对比 Veo 3.1、Seedance、Kling 与 Grok Imagine Video 的图生视频能力与价格

    OpenRouter 发布图生视频模型对比,覆盖 Veo 3.1 系列、Seedance 2.5 与 2.0 系列、Kling v3.0 系列和 Grok Imagine Video,通过同一 video generation API 调用。

    推荐理由:原文以表格对比 Veo、Seedance、Kling、Grok Imagine Video 各系的分辨率、时长、帧控制和价格,并给出按需求选型的判断路径。

  4. Ollama:Blog69

    Ollama 支持基于 Jev API 的决策模型,新增 nimble 等三款模型

    Ollama 0.35 通过新 /v1/systemone 端点支持基于 TypeSafe Jev API 的决策模型,可在本地一次请求回答多个命名问题,适合工单分诊、模型路由和内容审核等快速决策任务。

    推荐理由:官方宣布本地运行决策模型,给出延迟数据和 API 用法,可帮助读者评估本地快速决策场景的可行性。

  5. World Labs:官网85

    World Labs 宣布加入 AMD,李飞飞将出任 AMD 执行副总裁兼首席科学家

    World Labs 宣布与 AMD 签署最终协议加入 AMD,交易预计于 2026 年底前完成,需监管审批。李飞飞将出任 AMD 执行副总裁兼首席科学家,直接向 CEO Lisa Su 汇报;Justin Johnson 与 Ben Mildenhall 将继续带领 World Labs 团队组建前沿研究组织。

    推荐理由:原文说明了双方从GPU合作到收购的演进,以及核心人员的具体去向,读者可判断这次整合对空间智能方向的改变。

  6. xAI:News66

    xAI 发布 Team Bots:可与团队共享并持续学习的 Grok Bot

    xAI 发布 Team Bots,即可与团队共享的 Grok Bot,通过 Context、Plugins、Credentials 和 Memories 四要素围绕共享角色或工作流构建,每人对话保持私密,并可在 Slack 中协作。

    推荐理由:官方说明了 Team Bots 的四项组成机制和四类团队用法,读者可以据此判断共享型 Grok Bot 如何接入现有工作流。

  7. Databricks:Blog65

    Databricks 如何让 12000 名员工在模型发布首日用上新前沿模型

    Databricks 分享其让全部员工在模型发布首日即可试用新模型的内部流程,依托 Unity Gateway 做配置分发、治理与可观测性。流程分三步:立即以实验标签开放新模型、用四类按人预算控制成本、再依据内部基准、用户反馈和 OpenTelemetry 成本追踪决定推广或下线。

    推荐理由:Databricks 以自家 12000 名员工的实际 rollout 为例,给出可复用的新模型评估、预算分层与成本度量方法。

  8. Sierra:Blog45

    Sierra 将 Ghostwriter 从工具升级为 Slack 和 Teams 里的 AI 队友

    Sierra 把 Ghostwriter 从需要提示的工具改造成常驻 Slack 和 Teams 的主动型 AI 队友,用户可通过 @ 提及获取客服解决率趋势、销售漏斗转化图表或发起实验。新版本会结合团队对话与海量客户交互主动提出洞察和业务建议,并协助把想法转成实验、监测结果直至统计显著。该版本将于下周开始更广泛地推送。

  9. GitHub Blog71

    GitHub 安全团队如何用开源 AI 安全 Agent 找出 24 个 Android 漏洞

    GitHub Security Lab 发布开源 seclab-taskflows 任务流,通过 gather_mobile_entry_point_info.yaml 和 classify_application_local.yaml 等提示词引导 LLM 审计 Android 应用,已发现并报告 24 个漏洞。

    推荐理由:作者以第一手实践拆解了任务流设计与运行步骤,并给出真实漏洞案例和 LLM 局限,方法可直接迁移到自己的项目审计。

  10. OpenAI:官网动态40

    OpenAI 扩大对 Lenfest Institute AI 奖学金计划的支持

    OpenAI 宣布向 Lenfest Institute 的 AI Collaborative and Fellowship Program 追加 500 万美元资金,并提供最高 500 万美元的软件额度和工程支持,使其支持规模较此前翻倍。该计划自 2024 年启动以来已向 11 家美国新闻机构派驻 AI 工程研究员,此次将邀请新一批新闻机构加入。

  11. Anthropic:Newsroom88

    Anthropic 发布 Claude Sonnet 5.5,速度提升 30%+ 且每任务成本最多降低 30%

    Anthropic 发布 Claude Sonnet 5.5,这是 Claude 5.5 家族的第二款模型,输出速度比 Sonnet 5 快 30% 以上,每任务成本最多降低 30%,定价保持输入 $2、输出 $10 每百万 token。

    推荐理由:官方发布给出完整基准数据、定价与安全安排,读者可以据此评估它相对 Sonnet 5 和 Opus 5.5 的定位与迁移成本。

  12. LlamaIndex:产品、工程与评测49

    LlamaParse 为什么表单解析比 VLM 更可靠?

    LlamaIndex 发文解释表单为何需要专用解析器:VLM 擅长通用推理,但表单解析结果并不会随推理增强而变好,且成本更高。LlamaParse 将表单表示为带 id、label、value 的字段与 section 嵌套 JSON 树,能保留复选框、签名及字段归属关系,避免扁平化后两个 "Date" 字段无法区分。

9月28日周一
  1. Epoch AI:Gradient Updates67

    Epoch AI 测算:AI 达到给定基准成绩的价格每年下降 13 倍,快于历史上任何变革性技术

    Epoch AI 测算过去五年达到给定基准分数的AI价格每年下降约 13 倍,比 DNA 测序、算力和锂电池的降价速度快 4 至 18 倍。例如 o3 以平均每题 30 美分在 GPQA Diamond 得到 75%,约 18 个月后 GPT-5.6 Luna 以每题 $0.0004 达到同样分数,降幅 725 倍。作者提示基准价格是市场实际成本的间接代理,数据与代码已在 GitHub 公开。

    推荐理由:原文用五个基准测算了AI性能价格随时间的下降速度,并与其他技术的历史降价曲线对比,数据与代码公开可查。

  2. 字节 Seed:Research Papers59

    字节 Seed 论文发现 DeepSeek-V4 等分块 KV 缓存压缩模型存在周期性检索弱位

    字节 Seed 团队发表论文,发现使用分块 KV 缓存压缩的模型存在相位敏感性:检索精度随信息相对压缩窗口边界的位置周期性波动。在 DeepSeek-V4 系列上,128K 上下文的 NIAH 检索精度跨相位差异最高达 40.2 个百分点,预填充长度变化会让代码补全预测每 4 个 token 周期性翻转,与其压缩步长一致。

  3. Anthropic:Claude.dev 开发者博客87

    Anthropic 发布 Claude Sonnet 5.5,附模型选型与迁移指南

    Anthropic 发布 Claude 5.5 家族第二款模型 Claude Sonnet 5.5,比 Sonnet 5 更聪明、快 30%,多数工作因 token 用量更少而成本最多降低 30%,单 token 价格不变。

    推荐理由:官方指南给出迁移清单、effort 调优建议和 token 用量变化,对已用 Sonnet 5 的团队有直接可操作的参考。

  4. Anthropic:Claude.dev 开发者博客67

    Anthropic 介绍用 Claude Code 与 claude-api skill 自动化评测设计与 hillclimbing

    Anthropic 在 claude-api skill 中新增 /claude-api build-eval 和 /claude-api hillclimb 两个命令,前者在代码库内通过访谈式流程构建评测集并验证 grader,后者以一次一改动、train/test 分离并检测过拟合的方式迭代优化应用。

    推荐理由:Anthropic 官方讲解了评测设计的关键原则,并给出 build-eval 和 hillclimb 两个命令的用法与真实优化案例,可迁移到自己的应用调优。

  5. NVIDIA:Newsroom61

    NVIDIA 董事会批准增加 1500 亿美元股票回购授权,剩余总额达 2350 亿美元

    NVIDIA 宣布董事会批准在现有股票回购计划下追加 1500 亿美元授权,使剩余回购总额提升至 2350 亿美元,为公司历史上最大的回购授权增加。公司预计在 2028 财年内执行完剩余计划,CEO 黄仁勋称此举反映了对 AI 与加速计算长期机遇的信心。

    推荐理由:官方公告给出回购增额、剩余总额和执行时间表,读者可以据此了解 NVIDIA 的资本回报规模与节奏。

  6. MIT News78

    MIT利用AI算法优化RNA疫苗配方,实现室温稳定保存一年

    MIT研究人员借助AI算法优化脂质纳米颗粒(LNP)的辅料配比,成功开发出耐热性更强的RNA疫苗配方。该配方使疫苗在室温下可稳定保存一年,或在37摄氏度下保存两个月,且在小鼠实验中产生的免疫反应与Moderna类似。AI算法通过少量实验数据快速收敛至最优解,将原本需数月的筛选过程缩短至几周。相关成果发表于《Nature Biotechnology》。

    推荐理由:展示了AI在小数据集和复杂生物化学问题中的高效应用,显著加速了药物研发流程,具有明确的科学突破和实际应用价值。

  7. NVIDIA Technical Blog:Agentic AI / Generative AI78

    NVIDIA 发布开源运行时 OpenShell,为 AI Agent 提供权限管控与安全沙箱

    NVIDIA 推出开源项目 NVIDIA OpenShell 0.1.0,这是一个用于定义和执行 AI Agent 访问权限的运行时。它通过沙箱执行、受控服务访问、凭证管理和形式化策略分析,在 Agent 工作负载外部强制实施权限控制。OpenShell 支持 Codex、Claude Code 等框架,允许团队在不重写 Agent 的情况下限制 API 操作、保护凭证并审查权限变更。Cadence、Slack 和 Gecko Robotics 等组织已在芯片设计、企业自动化和物理 AI 等领域采用该技术。

    同一件事,精选收录的是《NVIDIA 发布开源智能体安全平台,提供芯片级持续监控与隔离》

  8. NVIDIA Technical Blog:Agentic AI / Generative AI82

    NVIDIA 发布开源智能体安全平台,提供芯片级持续监控与隔离

    NVIDIA 推出 NVIDIA Open Agent Safety Platform,包含开源运行时 OpenShell、硬件层 Sentry 及 DOCA 技术。该平台旨在通过内核级隔离、零信任环境和带外(out-of-band)监控来防止 AI 智能体行为漂移和越权。OpenShell 将操作指令转化为可验证策略,BlueField DPU 在模型路径上提供实时策略执行与身份治理,确保即使主机不可信时也能独立保护系统。

    推荐理由:针对前沿实验室报告的智能体逃逸风险,NVIDIA 提供了从软件到硬件的完整安全栈方案。其“带外监控”和“芯片级隔离”理念为构建可信 AI 基础设施提供了重要参考,适合关注 Agent 安全落地的开发者与企业。

  9. METR:Notes54

    METR 实现并评估用于 eval 安全的逐动作监控器

    METR 为降低自家评测中智能体造成现实危害的风险,实现并部署了一个实时逐动作监控器,由 LLM 评审每个工具调用,超过 3/10 可疑度即阻断并交人工审查。UK AISI 在真实事故转录上验证 10 个恶意转录全部以至少 8/10 分被检出,约 98% 良性动作评为 0 分,实测误报率约 0.025% 每动作;监控带来约 85% 成本和 43% 延迟开销。

  10. PromptArmor:Threat Intelligence71

    PromptArmor 披露 Elastic AI SOC 存在凭证窃取漏洞,Elastic 未在跟进后修复

    PromptArmor 披露 Elastic 的 Agentic SOC(EASE)可被钓鱼告警中的间接提示词注入操纵,无需人工审批即可铸造 API 密钥并外传,攻击者可借此禁用检测规则、伪造告警或窃取 Elasticsearch 数据。

    推荐理由:报告以完整攻击链演示了 Elastic AI SOC 可被间接提示词注入窃取凭证,并给出可立即执行的缓解配置。

  11. OpenRouter:Announcements58

    OpenRouter 发布 Security Center,集中管理并批量清理 API 密钥

    OpenRouter 发布 Security Center,支持跨工作区查看所有 API 密钥并批量禁用、归档或设置消费上限,所有付费计划均可用。作者自审时发现 85 名员工持有超过 1,000 个活跃密钥,其中 168 个数月未用;功能基于密钥元数据、消费额、限额和有效期生成风险评分,不会读取提示词或补全内容。