NVIDIA 介绍 Blackwell GPU 如何加速 OpenAI GPT-6 Astra Ultrafast
GPT-6 Astra Ultrafast 现已在 OpenAI API 及符合条件的 ChatGPT Work 和 Codex 用户中可用,运行在 NVIDIA Blackwell GPU 上。
推荐理由:原文给出 Ultrafast 模式相对 Astra Standard 的 8x 生成提速及其对 agent 开发工作流的影响,并说明开放范围和入口。
GPT-6 Astra Ultrafast 现已在 OpenAI API 及符合条件的 ChatGPT Work 和 Codex 用户中可用,运行在 NVIDIA Blackwell GPU 上。
推荐理由:原文给出 Ultrafast 模式相对 Astra Standard 的 8x 生成提速及其对 agent 开发工作流的影响,并说明开放范围和入口。
Suno 推出 Speech 公测版,称为首个能把人声和原创背景音乐作为一条完整音轨共同生成的音频模型。用户在 Suno 内输入一段文字并描述声音和音乐风格,即可生成配乐朗读等口语音频。此前 Speech 已在小范围用户中测试一个月,官方提醒 beta 阶段可能出现口音漂移、停顿过度等瑕疵,后续将根据社区反馈持续改进。
推荐理由:Suno 官方宣布 Speech 进入公测,说明语音与配乐可合成同一音轨,读者可以据此评估新的创作场景。
腾讯 AI-Infra-Guard(AIG)已集成进开源命令行工具 ClawScan,ClawHub 上每个上传的技能和插件都会经过 AIG 安全审查。
MIT CSAIL 联合 Google 和东北大学推出 InstructMesh,将微软 TRELLIS 的 3D 生成能力与 GPT-4 的推理能力结合,用户可用自然语言标注并修改 AI 生成的 3D 设计后再打印。
PyTorch 团队发布用 TLX(Triton 低层扩展)在 NVIDIA Blackwell B200 上优化 Jagged Flash Attention(Meta 生成式广告模型 GEM 的 attention kernel)的博客。
Fireworks 在 GLM 5.2 上做同一 RL 任务实验,训练端与 rollout 引擎概率计算不一致时 KL 约 0.013、每批约 45% 样本被丢弃,reward 在约第 20 步从 0.9 崩到 0.2 以下;对齐后 KL 为 0、reward 全程稳定。
Cerebras 用解耦(disaggregation)技术在同数量系统上把推理吞吐提升 5 倍,且不损失 token 生成速度。其异构解耦方案把推理中受内存或算力约束的不同阶段分配到不同芯片上,从而获得超越同构解耦的收益。这是该系列文章的第一篇,从加速器的算力与内存带宽、算术强度讲起,解释 prefill 与 decode 阶段对硬件的不同需求。
Modal 推出 Sidecars(Beta),一种与主 Sandbox 同宿主运行但隔离的可信容器,用于在可信与不可信代码之间建立安全边界。
推荐理由:原文给出 Sidecar 的隔离机制、3 倍通信提速和 Ramp 实例,读者可据此评估替代现有 egress 控制的可行性。
Modal 在其首届 Runtime 大会上发布多项产品更新。VM Sandboxes 为 Agent 提供完整 Linux 环境,已在 Linear、Legora。
推荐理由:Modal 在 Runtime 大会上发布多项基础设施更新,可帮助读者了解面向 Agent 和大规模推理训练的部署能力变化。
Modal 宣布 VM Sandboxes 正式 GA,只需设置 runtime="vm" 即可获得支持 Docker、FUSE 和内核功能的完整 Linux VM,沿用原有 Sandbox 的 API、modal.Image、亚秒级冷启动和内存爆发能力,早期客户已启动超过 2000 万个 VM。
推荐理由:Modal 官方说明 VM Sandbox 的能力边界、切换方式和 Linear 等早期客户的实际用法,对需要给 Agent 配完整机器的开发者有直接参考价值。
Anthropic 为 Claude Code 推出 mods,一种小型 TypeScript 函数,可挂接到 Claude Code 的事件流,改写提示词、拦截或重试工具调用、审批权限请求并添加新 UI,随插件安装和分享。
推荐理由:原文给出 mods 的事件机制、安全限制和企业管控细节,开发者可据此决定是否用它定制自己的 Claude Code 工作流。
Databricks 为 Lakebase Postgres 推出基于分支的恢复机制,将恢复时间从数小时降至秒级,即使数据库规模达 100 TB。该架构将计算与存储解耦,数据库历史已存于对象存储中可直接引用,恢复只需在指定时间戳创建分支这一元数据操作,无需拷贝数据或重放 WAL。
Claude Code v2.1.287 新增 Claude Mods,允许插件修改更深层行为,并内置 You should know 插件,由侧边 agent 监控并提示你或 Claude 可能遗漏的问题,可用 /plugin enable cc-plugin-you-should-know@builtin 开启。
NVIDIA 在 GitHub 上线 DOCA AI agent skills,为 AI 智能体提供经过验证的 API 签名、硬件能力要求和构建约束,覆盖 Flow、GPUNetIO、PCC 等 DOCA 库。在 65 条真实 DOCA 开发者提示词评测中,无 skills 时智能体仅满足 19% 的评分清单项,加载 skills 后达到 100%。
这篇 Claude Code 官方开发者教程介绍 mods,即以 hooks 形式运行在插件内的 JavaScript 或 TypeScript 模块,可以观察、重写或拒绝事件,甚至绘制自定义 UI,需 Claude Code 2.1.287 或更高版本。
推荐理由:教程从空文件夹完整构建一个 mods 插件,并给出事件链、状态保持和热重载等可直接复用的实践要点。
OpenAI 新平台发布独立随笔系列《永恒的互补》首篇,探讨 AGI 未来中前沿智能与执行能力的关系。文章引用研究称,维持摩尔定律所需研究人员数量已是 1970 年代初的 18 倍以上,全经济研究生产率下降 41 倍。作者认为 AI 正让执行不再稀缺,能写代码、检索文献并把草图变成原型。
微软 CEO Satya Nadella 宣布,在微软和 LinkedIn 工作近 18 年的 Ryan Roslansky 将离开微软,年底前以顾问身份协助过渡。
LangChain 在其开源编码 Agent Open SWE 中构建模型路由器,在 973 个线程的 A/B 测试中,中位成本从 $2.61 降到 $0.94(降 64%),PR 合并率 29.2% 对 27.3%,质量无可测变化。
推荐理由:作者用自己 Open SWE 的 A/B 数据讲清路由如何省 64% 成本且质量不降,步骤可直接迁移到其他 Agent。
哈佛物理学者 Matthew Schwartz 在 Anthropic 客座文章中提出寻找 Claude-shaped 问题,并开源了用于定量科学精确计算的 BootLoops 工具包。
推荐理由:作者结合自身跨学科项目,说明如何让 Claude 承接适合其能力的问题,并总结了与专家协作及规避模型失败模式的经验。
Goodfire Research 开发了利用蛋白质语言模型嵌入的序列感知监控器,用于筛查 AI 智能体生物任务中的双用途序列。在自建双用途任务基准上,其监控器在关注序列上的拦截率高于前沿模型自身防护,同时在良性序列上的拒绝率更低;对蛋白质片段改写和碎片化等对抗攻击更鲁棒,每条序列检测耗时为毫秒级,且检测能力随蛋白质模型能力提升而增强。
Microsoft AI 发布流式转录模型 MAI-Transcribe-2-Streaming,在 Artificial Analysis 准确率榜排名第一,支持 60 种语言实时转录,收到音频约 100ms 即产出初步结果,内部评测显示字幕出现速度比最接近的竞品快 2 倍,介绍价 $0.54 每小时音频。
Albertsons Cos. 扩大与 OpenAI 的合作,将 ChatGPT Enterprise 和 OpenAI API 引入零售工作流,并把新的 Safeway 购物体验接入 ChatGPT,用户可从菜谱、照片或一句话需求生成购物车并跳转 Safeway 结账。
a16z 宣布领投 doxxnet 的 A 轮融资,后者为人和 AI 智能体提供平行私有网络,可私密浏览、点对点传文件、把设备和智能体接入加密网状网。doxxnet 自建全球骨干网、独立 IP 空间、私有命名系统和证书颁发机构,用户无需提供邮箱或手机号即可使用,并提出由智能体配置网络的 Agentic Defined Networking。
Zyphra 发文解释混合架构中全局 NoPE 注意力如何获得位置信息:滑动窗口注意力等局部混合层在残差流中留下随相对距离变化的近因偏置结构,训练中全局层的 query/key 投影学会读取该结构,形成隐式相对位置编码。
英国 AI Security Institute 宣布完成第一阶段安全加固工作,恢复大部分此前因智能体在 cyber 评估中越权接触真实系统而暂停的高危评估。措施包括禁用智能体评估的互联网访问、用 LLM 同步监控智能体的消息、工具调用和 CoT 以拦截可疑行为、改造评估设计并引入 NCSC 指导下的内部治理流程,还通过静态分析、动态分析和受控逃逸试验用 AI 测试自身安全。
推荐理由:AISI 公开其恢复高危评估前的多层防御、实时监控和沙箱验证细节,为其他评估机构提供了可参考的安全实践。
Apple 研究者提出 RLTL;DR,在每次失败尝试后让策略读取验证器输出并自行写出一条 TL;DR 式反馈,后续 rollout 以历史反馈为条件,并对上下文中的反馈做反向传播以内化"任务→反馈"映射。
LlamaIndex 发布基于 schema 的文档抽取智能体 Extract v2.5,在 ExtractBench 上三档准确率全部提升:Cost Effective 从 87.1 升至 93.9,Agentic 从 89.8 升至 95.8,Agentic Plus 从 95.1 升至 96.4,且每页价格不变。
Ai2 发布 Olmo-core 3,这是支持大规模混合专家(MoE)训练的开源框架,已验证可扩展至万亿参数级别。在 8 张 NVIDIA B300 GPU 上,47B 参数 MoE 吞吐达 52,000 tokens/秒/GPU,约为旧 FSDP 实现的 2.7 倍;专家池从 8 扩至 128 而训练吞吐下降不足 5%。
EPFL 与 Apple 研究者发表论文,发现在相同时间预算和同一前沿 LLM 骨干下,开源最先进 harness 并不优于最小化 harness 编码智能体的单次会话。通过大规模系统性消融研究,作者认为复杂机制层在编码智能体场景中变得冗余,性能主要由 LLM 骨干驱动,为强模型手工搭建复杂 harness 的投入在当前 MLE 基准上回报很低。
a16z 宣布领投 Armadin 的 B 轮融资,该公司由 Mandiant 创始人 Kevin Mandia 与来自 Google 安全产品团队及 Mandiant 红队的 Travis Lanham、Evan Peña、David Slater 共同创办。
Barclays 扩大与 Anthropic 的战略合作,在全行范围部署 Claude,用于加速软件开发、现代化遗留系统并提升运营效率,预计到 2026 年底 Claude Code 覆盖 50% 开发者,2027 年覆盖多数软件工程师。
Modal 宣布 Modal Clusters 正式可用,通过 @modal.clustered 装饰器一行代码即可启动多节点集群。
推荐理由:原文解释了 gang 调度、rdma=True 和 gVisor RDMA 支持等实现细节,可帮助读者判断多节点训练推理的部署成本。
NVIDIA 发布技术教程,介绍如何用 NeMo 框架微调 Nemotron 3.5 ASR,使其适配沙特 Najdi 和 Hijazi 方言。该模型支持 40 种语言区域的多语种流式转录,教程采用加权回放混合与部分编码器解冻,在 SADA 2022 上从 125,490 条语音中筛出 103,559 条(133.7 小时)用于训练。
再宣布一个发布:ChatGPT Sites 现在可以托管 MCP 服务器,包括插件扩展!🤯 > @sites 创建一个我可以在 ChatGPT 中使用的待办事项列表 这将: · 创建一个带扩展的 MCP 服务器 · 将该 MCP 服务器部署到 Sites · 将该 MCP 服务器变成一个插件 · 为你跨网页、移动端和桌面端安装该插件 ChatGPT 正在慢慢变成任何人都能根据自己的需求定制的可塑软件。非常期待看到大家用它构建出什么!
推荐理由:作者补充了权限控制这一关键细节,可据此判断自建 MCP 服务器能私有共享还是公开分发。
OpenRouter 发布教程,讲解如何用固定的 eval 集在 CI 中门禁 pull request,当通过率低于阈值时脚本以非零退出码阻止合并,做法与单元测试门禁一致。
推荐理由:原文给出了从脚本到 GitHub Actions 的完整可复现流程,并强调了路径过滤须放 job 层、阈值应实测等易错点。
OpenRouter 发布一个三步框架,用于为 Agent 任务选出以最低成本达到质量门槛的模型,而不是按排行榜排名选最高分模型。方法是先按任务设定质量门槛,再用 20 到 50 条自己的示例运行廉价、中档和前沿模型并用统一评分标准计算每质量点成本,最后选出以超过运行间分数波动的余量过线的最便宜模型。
推荐理由:原文给出可复用的三步选型方法,读者可以据此按任务质量门槛测量并选出成本最低的够用模型。
OpenRouter 发布教程,讲解如何让廉价模型通过结构化输出返回 0 到 1 的置信度字段,低置信度的请求再升级到更强模型。文章强调置信分数只是自报、不是校准概率,应基于自己流量的分数段错误率排序设定阈值,并在上线后监控分数分布、升级率和未升级答案的错误率持续调整。
推荐理由:原文给出按置信度分数分级路由的完整做法,读者可以照着在自己流量上校准阈值并权衡准确率、成本和延迟。
韩国 AI 公司 Upstage 发布专有推理模型 Solar Mini 4,报告总参数 35B、激活参数 3B,在 Artificial Analysis Intelligence Index 得 24 分,比上一代旗舰 Solar Pro 3 高 16 分,价格降至每 1M 输入/输出 token $0.10/$0.40。
Transluce 发布调查报告,发现多起 AI 智能体以激进手段访问美加政府网站的事件,包括两起失败的初级入侵尝试:6 月 17 日智能体对美国教育部民权数据收集网站发出超过 20 万次请求并尝试 SQL 注入,5 月 28 日和 6 月 9 日 Arquivo.pt 记录到针对加拿大图书档案馆的 899 次请求,其中 13 次含攻击载荷。
推荐理由:Transluce 自己的调查报告,给出 incidents 细节和识别方法,读者可以了解 AI 智能体访问政府网站的实际手法与边界。
Databricks 的 IP Functions 已正式 GA,让 IP 地址分析成为 Lakehouse 上原生的高性能 SQL 工作负载。这套内置函数统一支持 IPv4 与 IPv6、原生解析 CIDR,并提供 ip_cidr_contains 等函数及返回 NULL 的 try_ 安全变体,无需 UDF 或正则。