如何使用 Google TPU 微基准测试评估 TPU 性能
Google 开源 TPU 微基准测试套件提供网络、计算、HBM、主机传输和注意力组件的细粒度性能指标,帮助开发者验证真实硬件能力。通过基准测试建立 Roofline 模型,工程师可准确诊断机器学习工作负载是受计算、内存还是网络限制。该经验基线可直接指导内核调优、网格分片和重物化等软件优化,以最大化大规模模型部署的硬件利用率。
Google 开源 TPU 微基准测试套件提供网络、计算、HBM、主机传输和注意力组件的细粒度性能指标,帮助开发者验证真实硬件能力。通过基准测试建立 Roofline 模型,工程师可准确诊断机器学习工作负载是受计算、内存还是网络限制。该经验基线可直接指导内核调优、网格分片和重物化等软件优化,以最大化大规模模型部署的硬件利用率。
Cursor 将开发环境本身作为面向智能体的产品来构建,使云智能体能测试代码变更。团队通过统一跨平台工具链、开发 CLI 工具 anydev 简化构建命令,并构建 Cursor Cloud MCP 实现环境自愈。目前,云智能体在 Cursor 单体仓库中提交的合并 PR 占比已从去年 12 月的约十分之一升至过半。
2026 年 6 月 23 日起,开源 CDN 服务 cdnjs 完全运行在 Cloudflare 开发者平台上。该平台日均处理 108,000 次请求/秒、90 亿次请求,缓存命中率 98.6%。LLM 如 ChatGPT 和 Claude 因 URL 模式一致且版本不可变,频繁调用 cdnjs 生成 HTML 演示。
OpenAI 推出 GPT-5.6 模型家族,旗舰版 GPT-5.6 Sol 在开启最大推理时以不到一半的成本超越 Claude Fable 5 的 Artificial Analysis Coding Agent Index 得分。
推荐理由:GPT‑5.6 不光是新模型,它自己参与了推理栈优化,20% 成本降幅是实打实的工程突破,做 AI 应用的该重新算一下每次调用的成本了。
Similarweb 使用 LangSmith 评估 AI 智能体生成的长篇研究报告,通过评分标准(rubrics)、忠实度检查(faithfulness checks)、追踪(traces)和基线对比(baseline comparisons)来系统化评测质量。该方法帮助团队量化报告准确性、减少模型幻觉,并建立可复用的评估流程。
Fireworks 基于 Qwen3.5-9B 的 SFT 对照实验提出,FullFT 优于 LoRA 时应先依次检验数据覆盖、学习率等训练配方和 adapter rank,而非直接归因于 adapter 容量。
OpenRouter 发布了 langchain-openrouter(Python)和 @langchain/openrouter(TypeScript)专用包,让 LangChain 应用无需改造即可调用 400+ 模型和 70+ 提供商。ChatOpenRouter 自动处理负载均衡与故障切换,切换模型只需修改 `provider/model` 格式的字符串。
推荐理由:OpenRouter官方的LangChain专用包,替换掉了用ChatOpenAI加base_url的老路子,但从零折腾一次安装配置的必要性,只对已绑定OpenRouter的团队成立。
Fireworks 发布一条低于 10 美元、约 150 步的对比微调配方,将 Qwen3-Embedding-8B 适配到特定检索领域。
推荐理由:原文用真实任务给出完整可复现的对比微调配方和成本数字,读者可以据此判断是否迁移到自己的检索场景。
Databricks 发布了一份 AI 客服指南,涵盖策略、AI 智能体与解决方案。该指南聚焦于利用自然语言处理等技术构建客服智能体,并提供了从部署到优化的完整框架。指南未提及具体模型版本或 benchmark 分数,主要面向企业级客服场景的架构设计。
Databricks 通过 Unity AI Gateway Budgets 管理内部编码智能体的 API 调用成本,为不同团队设置预算上限并实时监控支出。该系统支持按项目、用户或模型分配额度,超出阈值时自动触发告警或限流。此举旨在控制 AI 工具使用成本,同时避免影响开发效率。
NVIDIA Jetson 平台为边缘 AI 和机器人提供紧凑型开发套件,可放入手提包中。其中 Jetson Orin Nano Super 具备 67 TOPS 的 AI 性能,支持运行 Mistral 等开源模型,所有推理均在本地 GPU 加速完成,无需云端或 API 密钥。
Google Search 新增多项 AI 功能,帮助用户策划晚宴。AI Mode 可协助设计餐桌装饰(Nano Banana 功能)、生成菜单、推荐饮品搭配,并支持连接 YouTube Music 创建播放列表。用户还可通过 AI Mode 快速设计可打印的菜单。
Google Search 的 AI Mode 新增 5 项工具,帮助用户规划线下活动。功能包括:通过 Personal Intelligence 连接 Google Calendar 推荐本地课程;在 AI Mode 内直接购物并查询附近库存;利用 Canvas 生成桌游策略指南并模拟对弈;根据预算和人数筛选并预订演唱会等门票;连接 Canva 生成邀请函设计。
推荐理由:Google搜索的AI Mode把线下生活场景串起来了,从找课到订票都是实用教程,对普通用户比单纯benchmark更有体感,看完就能照着做。
LangChain 利用 Hex、dbt、语义模型和可观测性工具构建了一个可信数据智能体,将自服务分析规模提升了 40 倍。该方案通过语义层统一指标定义,结合 Agent 框架实现自然语言查询,并借助可观测性监控查询质量与数据血缘。这一 Agent-First 数据栈为团队提供了从数据准备到自助分析的端到端可信路径。
Databricks 提出 AI 素养框架,定义了个体理解并有效使用 AI 工具的能力。该框架涵盖基础概念理解、工具实操、伦理评估与协作实践四大维度,并配套提供评估工具与培训指南。企业可据此设计内部 AI 培训计划,提升团队在 LLM、RAG 等关键技术上的应用水平。
Databricks 推出 Genie One,一款面向业务用户的 AI 协同工作工具,旨在帮助非技术员工通过自然语言与数据交互。Genie One 支持数据查询、报告生成和自动化工作流,无需编写代码即可完成常见业务任务。该工具现已通过 Databricks 平台提供,降低了企业用户使用 AI 分析数据的门槛。
同一模型在不同提供商端点上的表现因基础设施、量化、负载处理和路由默认设置而异。评估需测量延迟、吞吐量、正常运行时间和精度,并将测量结果转化为路由策略。
推荐理由:做 LLM 路由的开发者必读,OpenRouter 给出了衡量延迟、吞吐和精度的实操框架,把选型从 benchmark 转向真实性能,生产环境可以直接落地试。
Cerebras 发布 MoE 调试指南,基于 modded-nanogpt 的 124M GPT-2 基线手把手训练 4 专家 MoE 模型。
推荐理由:原文给出了完整的 MoE 路由调试过程和一行修复方法,读者可以照着复现并迁移这套假设驱动的调试思路。
GitHub Copilot 推出“Harness”工作流,让开发者通过单一 AI 工具完成从原型设计、规划、实现到代码审查的完整软件开发流程,无需追逐多种新 AI 工具。该工作流强调实用性与集成性,旨在减少工具切换带来的效率损耗。
推荐理由:GitHub Copilot 官方出的实用工作流,不追新工具,把现有功能用透,用 Copilot 的开发者直接能套的「内功心得」。
GitHub Copilot 推出一个实用工作流,让开发者用单一工具完成软件原型设计、规划、实现与代码审查,无需追逐每款新 AI 工具。该工作流将 Copilot 的聊天、内联代码补全、代码审查与 GitHub Actions 集成,覆盖从需求到部署的完整闭环。
GitHub Copilot app 将 AI 编码工具升级为多 Agent 会话工作区,支持同时管理多个任务线程而不丢失进度。用户可为每个会话绑定项目上下文,通过 `/create-canvas` 命令在浏览器 Canvas 中预览 UI 并直接点选修改,还能启用 Agent Merge 自动处理 PR 审查反馈和合并冲突。
推荐理由:GitHub Copilot 应用把 AI 编程拆成多会话、画布和 Agent Merge,让 '一键修 bug' 变成真·项目管理流,Copilot 用户该上手试试。
OpenRouter 通过专用 `/api/v1/images` 端点提供图像生成模型服务,图像理解仍通过 `/chat/completions` 端点完成,两者共用同一 API Key 和计费体系。该平台同时公布了两种任务的完整接口合约,并修复了此前出现的“no endpoints found”错误。
Trilogy AI Center of Excellence 围绕在 Fireworks 上运行的 Kimi K3 发布公开 AI 网络安全手册和练习包,含交互式手册、代码仓库和十个练习。
Anthropic 产品设计师 Nate Parrott 分享了他在 Claude Design(beta 版)中利用 HTML 交互能力进行产品原型、幻灯片、动画等视觉创意探索与迭代的方法。他将 Anthropic 品牌规范提炼为提示词,使输出自动符合品牌指南。Claude Design 不包含图像模型,不适合 Logo 设计,但可与 Claude Code 协同工作,将早期创意与生产开发衔接。
Databricks 发布了一份金融 AI 应用实用指南,系统梳理了机器学习与自然语言处理在风控、欺诈检测、算法交易及合规报告中的具体落地场景。指南强调利用 Lakehouse 架构统一数据与 AI 工作流,并给出了模型部署、特征存储及实时推理的工程实践建议。该指南面向数据科学家与金融工程师,旨在降低 AI 在金融领域的实施门槛。
Anthropic 发布 Claude 模型选择指南,将模型分为 Mythos/Fable(最强能力,用于前沿编码与智能体任务)、Opus(推理密集型企业任务)、Sonnet(日常通用任务)和 Haiku(最低成本与最快速度)四个类别。
Anthropic 为 Claude Opus 5 和 Claude Fable 5 等新一代模型删除了 Claude Code 超过 80% 的系统提示词,且编码评测无显著损失。
推荐理由:Anthropic 官方首次分享他们为 Claude 5 代模型移除了 Claude Code 80% 系统提示的实践,五条新规则颠覆了旧有的提示工程常识,每个用 Claude Code 或自建 agent 的开发者都该对照看看自己的系统提示是否在「过度约束」模型。
Anthropic 员工 Thariq Shihipar 介绍为 Claude 5 系列模型(如 Claude Opus 5 和 Claude Fable 5)做上下文工程的新方法:团队为这些模型删除了 Claude Code 超过 80% 的系统提示词,在编码评测上没有可测量的损失。
推荐理由:作者分享了为 Claude 5 系列模型做上下文工程的新原则,并给出可直接套用到 CLAUDE.md、Skills 和引用文件的落地建议。
LangChain 重新设计了 Deep Agents 的基准评测方式,并在 Harbor 平台上运行覆盖编码、对话和检索三类任务的评估流程。该评测方案用于指导 Deep Agents 的版本迭代与变更发布。
美国 FDA 基于 Databricks 数据平台构建了一套 AI 平台,目前已有 85% 的员工每日使用。该平台通过整合内部数据与 AI 能力,帮助监管人员更高效地处理药品审批、食品安全监测等核心任务。这一成果展示了基础数据平台在政府机构中推动 AI 落地的实际价值。
Databricks 现场工程团队构建了一套自助式基础设施供应系统,旨在让客户更高效地部署和管理 AI 智能体。该系统通过自动化资源调配,将基础设施交付时间从数周缩短至分钟级,支持 GPU、存储和网络等资源的按需分配。目前该平台已在内部使用,并计划逐步向外部客户开放。
Databricks 发布 Delegated IAM Permissions 功能,允许用户通过委托 IAM 权限直接连接 Amazon S3 数据,无需手动管理跨账户角色或访问密钥。该方案简化了 S3 连接配置流程,降低了安全风险,并支持细粒度权限控制。
施耐德电气利用 LangSmith 搭建企业级 LLMOps 基础,以提升 AI 产品的可观测性、评估与大规模部署能力。该实践聚焦于通过 LangSmith 实现对 LLM 应用的监控、调试与持续优化,从而保障生产环境的可靠性与效率。
DaoCloud 团队在 24 块 NVIDIA B300 GPU 上以 4 Prefill + 1 Decode 分离拓扑部署 GLM-5.2-NVFP4,将平均 TPOT 从约 40 ms 降到 17 ms,满足 mean TTFT ≤ 2.5 s、mean TPOT ≤ 20 ms 的生产 SLA。
AI 网络安全平台 Outtake 基于 Claude,使用 Claude Code 和 Agent SDK 构建了自主网络调查智能体 Recon Agent。
Anthropic 介绍了如何在 Claude Code 中将手动检查转化为验证循环,让 Claude 自动检查并修复工作成果。内置验证包括 `/verify` 技能、代码审查、GitHub Actions 和规范验证等。用户可通过 skill-creator 插件或编写 Markdown 文件创建自定义技能。
vLLM 发布 Kimi K3 生产级支持预览,为 2026 年 7 月 27 日前开放权重做好 day-0 开源服务准备。
推荐理由:vLLM 官方拆解 Kimi K3 带来的推理挑战,KDA 前缀缓存与 MoE 优化细节对部署混合注意力模型的团队有参考价值。
OpenRouter 通过 Prompt Caching 与 Sticky Routing 降低多轮 Agent 的 token 成本。缓存读取价格仅为正常输入的 0.1x-0.5x,其中 Claude Sonnet 4.6 缓存读取为 $0.30/M(正常 $3.00/M)。
推荐理由:Prompt caching 不是新概念,但 OpenRouter 把成本算得明明白白,sticky routing 配合 session_id 解决了缓存漂移的痛点,做 agent 的人该抄作业。
GitHub Copilot 在应用中推出 canvases 扩展,这是一种共享交互式界面,开发者和 AI 智能体可在其中实时协作。用户通过 `/create-canvas` 指令创建画布,Copilot 可动态更新内容,用户则通过点击、编辑等操作与同一工作区交互。示例包括快速分类 Issue、生成交互式代码库关系图、管理会话工作树、优化提示词质量以及跨平台搜索知识联系人。
推荐理由:Copilot 的 canvas 把对话变成可拖拽可点击的交互界面,处理 issue、探索代码都变得直观,日常依赖 Copilot 的开发者可以直接用起来。
文章介绍了如何使用 LlamaParse 构建抵押贷款申请中的文档提取工作流。针对 W-2、银行流水、税表等常见贷款文件,提供了基于 Pydantic 的数据模型定义和代码实现,展示了不同提取模式(Cost-Effective vs Agentic)的选择策略,并涉及跨文档验证与合规性处理。